Как исправить ошибку очистки Puppeteer

Я хотел бы сохранить HTML-код веб-страницы с помощью node.js и puppeteer. Когда я запускаю программу с «headless-browser: false», я вижу, что страница загружается полностью, все данные есть. Но если я попытаюсь сохранить HTML, я получу только это:

<!DOCTYPE html><html><head>
<meta name="ROBOTS" content="NOINDEX, NOFOLLOW">
<meta http-equiv="cache-control" content="max-age=0">
<meta http-equiv="cache-control" content="no-cache">
<meta http-equiv="expires" content="0">
<meta http-equiv="expires" content="Tue, 01 Jan 1980 1:00:00 GMT">
<meta http-equiv="pragma" content="no-cache">
<meta http-equiv="refresh" content="10; url=/distil_r_captcha.html?requestId=16a-84c6-42b6-9023-a45b3854e34c&amp;httpReferrer=%2Fli">
<script type="text/javascript">
        (function(window){
                try {
                        if (typeof sessionStorage !== 'undefined'){
                                sessionStorage.setItem('distil_referrer', document.referrer);
                        }
                } catch (e){}
        })(window);
</script>
<script type="text/javascript" src="/elrhculcipoedjwh.js" defer=""></script><style type="text/css">#d__fFH{position:absolute;top:-5000px;left:-5000px}#d__fF{font-family:serif;font-size:200px;visibility:hidden}#xaqctssquudxqdqxzveurrreayw{display:none!important}</style></head>
<body>
<div id="distilIdentificationBlock">&nbsp;</div>
</body></html>

Так что я немного запутался: если веб-страница знает, что запрос пришел от робота (= поэтому я могу загрузить только этот заблокированный HTML-код), то почему появляется контент? Или с другой точки зрения: если веб-страница не знает, что запрос пришел от робота (= поэтому отображается контент), то почему я могу загрузить только этот заблокированный HTML?

Мой код:

const puppeteer = require('puppeteer');

(async () => {

    const browser = await puppeteer.launch({ headless: false });
    const context = await browser.createIncognitoBrowserContext();
    const page = await context.newPage();

    await page.evaluateOnNewDocument(() => {
        Object.defineProperty(navigator, 'webdriver', {
            get: () => false,
        });
    });

    await page.evaluateOnNewDocument(() => {
        window.navigator.chrome = {
            runtime: {},
        };
    });

    await page.evaluateOnNewDocument(() => {
        const originalQuery = window.navigator.permissions.query;
        return window.navigator.permissions.query = (parameters) => (
            parameters.name === 'notifications' ?
                Promise.resolve({
                    state: Notification.permission
                }) :
                originalQuery(parameters)
        );
    });

    await page.evaluateOnNewDocument(() => {
        Object.defineProperty(navigator, 'plugins', {
            get: () => [1, 2, 3, 4, 5],
        });
    });

    await page.evaluateOnNewDocument(() => {
        Object.defineProperty(navigator, 'languages', {
            get: () => ['en-EN', 'en'],
        });
    });

    await page.setViewport({
        'width': 1024,
        'height': 768,
        'deviceScaleFactor': 1,
        'isMobile': false,
        'hasTouch': false,
        'isLandscape': false
    });

    await page.setUserAgent('Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.103 Safari/537.36');
    await page.goto(url, { waitUntil: 'load' });
    const html = await page.content();
    console.log(html);
    await browser.close();
})();

Как я могу решить эту проблему? Может быть, я пытаюсь сохранить HTML-код слишком рано? Заранее спасибо.


node.js javascript puppeteer data-extraction
person Con Troll    schedule 12.04.2019    source источник

Ответы (1)


arrow_upward
0
arrow_downward

Я думаю, что нашел решение. Поскольку целевая веб-страница имеет некоторую систему защиты от ботов, при ее загрузке сначала отображается «пустая» страница только с одним div. После этого он перенаправляет на контент. Поэтому мне пришлось добавить

await page.waitFor(5000)

дождаться полной загрузки страницы.

person Con Troll    schedule 13.04.2019