怎么用python爬虫分析动态网页的商品信息-创新互联

这篇文章主要介绍怎么用python爬虫分析动态网页的商品信息，文中介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们一定要看完！

成都创新互联专注于企业网络营销推广、网站重做改版、化州网站定制设计、自适应品牌网站建设、H5响应式网站、商城网站建设、集团公司官网建设、成都外贸网站建设、高端网站制作、响应式网页设计等建站业务，价格优惠性价比高，为化州等各大城市提供网站开发制作服务。

先安装Puppeteer库，用到的也就只有这个库：

npm install puppeteer

链接网页也非常简单，只需要几行代码：

const puppeteer = require('puppeteer')
 
//启动浏览器
const browers = await puppeteer.launch()
//启动新页面
const page = await browers.newPage()
//链接网址
await page.goto(url)

拿到了同类所有商品的标签信息，接下来开始分析信息。获取里面所有商品的名称，然后对照关键字是否存在，如果存在则将headless改为false弹出窗口提醒，如果不存在则在半小时后再次链接。Puppeteer提供了一个等待命令page.waitFor()，不仅可以按时间等待，也可以按某个元素的加载进度进行等待。

const goods = page.$$eval('#auctionRecommend > div.mc > ul > li', el => {
    //错误和关键字不存在都会返回false
    try {
        for (let i = 0; i < el.length; i++) {
            let n = el[i].querySelector('div.p-name').textContent
            if(n.includes('妙控板')){
                return true
            } else {
                return false
            }
        }
    } catch (error) {
        return false
    }
})
 
if(!bool){
    return console.log('网页已打开，不再监控')
}
 
//根据goods里面的回调函数返回ture或false来决定是否开启浏览器界面
await goods.then(async (b) => {
    if(b){
        console.log('有货了！')
        await page.waitFor(2000)
        await browers.close()
        return requestUrl(false)
    }  else {
        console.log('还没货')
        console.log('三十分钟后再尝试')
        await page.waitFor(1800000)
        await browers.close()
        return requestUrl(true)
    }
})

以上是“怎么用python爬虫分析动态网页的商品信息”这篇文章的所有内容，感谢各位的阅读！希望分享的内容对大家有帮助，更多相关知识，欢迎关注创新互联行业资讯频道！

网页名称：怎么用python爬虫分析动态网页的商品信息-创新互联
标题网址：http://cdkjz.cn/article/cccoop.html