大橙子网站建设,新征程启航
为企业提供网站建设、域名注册、服务器等服务
本篇文章给大家分享的是有关使用Puppeteer 怎么爬取动态生成的网页,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。
创新互联建站始终坚持【策划先行,效果至上】的经营理念,通过多达十年累计超上千家客户的网站建设总结了一套系统有效的推广解决方案,现已广泛运用于各行各业的客户,其中包括:成都柔性防护网等企业,备受客户赞美。
1. 需求
首先,了解下我们的需求: 爬取zoomcharts 文档中 Net Chart
目录下所有访问连接对应的页面,并保存到本地
2. 研究 ZoomCharts 文档页面结构
首先,我们得研究透 ZoomCharts 页面如何加载,以及左侧导航的 DOM 树结构,才好进行下一步操作
页面首次加载
页面首次加载,左侧导航第一个目录 Introduction
高亮,从控制台可看出,该元素增加了 active
类,同时 li[data-section="net-chart"]
节点下只有一个元素节点 a
点击 Net Chart
目录
点击 Net Chart
目录, Net Chart
目录高亮,下拉显示子目录,查看控制台,其元素节点增加 active
类,并增加 ul
子元素节点, 此时,第一个子目录节点也只有一个子元素节点 a
结论
不难发现, 左侧目录是动态生成的,而不是静态写死的,只有点击父级目录,其子目录才会生成显示,同时,父级目录元素上的 drop
类表明存在子级目录
3. 编写主程序
通过上面分析,得出大概流程如下
从上到下,遍历 Net Chart
目录的 DOM 树,当找到 a.drop
的元素节点,模拟鼠标点击事件 click
,生成子目录节点
找到 Net Chart
目录下所有的 a
链接,生成一个数组
遍历数组,访问每一个子目录页面,保存页面的 html 文件到本地
接下来实现每个具体流程
项目初始化
安装 puppeteer
, rimraf
(文件夹操作时需用到)
npm i -S puppeteer rimraf
新建 test.js
文件并引入
const puppeteer = require('puppeteer'); const chalk = require('chalk'); const path = require('path'); const https = require('https'); const fs = require('fs'); const rm = require('rimraf'); const settings = { headless: false } function resolve(dir, dir2 = '') { return path.posix.join(__dirname, './', dir, dir2); } async function main () { const browser = await puppeteer.launch(settings); // 创建一个Browser 对象 try { const page = await browser.newPage(); // 使用 Browser 创建 Page page.setDefaultNavigationTimeout(600000); // 监听 console page.on('console', msg => { for (let i = 0; i < msg.args().length; ++i) { console.log(`${i}: ${msg.args()[i]}`); } }); // main 区域 console.log('服务正常结束') } catch (error) { console.log('服务出现错误:') console.log(error) } finally { } } main()
接下来所有代码都在 main
区域内完成, 完整代码可访问github代码仓库 查看,下面仅列出每部分的思路
创建文件夹,用于保存爬取的文件
定义文件输出路径
根据路径生成文件夹
当文件夹已经存在,先删除,再新建
实现 Net Chart 目录下所有 a.drop
元素的点击事件
这部分涉及到DOM 操作, 只有在 page.evaluate()
中才能访问真实的 DOM
元素,同时,在 page.evaluate()
中不能直接调用外面定义的函数,可将函数传递进去,或将函数绑定到 window
对象上
await page.evaluate(async () => { const rootNode = document.querySelector('#menu > ul > li:nth-child(5) > ul > li:nth-child(5)'); await window.walkDOM(rootNode) })
此时,绑定到 window
对象上的 walkDOM
函数需要在 page.evaluateOnNewDocument
函数中定义才能生效
await page.evaluateOnNewDocument(() => { // 遍历DOM window.walkDOM = (node) => { if (node === null) { return } if (node.tagName === 'A' && node.className.indexOf('drop') > -1) { node.click() // 点击事件 } node = node.firstElementChild while (node) { walkDOM(node) node = node.nextElementSibling } } })
当Net Chart 目录下所有 a.drop
元素点击过后, Net Chart
目录下所有后代子目录都会加载生成,接下来操作就简单了
获取Net Chart 目录下所有 a 元素
通过 document.querySelectorAll()
查找到所有 a
元素,保存到数组
遍历数组,对数组每一项进行处理成 {href: '',text: ''}
对象
返回对象数组
遍历对象数组, 访问每一个链接,下载其HTML文件
跳转每一个链接,下载需要的html到指定文件夹
当 HTML 中存在 img 时,下载所有图片
以上就是使用Puppeteer 怎么爬取动态生成的网页,小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注创新互联行业资讯频道。