|-转 PHP 爬虫体验(三) - 使用PHP + puppeteer爬取js动态渲染的页面内容 spatie/browsershot封装
之前写的两篇爬虫体验基本上涵盖了一般的Html页面提取场景,但是有些时候,如果目标页面不是纯静态的页面,而是使用js动态渲染的页面(比如one),之前的爬虫就不好使了,这种时候就要借助一些其他工具来进行实现。
一般爬取动态页面的思路是通过软件模拟浏览器行为获取到渲染后的页面镜像,然后再对渲染后的页面进行分析,常用的工具有selenium,phantomJs,puppeteer等,通过对项目维护程度、对PHP友好度的对比,我选用的是puppeteer。
根据官方介绍,谷歌在2017年开发了自家Chrome浏览器的Headless特性,puppeteer便是这个时候诞生的,它的原理是通过调用Chrome DevTools开放的接口与Chrome通信,将浏览器开放接口进行封装,方便用户调用,可以很容易地实现浏览器行为的模拟。
尝试一下puppeteer,安装起来其实非常简单:
npm i puppeteer
根据官方API写了example.js进行测试:...
浏览更多内容请先登录。
立即注册
更新于:2023-11-26 17:01:55
相关内容
PHP Trait 使用指南
[PHP] 网盘搜索引擎-采集爬取百度网盘分享文件实现网盘搜索
PHP向js传数组
php中动态输出变量内容,查看进程状态的方法
【PHP】COOKIE和SESSION的使用以及区别
推荐内容