这里专门开个帖子用来整理采集遇到的问题

Win7安装nodejs,之后在sublime运行,之后再安装 puppeteer采集网页

PHPer 2022-04-25 56 0 0

支持Win7最新的版本是V13.14.0 官网地址: https://nodejs.org/download/release/v13.14.0/

之后直接安装,安装好后配置环境变量

be2a578526-qq-jie-tu20220425034353_normal.jpg

7040c548d6-qq-jie-tu20220425034430_normal.jpg

827fbf4302-qq-jie-tu20220425034506_normal.jpg

配置到你安装的路径

之后cmd测试下

147c94197a-qq-jie-tu20220425034542_normal.jpg

OK了

在sublime中,我们可以通过Node.js运行javascript,具体做法如下: ...

立即注册

更新于:2022-05-29 11:06:47
    您需要登录后才可以评论。 立即注册

    使用puppeteer爬取网站,抓出404无效链接(2022年5月实测有效)

    检查网页无效链接

    前言

    自动化技术可以帮助我们做自动化测试,同样也可以帮助我们完成别的事情,比如今天我们要做的检查网站404无效链接。

    原理

    实现这样的功能,大致分为以下步骤: 1.打开官网首页,获取页面上所有的链接。 2.添加规则对这些链接过滤,把外链去掉。 3.遍历访问这些链接,打开打开其中的每一个链接,检查是否为404,如果是距离下来。 4.重复执行1,2,3。直到把整个网站所有的链接都遍历完。

    准备

    实现

    CukeTest中新建一个项目。

    删掉features目录。新建一个demo.js文件。

    安装puppeteer

    npm install puppeteer --save
    

    主要方法讲解

    pupputeer内置监听事件,可以很快拿到每个请求的响应结果。

    puppeteer可以创建Chromium实例。创建方式如下:

    let puppeteer = require('puppeteer');    
    browser = await puppeteer.launch({ headless: true });
    page = await browser.newPage();
    await browser.close();
    

    puppeteer 提供事件监听,可以监听到每个页面的响应状态,为每个请求添加响应事件,如果响应状态码为404,记录到文件中。 ...

    立即注册
    更新于:2022-05-30 23:15:19

    puppeteer前端利器(2022年6月基本有效)

    文章中的代码还未实测,有些代码之前我已经在用了,ok的 20220601

    原内容发布与:2020-11-20 22:15 发布者:明么


    Puppeteer是 Chrome 开发团队在 2017 年发布的一个 Node.js 包,同时还有 Headless Chrome。用来模拟 Chrome 浏览器的运行。它提供了高级API来通过 DevTools 协议控制无头 Chrome 或 Chromium ,它也可以配置为使用完整(非无头)Chrome 或 Chromium。

    261cb1c2a3_normal.png

    学习 Puppeteer 之前我们先来了解一下Chrome DevTool ProtocolHeadless Chrome

    Chrome DevTool Protocol 是什么

    CDP 基于 WebSocket,利用 WebSocket 实现与浏览器内核的快速数据通道。CDP 分为多个域(DOM,Debugger,Network,Profiler,Console...),每个域中都定义了相关的命令和事件(Commands and Events)。我们可以基于 CDP 封装一些工具对 Chrome 浏览器进行调试及分析,比如我们常用的 “Chrome 开发者工具” 就是基于 CDP 实现的。很多有用的工具都是基于 CDP 实现的,比如Chrome 开发者工具chrome-remote-interfacePuppeteer等。

    Headless Chrome 是什么

    可以在无界面的环境中运行 Chrome。通过命令行或者程序语言操作 Chrome。无需人的干预,运行更稳定。在启动 Chrome 时添加参数 --headless,便可以 headless 模式启动 Chrome。chrome 启动时可以加一些什么参数,大家可以点击这里查看。

    总而言之 Headless Chrome 就是 Chrome 浏览器的无界面形态,可以在不打开浏览器的前提下,使用所有 Chrome 支持的特性运行你的程序。 ...

    立即注册
    更新于:2022-06-01 03:58:12
    相关内容

    Yii2小部件Widget

    win7安装Redis遇到的问题

    在window系统上安装redis服务-Invalid argument during startup: Failed to...

    笔记本电脑安装Win7遇到的问题

    Windows10 修改 hosts 拒绝访问如何解决

    开源商城shopwind安装许可协议

    推荐内容

    分享几个好用的bt搜索bt资源下载网址网站

    影视电影剧集动漫综艺bt资源在线播放网址网站推荐分享

    全网最新bt磁力搜索引擎bt资源bt网站网址分享

    怎样使用V2Ray代理和SSTap玩如魔兽世界/绝地求生/LOL台服/战地3/黑色沙漠/彩...

    sstap游戏代理教程 从此玩如魔兽世界/绝地求生/LOL台服/战地3/黑色沙漠/彩虹六...

    使用V2Ray的mKCP协议加速游戏

    v2rayN已停止工作