YIZAI 网页爬虫 Web Scraper
网页爬虫 Web Scraper概述
网页的爬虫工具基本上都是自动脚本的样式，用于各类关键信息的一键收集，此次介绍的Web Scraper是谷歌浏览器的三方插件，帮助开发人员来对各大网站中所需要的信息进行自动抓取，不过要注意的就是需要提前设定好信息采集的规则，而且需要精确定位，这样自动爬虫工具的作用才会发挥到极致。
网页爬虫 Web Scraper软件功能
- 使用多线程快速扫描任何网站
- 在WebScraper主窗口中，必须指定要扫描的网页的URL地址以及用于完成此过程的线程数。你可以借助一个简单的滑块来调整后面的参数。
- 为避免任何不必要的扫描，您可以选择仅抓取单个网页，然后通过简单的鼠标点击开始此过程。在实时查看窗口中，您可以看到每个链接返回的状态消息，这在处理调试任务时可能会很有用。
- 提取各种类型的信息，并将数据导出为CSV或JSON
- 在WebScraper输出面板中，您可以选择希望实用程序从网页中提取的信息类型：URL，标题，描述，与不同类或ID关联的内容，标题，页面内容各种格式(纯文本，HTML或MarkDown)和最后修改日期。
- 您还可以选择输出文件格式(CSV或JSON)，决定合并空格，并在文件超出一定大小时设置警报。如果您选择采用CSV格式，则可以选择何时在列周围使用引号，采用引号替换引号或行分隔符类型。
- WebScraper还允许您更改用户代理，设置链接数量和来自主页的点击数量的限制，可以忽略查询字符串，并可将根域的子域作为内部页面。
网页爬虫 Web Scraper 使用教程
1、解压你在本页下载的Web Scraper插件，并拖入扩展程序页即可。
2、插件安装完成后，在浏览器中会出现其按钮标记。用户可以先在设置页面中对该插件的储存设置和储存类型功能进行设置。
3、用户可以使用Web Scraper插件来抓取页面，其操作方法如下：
1)、打开你要抓取的网页。
首先要使用该插件来提取网页数据需要在开发者工具模式中使用，使用快捷键Ctrl+Shift+I/F12或者点击右键，选择检查(Inspect)，在开发者工具下面就能看到WebScraper的Tab。如下图所示：
2)、新建一个Sitemap。点击Create New Sitemap，里面有两个选项，import sitemap是指导入一个现成的sitemap，咱小白一般没有现成的，所以一般不选这个，选create sitemap 就好。
然后进行这两个操作：
(1)Sitemap Name：代表你这个Sitemap是适用于哪一个网页的，所以你可以根据网页来自命名，不过需要使用英文字母，比如我抓的是今日头条的数据，那我就用toutiao来命名；
(2)Sitemap URL：把网页链接复制到Star URL这一栏，比如图片里我把「吴晓波频道」的主页链接复制到了这一栏，而后点击下方的create sitemap来新建一个Sitemap。
3)、设置这个Sitemap
整个Web Scraper的抓取逻辑是这样：设置一级 Selector，选定抓取范围；在一级 Selector 下设置二级 Selector，选定抓取字段，然后抓取。
对于文章而言，一级 Selector 就是你要把这一块文章的要素圈出来，这个要素可能包含了 标题、作者、发布时间、评论数等等，然后我们再在二级 Selector 中挑出我们要的要素，比如标题、作者、阅读数。
下面我们来拆解这个设置一级、二级 Selector 的工作流：
(1)点击 Add new selector 创建一级 Selector。
而后按照以下步骤操作：
输入id：id代表你抓取的整个范围，比如这里是文章，我们可以命名为wuxiaoboarticles；
选择Type：type 代表你抓取的这部分的类型，比如元素/文本/链接，因为这个是整个文章要素范围选取，我们需要用Element 来先整体选取(如果这个网页需要滑动加载更多，那就选 Element Scroll Down)；
勾选Multiple：勾选 Multiple 前面的小框，因为你要选的是多个元素而不是单个元素，当我们勾选的时候，爬虫插件会帮助我们识别多篇同类的文章；
保留设置：其余未提及部分保留默认设置。
(2)点击select选择范围，按照以下步骤操作：
选择范围：用鼠标选择你要爬取数据的范围，绿色是待选区域，用鼠标点击后变为红色，才是选中了这块区域；
多选：不要只选一个，下面的也要选，否则爬出来的数据也只有一行；
完成选择：记得点Done Selecting；
保存：点击Save Selector。
(3)设置好了这个一级的Selector之后，点进去设置二级的Selector，按照以下步骤操作：
新建Selector：点击 Add new selector ；
输入id：id代表你抓取的是哪个字段，所以可以取该字段的英文，比如我要选「作者」，我就写「writer」；
选择Type：选Text，因为你要抓取的是文本；
勿勾选Multiple：不要勾选 Multiple 前面的小框，因为我们在这里要抓取的是单个元素；
保留设置：其余未提及部分保留默认设置。
(4)点击 select，再点击你要爬取的字段，按照以下步骤操作：
选择字段：这里爬取的字段是单个的，用鼠标点击该字段即可选定，比如要爬标题，那就用鼠标点击某篇文章的标题，当字段所在区域变红即为选中；
完成选择：记得点 Done Selecting；
保存：点击 Save Selector。
(5)重复以上操作，直到选完你想爬的字段。
4、爬取数据
(1)之后你想要爬取数据只需要设置完所有的Selector就可以开始：
点击Scrape，然后点Start Scraping，弹出一个小窗后爬虫就会开始工作。你会得到一个列表，上面有你想要的所有数据。
(2)如果你希望把这些数据做一个排序，比如按照阅读量、赞数、作者等指标排序，让数据更一目了然，那么你可以点击 Export Data as CSV，把它导入 Excel 表里。
(3)导入 Excel 表格之后，你就可以对数据进行筛选了。
插件下载地址：
