自动采集数据(如何对采集字段进行配置如何采集列表+详情页类型网页采集结果)

　　自动采集数据(如何对采集字段进行配置如何采集列表+详情页类型网页采集结果)

　　功能点目录：

　　如何配置采集字段

　　如何采集列表+详情页类型网页

　　采集结果预览：

　　导出到 Excel 电子表格：

　　导出的PDF文件：

　　下面详细介绍一下如何免费采集马蜂窝旅游指南信息和数据。我们以泰国的自由行旅游指南为例。具体步骤如下：

　　第一步：下载安装优采云采集器，注册登录

　　1、打开优采云采集器官网，下载安装爬虫软件工具——优采云采集器软件

　　2、点击注册登录，注册一个新账号，登录优采云采集器

　　【温馨提示】本爬虫软件无需注册即可直接使用，但切换为注册用户后匿名账号下的任务会丢失，建议注册后使用。

　　优采云采集器是优采云云的产物。如果您是优采云用户，可以直接登录。

　　第二步：新建一个采集任务

　　1、复制马蜂窝泰国旅游指南网页（需要搜索结果页的网址，不是首页的网址）

　　2、新智能模式采集任务

　　可以直接在软件上创建采集任务，也可以通过导入规则来创建任务。

　　第三步：配置采集规则

　　1、设置提取数据字段

　　在智能模式下，我们输入网址后，软件会自动识别页面上的数据并生成采集结果。每种类型的数据对应一个 采集 字段。我们可以右击该字段进行相关设置。包括修改字段名、加减字段、处理数据等。

　　在列表页面，我们需要采集泰国免费旅游指南的指南标题、指南链接、阅读量、体验人数、封面图等，字段设置效果如下：

　　2、使用深入采集函数提取详情页数据

　　在列表页面上，只显示了泰国免费旅游指南的部分信息。如果您需要指南的具体内容，我们需要右键点击listing链接，使用“深度采集”功能跳转到详情页继续采集。

　　在详情页，我们可以看到指南的详细内容、评论数、采集数、发布时间等信息。同时，我们可以看到，指南中有很多图片。如果我们一一设置字段，会出现很多字段，而且每个指南的图片位置不同，可能会导致采集不完整，所以我们可以在这里添加一个特殊的字段，“Page PDF”，我们可以点击“添加字段”来添加采集字段，所有字段设置效果如下：

　　第四步：设置并启动采集任务

　　1、设置采集任务

　　完成采集数据添加后，我们就可以开始采集任务了。在开始之前，我们需要对采集任务进行一些设置，以提高采集的稳定性和成功率。

　　点击“设置”按钮，在弹出的运行设置页面我们可以设置运行设置和防拦截设置，这里我们勾选“跳过继续采集”，因为采集页面PDF如果有就是漫长的等待 太慢了，可能会导致图片在显示完全之前被采集，所以我们设置了“5”秒的请求等待时间，勾选“不加载网页图片”，反-屏蔽设置将遵循系统默认设置，然后点击保存。

　　2、开始采集任务

　　点击“保存并启动”按钮，在弹出的页面中进行一些高级设置，包括定时启动、自动存储和下载图片。本例中不使用这些功能，只需点击“开始”即可运行爬虫工具。

　　【温馨提示】免费版可以使用非周期性定时采集功能，下载图片功能免费。个人专业版及以上可使用高级定时功能和自动存储功能。

　　3、运行任务提取数据

　　任务启动后会自动开始采集数据，我们可以从界面直观的看到程序运行过程和采集结果，采集结束后会有提示@>。

　　第 5 步：导出并查看数据

　　数据采集完成后，我们就可以查看和导出数据了。优采云采集器支持多种导出方式（手动导出到本地、手动导出到数据库、自动发布到数据库、自动发布到网站）和导出文件的格式（EXCEL、CSV 、HTML 和 TXT），我们选择我们需要的方法和文件类型，然后单击“确认导出”。

　　【提醒】：所有手动导出功能都是免费的。个人专业版及以上可以使用发布到网站功能。