网页爬虫抓取百度图片( 讲解我们的爬虫之前，如何获取对自己有用的信息？)

　　网页爬虫抓取百度图片(

讲解我们的爬虫之前，如何获取对自己有用的信息？)

　　

　　在讲解我们的爬虫之前，我们先来概括一下爬虫的简单概念（毕竟是零基础教程）

　　爬虫

　　网络爬虫（也称为网络蜘蛛或网络机器人）是一种模拟浏览器发送网络请求并接收请求响应的程序。它是一种按照一定的规则自动抓取互联网信息的程序。

　　原则上只要浏览器（客户端）能做，爬虫就能做。

　　我们为什么要使用爬虫

　　在互联网大数据时代，我们生活的便利和海量数据的爆炸式出现在互联网上。

　　过去，我们使用书籍、报纸、电视、广播或信息。信息量有限，经过一定量的筛选，信息相对有效，但缺点是信息太窄。不对称的信息传递限制了我们的视野，无法学到更多的信息和知识。

　　在互联网大数据时代，我们突然可以免费获取信息，我们收到了海量的信息，但大部分都是无效的垃圾邮件。

　　例如，新浪微博每天产生数亿条状态更新，而在百度搜索引擎中，你可以搜索一个——100,000,000条关于减肥的信息。

　　如此大量的信息碎片，我们如何获取对自己有用的信息呢？

　　答案是筛选！

　　通过一定的技术采集相关内容，然后分析删除选区，得到我们真正需要的信息。

　　这项信息采集、分析和整合工作可以应用于广泛的应用领域，无论是生活服务、旅游、金融投资、各个制造行业的产品市场需求等等......您可以通过这项技术获得更多准确有效的信息。好好利用。

　　网络爬虫技术虽然名字古怪，第一反应是那种软软的爬行生物，但却是可以在虚拟世界中前行的利器。

　　爬行动物准备

　　我们通常谈论 Python 爬虫。其实，这里可能有误会。爬虫不是 Python 独有的。可以爬取的语言有很多。例如：PHP、JAVA、C#、C++、Python。之所以选择Python作为爬虫，是因为Python是相对的。比较简单，功能也比较齐全。

　　首先我们需要下载python，我下载的是最新的官方版本3.8.3

　　其次，我们需要一个运行Python的环境，我用的是pychram

　　

　　也可以从官网下载，

　　我们还需要一些库来支持爬虫的运行（有些库可能是Python自带的）

　　

　　差不多就是这些库了，我已经良心写了评论

　　

　　（在爬虫运行过程中，你可能不仅仅需要以上的库，这取决于你的爬虫的具体编写方式。反正如果你需要一个库，我们可以直接在设置中安装）

　　爬虫项目说明

　　我做的是爬取豆瓣评分电影Top250的爬虫代码

　　我们要爬取的是这个网站：

　　已经爬到这里了，给大家看看效果图。我将抓取的内容保存在 xls 中。

　　

　　我们抓取的内容是：电影详情链接、图片链接、电影中文名、电影外文名、评分、评论数、概述和相关信息。

　　代码分析

　　先贴出代码，然后我根据代码一步步分析

<p># -*- codeing = utf-8 -*- from bs4 import BeautifulSoup  # 网页解析，获取数据 import re  # 正则表达式，进行文字匹配` import urllib.request, urllib.error  # 制定URL，获取网页数据 import xlwt  # 进行excel操作 #import sqlite3  # 进行SQLite数据库操作  findLink = re.compile(r'')  # 创建正则表达式对象，标售规则   影片详情链接的规则 findImgSrc = re.compile(r'