网页qq抓取什么原理(如何获取对自己有用的信息呢？答案是筛选！)

　　网页qq抓取什么原理(如何获取对自己有用的信息呢？答案是筛选！)

　　爬虫

　　网络爬虫（也称为网络蜘蛛或网络机器人）是模拟浏览器发送网络请求和接收请求响应的程序。它是一个按照一定的规则自动抓取互联网信息的程序。

　　原则上，只要浏览器（客户端）可以做任何事情，爬虫就可以做到。

　　为什么我们使用爬虫

　　在互联网大数据时代，是什么给了我们生活的便利，海量数据在网络中的爆发式出现。

　　过去，我们使用书籍、报纸、电视、广播或信息。这种信息量有限，经过一定的筛选，信息比较有效，但缺点是信息太窄。不对称的信息传递，使我们的视野受限，无法学习更多的信息和知识。

　　在互联网大数据时代，我们突然可以自由获取信息，得到的信息很多，但大部分都是无效垃圾邮件。

　　例如，新浪微博每天产生数亿条状态更新，而在百度搜索引擎中，随机搜索——1亿条关于减肥的信息。

　　在如此海量的信息碎片中，我们如何才能为自己获取有用的信息呢？

　　答案是过滤！

　　通过一定的技术采集相关内容，分析删除后，我们就可以得到我们真正需要的信息。

　　这项信息采集、分析和整合的工作可以应用在广泛的领域，无论是生活服务、旅游、金融投资、各个制造行业的产品市场需求等等……都可以使用这项技术。以获得更准确有效的信息。利用它。

　　虽然网络爬虫技术有一个奇怪的名字，第一反应是一个柔软蠕动的生物，但它是一种可以在虚拟世界中前进的强大武器。

　　爬行动物制剂

　　我们通常说 Python 爬虫。事实上，这里可能存在误解。爬虫并不是 Python 独有的。有很多语言可以作为爬虫。例如：PHP、JAVA、C#、C++、Python，之所以选择Python作为爬虫，是因为Python相对来说更简单，功能也更多。

　　首先我们需要下载python，我下载的是最新的正式版3.8.3

　　其次我们需要一个运行Python的环境，我使用pychram

　　

　　也可以从官网下载，

　　我们还需要一些库来支持爬虫的运行（有些库可能是Python自带的）

　　

　　差不多就是这些库了，后来良心上写了个笔记。

　　

　　（在爬虫运行的时候，你可能不仅仅需要上面的库。这取决于你的爬虫的具体编写方式。反正如果你需要一个库，我们可以直接在设置中安装）

　　爬虫项目说明

　　我做的是爬豆瓣评分电影Top250的爬虫代码

　　我们要爬取的是这个网站：

　　到这里我爬完了，给大家看下效果图，我把爬取的内容保存到xls

　　

　　我们爬取的内容是：电影详情链接、图片链接、电影中文名、电影外文名、评分、评论数、概览及相关信息。

　　代码分析

　　先贴出代码，然后我根据代码一步步解析

<p>

# -*- codeing = utf-8 -*-

from bs4 import BeautifulSoup # 网页解析，获取数据

import re # 正则表达式，进行文字匹配`

import urllib.request, urllib.error # 制定URL，获取网页数据

import xlwt # 进行excel操作

#import sqlite3 # 进行SQLite数据库操作

findLink = re.compile(r&#39;<a href="(.*?)">&#39;) # 创建正则表达式对象，标售规则 影片详情链接的规则

findImgSrc = re.compile(r&#39;