网页爬虫抓取百度图片(如何用Python学习资料的小伙伴获取图片的url？ )

　　网页爬虫抓取百度图片(如何用Python学习资料的小伙伴获取图片的url？

)

　　PS：如需Python学习资料，可点击下方链接自行获取

　　1.获取图片的url链接

　　首先，打开百度图片首页，注意下面url中的索引

　　接下来，将页面切换到传统的翻页版本，因为这样可以帮助我们抓取图片！

　　对比几个url，发现pn参数是请求数。通过修改pn参数，观察返回的数据，发现每页最多只能收录60张图片。

　　注意：gsm参数是pn参数的16进制表示，去掉就可以了

　　然后，右键查看网页源代码，直接（ctrl+F）搜索objURL

　　这样，我们就找到了需要图片的url了。

　　2.将图片链接保存到本地

　　现在，我们要做的就是抓取这些信息。

　　注意：有objURL、hoverURL...但我们使用objURL是因为这是原图

　　那么，我如何获取 objURL？使用正则表达式！

　　那我们如何用正则表达式来实现呢？其实只需要一行代码……

　　results = re.findall('"objURL":"(.*?)",', html)

　　核心代码：

　　1.获取图片url代码：

　　# 获取图片url连接def get_parse_page(pn,name): for i in range(int(pn)): # 1.获取网页 print('正在获取第{}页'.format(i+1)) # 百度图片首页的url # name是你要搜索的关键词 # pn是你想下载的页数 url = 'https://image.baidu.com/search/flip?tn=baiduimage&ie=utf-8&word=%s&pn=%d' %(name,i*20) headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/53.0.2785.104 Safari/537.36 Core/1.53.4843.400 QQBrowser/9.7.13021.400'} # 发送请求，获取相应 response = requests.get(url, headers=headers) html = response.content.decode() # print(html) # 2.正则表达式解析网页 # "objURL":"http://n.sinaimg.cn/sports/transform/20170406/dHEk-fycxmks5842687.jpg" results = re.findall('"objURL":"(.*?)",', html) # 返回一个列表 # 根据获取到的图片链接，把图片保存到本地 save_to_txt(results, name, i)

　　2.保存图片到本地代码：

　　# 保存图片到本地def save_to_txt(results, name, i): j = 0 # 在当目录下创建文件夹 if not os.path.exists('./' + name): os.makedirs('./' + name) # 下载图片 for result in results: print('正在保存第{}个'.format(j)) try: pic = requests.get(result, timeout=10) time.sleep(1) except: print('当前图片无法下载') j += 1 continue # 可忽略，这段代码有bug # file_name = result.split('/') # file_name = file_name[len(file_name) - 1] # print(file_name) # # end = re.search('(.png|.jpg|.jpeg|.gif)$', file_name) # if end == None: # file_name = file_name + '.jpg' # 把图片保存到文件夹 file_full_name = './' + name + '/' + str(i) + '-' + str(j) + '.jpg' with open(file_full_name, 'wb') as f： f.write(pic.content) j += 1

　　3.主要功能代码：

　　# 主函数if __name__ == '__main__': name = input('请输入你要下载的关键词：') pn = input('你想下载前几页（1页有60张）:') get_parse_page(pn, name)

　　使用说明：

　　# 配置以下模块import requests import reimport osimport time# 1.运行 py源文件# 2.输入你想搜索的关键词，比如“柯基”、“泰迪”等# 3.输入你想下载的页数，比如5，那就是下载 5 x 60=300 张图片