python抓取动态网页(python自动化工具之pywinauto实例详解(一)数据提取及拆分)
优采云 发布时间: 2022-02-03 07:01python抓取动态网页(python自动化工具之pywinauto实例详解(一)数据提取及拆分)
现在网上有很多用python2写的爬虫抓取网页图片的例子,但是不适合新手(新手都用python3环境,不兼容python2),
所以我用 Python3 语法写了一个简单的 catch
现在网上有很多用python2写的爬虫抓取网页图片的例子,但是不适合新手(新手都用python3环境,不兼容python2),
于是写了一个使用Python3语法爬取网页图片的简单例子,希望对大家有所帮助,也希望大家批评指正。
import urllib.request
import re
import os
import urllib
#根据给定的网址来获取网页详细信息,得到的html就是网页的源代码
def getHtml(url):
page = urllib.request.urlopen(url)
html = page.read()
return html.decode('UTF-8')
def getImg(html):
reg = r'src="(.+?\.jpg)" pic_ext'
imgre = re.compile(reg)
imglist = imgre.findall(html)#表示在整个网页中过滤出所有图片的地址,放在imglist中
x = 0
path = 'D:\\test'
# 将图片保存到D:\\test文件夹中,如果没有test文件夹则创建
if not os.path.isdir(path):
os.makedirs(path)
paths = path+'\\' #保存在test路径下
for imgurl in imglist:
urllib.request.urlretrieve(imgurl,'{0}{1}.jpg'.format(paths,x)) #打开imglist中保存的图片网址,并下载图片保存在本地,format格式化字符串
x = x + 1
return imglist
html = getHtml("http://tieba.baidu.com/p/2460150866")#获取该网址网页详细信息,得到的html就是网页的源代码
print (getImg(html)) #从网页源代码中分析并下载保存图片
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持染美科技。
上一篇:python自动化工具pywinauto实例详解 下一篇:python数据提取与拆分的实现代码