python网页数据抓取(Python用做数据处理还是相当不错的,如果你想要做爬虫)

优采云 发布时间: 2022-02-19 15:17

  python网页数据抓取(Python用做数据处理还是相当不错的,如果你想要做爬虫)

  Python非常适合数据处理。如果你想做爬虫,Python是个不错的选择。它有很多已经编写好的类包,只要调用它就可以完成很多复杂的功能。

  

  1 Pyhton获取网页内容(即源码)(推荐学习:Python视频教程)

  page = urllib2.urlopen(url)

contents = page.read()

#获得了整个网页的内容也就是源代码

print(contents)

  url代表网址,contents代表网址对应的源码,urllib2是需要使用的包。以上三行代码就可以得到网页的全部源代码

  2 在网页中获取你想要的内容(先获取网页的源代码,然后分析网页的源代码,找到对应的标签,然后提取标签中的内容)

  以豆瓣电影排名为例

  现在我需要获取当前页面上所有电影的名称、评分、评论人数、链接

  #coding:utf-8

'''''

@author: jsjxy

'''

import urllib2

import re

from bs4 import BeautifulSoup

from distutils.filelist import findall

page = urllib2.urlopen('http://movie.douban.com/top250?format=text')

contents = page.read()

#print(contents)

soup = BeautifulSoup(contents,"html.parser")

print("豆瓣电影TOP250" + "\n" +" 影片名 评分 评价人数 链接 ")

for tag in soup.find_all('div', class_='info'):

# print tag

m_name = tag.find('span', class_='title').get_text()

m_rating_score = float(tag.find('span',class_='rating_num').get_text())

m_people = tag.find('div',class_="star")

m_span = m_people.findAll('span')

m_peoplecount = m_span[3].contents[0]

m_url=tag.find('a').get('href')

print( m_name+" " + str(m_rating_score) + " " + m_peoplecount + " " + m_url )

  控制台输出,也可以写入文件

  更多Python相关技术文章,请访问Python教程专栏学习!

  以上就是python如何获取网页内容的详细内容。更多详情请关注php中文网文章其他相关话题!

0 个评论

要回复文章请先登录注册


官方客服QQ群

微信人工客服

QQ人工客服


线