Python爬虫、数据分析、网站开发等案例教程视频免费在线观看

优采云 发布时间: 2021-01-25 10:46

  Python爬虫、数据分析、网站开发等案例教程视频免费在线观看

  前言

  本文中的文本和图片过滤网络可以用于学习,交流,并且没有任何商业用途。如有任何疑问,请与我们联系进行处理。

  免费在线观看有关Python采集器,数据分析,网站开发等的案例教程视频

  https://space.bilibili.com/523606542

  

  基本开发环境抓取了两个官方帐户的文章:

  1。爬网Cyan Light编程官方帐户的所有文章

  2,抓取有关python 文章的所有官方帐户

  检索Cyan Light编程官方帐户的所有文章

  1,登录正式帐户后,单击图片和文字

  

  2,打开开发人员工具

  

  3,单击超链接

  

  加载相关数据后,会出现一个数据包,包括文章标题,链接,摘要,发布时间等。您还可以选择其他官方帐户进行抓取,但这需要您拥有一个微信公众号帐户。

  添加cookie

  import pprint

import time

import requests

import csv

f = open('青灯公众号文章.csv', mode='a', encoding='utf-8', newline='')

csv_writer = csv.DictWriter(f, fieldnames=['标题', '文章发布时间', '文章地址'])

csv_writer.writeheader()

for page in range(0, 40, 5):

url = f'https://mp.weixin.qq.com/cgi-bin/appmsg?action=list_ex&begin={page}&count=5&fakeid=&type=9&query=&token=1252678642&lang=zh_CN&f=json&ajax=1'

headers = {

'cookie': '加cookie',

'referer': 'https://mp.weixin.qq.com/cgi-bin/appmsg?t=media/appmsg_edit_v2&action=edit&isNew=1&type=10&createType=0&token=1252678642&lang=zh_CN',

'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36',

}

response = requests.get(url=url, headers=headers)

html_data = response.json()

pprint.pprint(response.json())

lis = html_data['app_msg_list']

for li in lis:

title = li['title']

link_url = li['link']

update_time = li['update_time']

timeArray = time.localtime(int(update_time))

otherStyleTime = time.strftime("%Y-%m-%d %H:%M:%S", timeArray)

dit = {

'标题': title,

'文章发布时间': otherStyleTime,

'文章地址': link_url,

}

csv_writer.writerow(dit)

print(dit)

  检索有关python 文章的所有正式帐户

  1,搜狗搜索python选择微信

  

  注意:如果不登录,则只能抓取数据的前十页。登录后,您可以检索2W以上的文章文章。

  2。直接检索静态网页的标题,官方帐户,文章地址和发布时间。

  import time

import requests

import parsel

import csv

f = open('公众号文章.csv', mode='a', encoding='utf-8', newline='')

csv_writer = csv.DictWriter(f, fieldnames=['标题', '公众号', '文章发布时间', '文章地址'])

csv_writer.writeheader()

for page in range(1, 2447):

url = f'https://weixin.sogou.com/weixin?query=python&_sug_type_=&s_from=input&_sug_=n&type=2&page={page}&ie=utf8'

headers = {

'Cookie': '自己的cookie',

'Host': 'weixin.sogou.com',

'Referer': 'https://www.sogou.com/web?query=python&_asf=www.sogou.com&_ast=&w=01019900&p=40040100&ie=utf8&from=index-nologin&s_from=index&sut=1396&sst0=1610779538290&lkt=0%2C0%2C0&sugsuv=1590216228113568&sugtime=1610779538290',

'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36',

}

response = requests.get(url=url, headers=headers)

selector = parsel.Selector(response.text)

lis = selector.css('.news-list li')

for li in lis:

title_list = li.css('.txt-box h3 a::text').getall()

num = len(title_list)

if num == 1:

title_str = 'python' + title_list[0]

else:

title_str = 'python'.join(title_list)

href = li.css('.txt-box h3 a::attr(href)').get()

article_url = 'https://weixin.sogou.com' + href

name = li.css('.s-p a::text').get()

date = li.css('.s-p::attr(t)').get()

timeArray = time.localtime(int(date))

otherStyleTime = time.strftime("%Y-%m-%d %H:%M:%S", timeArray)

dit = {

'标题': title_str,

'公众号': name,

'文章发布时间': otherStyleTime,

'文章地址': article_url,

}

csv_writer.writerow(dit)

print(title_str, name, otherStyleTime, article_url)

  

0 个评论

要回复文章请先登录注册


官方客服QQ群

微信人工客服

QQ人工客服


线