java抓取网页内容(一个彩票网站为例来简单说明整体操作流程,分为以下几大)
优采云 发布时间: 2021-09-30 12:20java抓取网页内容(一个彩票网站为例来简单说明整体操作流程,分为以下几大)
前言
现在很多web应用和做过web项目的童鞋都知道web结果是由html+js+css组成的,html结构有一定的规范,可以通过js实现动态数据交互
有时候,你需要抓取一段自己感兴趣的网站信息,一段网站信息必须通过某个url发送,根据地址发送http请求。当你知道这个地址时,你就可以得到很多网络响应需要仔细分析才能找到适合你的地址,最后通过这个地址返回一个html给你。我们可以拿到这个html,分析结构,解析结构得到你想要的数据。Html的结构分析往往比较复杂繁琐,我们可以使用java支持包:jsoup,可以完成发送请求、解析html、获取你感兴趣的数据等功能
我们以一张彩票网站为例简单说明一下整体的操作流程,分为以下几个主要步骤:
1:根据官网,找到您感兴趣的模块:双色球:
我选的500彩票网站:请按照以下步骤找到双色球版块
2:分析页面,找到它的入口地址
我发现右边有一个下拉选择框。这是双色球的历史开奖号码。改变这个值,浏览器会再次请求这个时期的彩票信息。确保地址是:
选择问题编号.shtml
3:获取地址,使用jsoup发送请求,获取返回的Document对象
创建一个maven项目并导入jsoup的依赖:在你的java类中,向2个地址发送请求:获取返回的页面数据:
返回的html页面内容比较多,这里就不贴了。下面我就直接分析这个页面(特别是每个html的结构不是一成不变的。有可能读者看到这个文章,网站修改了网页结构,那你就需要重新-分析一下。当然,估计网站修改网页结构的可能性比较小)
4:分析Document对象,获取感兴趣的数据
双色球由6个红球和1个篮球组成。通过分析网页,它是用类来表示的。网页源代码如下:
使用以下代码,获得6个红球:
同理可以得到1个篮球
根据这个原理,你可以得到你想要的数据:以下是我得到的数据
以上是java简单抓取网页数据的个人分享。有兴趣的童鞋可以自行实践,从实践中学习道理。