输入关键字 抓取所有网页(您意思是要在您的网站上用别人的数据?)
优采云 发布时间: 2022-03-03 12:10输入关键字 抓取所有网页(您意思是要在您的网站上用别人的数据?)
你的意思是自己使用别人的数据网站?如果是这样,你可以:网站输入关键字请求到自己的服务器,然后在服务器上使用HttpClient模拟向别人的网站发送请求获取数据,然后返回给自己网站 请求。
当然,你需要先弄清楚别人服务器请求的链接(使用一楼提到的方法),并分析请求的其他参数,以便模拟请求的图像。前提是他们对请求的安全限制不那么严格。
您还可以将捕获的数据保存在自己的数据库中。下次可以自己找数据库找。如果找不到,可以模拟一个请求来捕获它。这允许积累下一个数据量。
但是,这些数据毕竟可能是别人根据用户行为分析的结果,可能与你自己的站点情况不一致。
收获的菜豆:10
李奇鹏||远斗:1160|2015-07-01 13:18
好吧,我只需要计算他的表现,不管他的分析是否准确。
如果使用F12可以看到相关信息,但是不知道是哪个JS方法在处理这些请求。HTTPWatch 也是如此。你有什么好的方法可以定位到这样的请求方法吗?
给个思路,非常感谢。
我要成仙,在天上快乐|元豆:17|2015-07-01 13:38
@OmJJWang:了解如何使用 Google Chrome 的开发工具。我现在用手机,不太方便。简单的说。打开那个页面,使用谷歌浏览器,按F12,看到Network一栏,有一个清除按钮,找一下,先清除已有的请求信息,然后在搜索框中输入,应该可以看到刚才网络有东西,这是发送的请求,看链接。自己找出来。
李奇鹏|元豆:1160|2015-07-01 14:12
上传图片
Ctrl+Enter 快速提交