js抓取网页内容(java程序中获取后台js完后的完整页面是什么?)

优采云 发布时间: 2021-10-03 04:11

  js抓取网页内容(java程序中获取后台js完后的完整页面是什么?)

  许多网站使用JS或jQuery生成数据。后台获取数据后,以文档的形式写入页面。Write()或(“#id”)。HTML=”“。此时,在使用浏览器查看源代码时无法看到数据

  Httpclient不工作。互联网上说htmlunit可以在后台JS加载后获得完整的页面,但我是根据文章编写的,这很难使用。通用代码编写如下:

  String url = "http://xinjinqiao.tprtc.com/admin/main/flrpro.do";

try {

WebClient webClient = new WebClient(BrowserVersion.FIREFOX_10);

//设置webClient的相关参数

webClient.getOptions().setJavaScriptEnabled(true);

webClient.getOptions().setCssEnabled(false);

webClient.setAjaxController(new NicelyResynchronizingAjaxController());

//webClient.getOptions().setTimeout(50000);

webClient.getOptions().setThrowExceptionOnScriptError(false);

//模拟浏览器打开一个目标网址

HtmlPage rootPage = webClient.getPage(url);

System.out.println("为了获取js执行的数据 线程开始沉睡等待");

Thread.sleep(3000);//主要是这个线程的等待 因为js加载也是需要时间的

System.out.println("线程结束沉睡");

String html = rootPage.asText();

System.out.println(html);

} catch (Exception e) {

}

  它根本不起作用

  典型的是链接页面。如何在Java程序中获取数据

0 个评论

要回复文章请先登录注册


官方客服QQ群

微信人工客服

QQ人工客服


线