php抓取网页title(Javaexample参数分析及应用)

优采云 发布时间: 2021-09-30 04:27

  php抓取网页title(Javaexample参数分析及应用)

  PhantomJS 是一个基于 WebKit 的服务器端 API。它完全支持网络,无需浏览器支持。它速度快,并且本机支持各种 Web 标准:DOM 处理、CSS 选择器、JSON、Canvas 和 SVG。PhantomJS 可用于页面自动化、网络监控、网页截图和无界面测试。

  一、安装

  安装包下载地址:包括Windows、Mac OS、Linux版本,可以选择对应版本下载解压(为了方便,可以自己设置phantomjs的环境变量),里面有example文件夹,很多已经写好的代码使用。本文假设已安装phantomjs并设置好环境变量。

  二、使用你好,世界!

  创建一个收录以下两行脚本的新文本文件:

  console.log('Hello, world!');

phantom.exit();

  将文件保存为hello.js,然后执行:

  phantomjs hello.js

  输出结果是:你好,世界!

  第一行将在终端中打印一个字符串,第二行 phantom.exit 将退出。

  在这个脚本中调用phantom.exit非常重要,否则PhantomJS根本不会停止。

  脚本参数 – 脚本参数

  Phantomjs 是如何传递参数的?如下:

  phantomjs examples/arguments.js foo bar baz

  其中foo、bar、baz是要传递的参数,如何获取:

  var system = require('system');

if (system.args.length === 1) {

console.log('Try to pass some args when invoking this script!');

} else {

system.args.forEach(function (arg, i) {

console.log(i + ': ' + arg);

});

}

phantom.exit();

  它会输出:

  0: foo

1: bar

2: baz

  页面加载-页面加载

  通过创建网页对象,可以加载、分析和呈现网页。

  以下脚本将是示例页面对象的最简单用法,它加载并将其保存为图像,example.png。

  var page = require('webpage').create();

page.open('http://example.com', function () {

page.render('example.png');

phantom.exit();

});

  由于这个特性,PhantomJS 可以用来截取网页的截图和一些内容的快照,比如保存网页、SVG 为图片、PDF 等,这个功能非常好。

  下一个 loadspeed.js 脚本加载一个特殊的 URL(不要忘记 http 协议)并测量加载页面的时间。

  var page = require('webpage').create(),

system = require('system'),

t, address;

if (system.args.length === 1) {

console.log('Usage: loadspeed.js ');

phantom.exit();

}

t = Date.now();

address = system.args[1];

page.open(address, function (status) {

if (status !== 'success') {

console.log('FAIL to load the address');

} else {

t = Date.now() - t;

console.log('Loading time ' + t + ' msec');

}

phantom.exit();

});

  在命令行上运行脚本:

  phantomjs loadspeed.js http://www.google.com

  它输出如下内容:

  加载加载时间 719 毫秒

  代码评估 – 代码评估

  要在网页上下文中对 JavaScript 或 CoffeeScript 执行操作,请使用evaluate() 方法。代码在“沙箱”中运行,它无法读取其所属页面上下文之外的任何 JavaScript 对象和变量。evaluate() 将返回一个对象,但它仅限于简单对象,不能收录方法或闭包。

  这是显示页面标题的示例:

  var page = require('webpage').create();

page.open(url, function (status) {

var title = page.evaluate(function () {

return document.title;

});

console.log('Page title is ' + title);

});

  默认情况下不会显示来自网页的任何控制台信息,包括evaluate() 的内部代码。要覆盖此行为,请使用 onConsoleMessage 回调函数。前面的例子可以改写为:

  var page = require('webpage').create();

page.onConsoleMessage = function (msg) {

console.log('Page title is ' + msg);

};

page.open(url, function (status) {

page.evaluate(function () {

console.log(document.title);

});

});

  DOM操作-DOM操作

  由于脚本似乎在 Web 浏览器上运行,因此标准 DOM 脚本和 CSS 选择器可以很好地工作。这使得 PhantomJS 适合支持各种页面自动化任务。

  下面的 useragent.js 将读取 id 为 myagent 的元素的 textContent 属性:

  var page = require('webpage').create();

console.log('The default user agent is ' + page.settings.userAgent);

page.settings.userAgent = 'SpecialAgent';

page.open('http://www.httpuseragent.org', function (status) {

if (status !== 'success') {

console.log('Unable to access network');

} else {

var ua = page.evaluate(function () {

return document.getElementById('myagent').textContent;

});

console.log(ua);

}

phantom.exit();

});

  上面的例子还提供了一种自定义用户代理的方法。

  使用 JQuery 和其他库:

  var page = require('webpage').create();

page.open('http://www.sample.com', function() {

page.includeJs("http://ajax.googleapis.com/ajax/libs/jquery/1.6.1/jquery.min.js", function() {

page.evaluate(function() {

$("button").click();

});

phantom.exit()

});

});

  网络请求和响应-网络请求和响应

  当页面从远程服务器请求资源时,可以通过 onResourceRequested 和 onResourceReceived 回调方法跟踪请求和响应。示例 netlog.js:

  var page = require('webpage').create();

page.onResourceRequested = function (request) {

console.log('Request ' + JSON.stringify(request, undefined, 4));

};

page.onResourceReceived = function (response) {

console.log('Receive ' + JSON.stringify(response, undefined, 4));

};

page.open(url);

  关于如何使用此功能进行基于 YSlow 的 HAR 输出和性能分析的更多信息,请参阅网络监控页面。

  PhantomJs 官网:

  GitHub:

  以上帮助说明来自woiweb:

  windows下使用PHP执行phantomjs

  下面直接给出执行代码:

  echo '';

exec('H:\wamp\www\phantomjs\bin\phantomjs --output-encoding=utf8 H:\wamp\www\Xss_Scanner\test.js ',$output_main);

  var_dump($output_main);

  // $str = implode('',$output_main);

// var_dump($str);

  test.js文件内容如下:

  console.log('Loading a web page');

  var page = require('webpage').create();

  var url = 'http://www.mafutian.net/';

  page.open(url, function (status) {

   //Page is loaded!

   if (status !== 'success') {

   console.log('Unable to post!');

   } else {

   console.log(page.content);

   }

   phantom.exit();

  });

  执行结果如下图所示:

  

  注意,要达到上述执行结果,需要以下几点:

  (1) 不能开启PHP的安全模式,即需要在php.ini中将sql.safe_mode设置为Off。(并重启服务器,当然php本身并没有开启安全模式默认情况下)

  (2) 不管phantomjs是否加到系统环境变量中,在exec()中应该是绝对路径。以下执行无效:

  exec('phantomjs --output-encoding=utf8 H:\wamp\www\Xss_Scanner\test.js ',$output_main);

  需要走phantomjs的绝对路径。

  需要注意的是,js文件不需要走绝对路径。可以相对于网站的根目录,如下执行成功:

  exec('H:\wamp\www\phantomjs\bin\phantomjs --output-encoding=utf8 test.js ',$output_main);

  注意:test.js放在网站的根目录下。

  另外:在PHP下执行phantomjs也可以使用另一个函数systom()来执行

  参考以上内容:链接地址:

  php-phantomjs中文API整理的合集DEMO

<p>

0 个评论

要回复文章请先登录注册


官方客服QQ群

微信人工客服

QQ人工客服


线