网页视频抓取器手机版( JAVA获取优酷、土豆、酷6、6间房等视频)

　　网页视频抓取器手机版(

JAVA获取优酷、土豆、酷6、6间房等视频)

　　java爬行动物爬行视频下载链接网站

　　更新：2016年10月19日12:02:17作者：Pangfc

　　本文通过Java Youku，Potatoes，Cool 6、 6房间提供，视频，萧卞感觉非常好，现在为大家分享，也是参考。跟随小编看它融合在一起

　　依据

　　Benpian 文章 @ 网站抓住链接目标的进一步提高难度，我们需要在目标页面上爬网并存储在数据库中。这是一个测试用例选择了我最喜欢的电影下载网站（）。下载链接想要抓住网站的所有电影，然后觉得所需的时间太长，所以抓住2015电影下载链接。

　　关于一个原则

　　事实上，第一个原理相关文章文章类似，除了这个分类列表网站太多，如果不是这些标签是权衡的，那么它需要的时间。

　　

　　标签类别链接和链接不，不要将爬升到其他页面，只能通过页面的所有类型的底部的寻呼电影获取电影列表到其他页面。同时，电影详细信息页面，只需抓住其中一个电影标题和雷霆下载链接，而不是深度爬行水平，一些推荐的电影都没有链接到详细信息页面。

　　

　　最后一步是下载链接，以获取存储在videolinkmap中的所有电影此集合，通过遍历此集合来将数据保存到MySQL中

　　第二代码实现

　　原则已被说在上面，详细的代码评论，所以没有说，如下：

<p>

package action;

import java.io.BufferedReader;

import java.io.IOException;

import java.io.InputStream;

import java.io.InputStreamReader;

import java.net.HttpURLConnection;

import java.net.MalformedURLException;

import java.net.URL;

import java.sql.Connection;

import java.sql.PreparedStatement;

import java.sql.SQLException;

import java.util.LinkedHashMap;

import java.util.Map;

import java.util.regex.Matcher;

import java.util.regex.Pattern;

public class VideoLinkGrab {

public static void main(String[] args) {

VideoLinkGrab videoLinkGrab = new VideoLinkGrab();

videoLinkGrab.saveData("http://www.80s.la/movie/list/-2015----p");

}

/**

* 将获取到的数据保存在数据库中

*

* @param baseUrl

* 爬虫起点

* @return null

* */

public void saveData(String baseUrl) {

Map oldMap = new LinkedHashMap(); // 存储链接-是否被遍历

Map videoLinkMap = new LinkedHashMap(); // 视频下载链接

String oldLinkHost = ""; // host

Pattern p = Pattern.compile("(https?://)?[^/\\s]*"); // 比如：http://www.zifangsky.cn

Matcher m = p.matcher(baseUrl);

if (m.find()) {

oldLinkHost = m.group();

}

oldMap.put(baseUrl, false);

videoLinkMap = crawlLinks(oldLinkHost, oldMap);

// 遍历，然后将数据保存在数据库中

try {

Connection connection = JDBCDemo.getConnection();

for (Map.Entry mapping : videoLinkMap.entrySet()) {

PreparedStatement pStatement = connection

.prepareStatement("insert into movie(MovieName,MovieLink) values(?,?)");

pStatement.setString(1, mapping.getKey());

pStatement.setString(2, mapping.getValue());

pStatement.executeUpdate();

pStatement.close();

// System.out.println(mapping.getKey() + " : " + mapping.getValue());

}

connection.close();

} catch (SQLException e) {

e.printStackTrace();

}

}

/**

* 抓取一个网站所有可以抓取的网页链接，在思路上使用了广度优先算法 对未遍历过的新链接不断发起GET请求， 一直到遍历完整个集合都没能发现新的链接

* 则表示不能发现新的链接了，任务结束

*

* 对一个链接发起请求时，对该网页用正则查找我们所需要的视频链接，找到后存入集合videoLinkMap

*

* @param oldLinkHost

* 域名，如：http://www.zifangsky.cn

* @param oldMap

* 待遍历的链接集合

*

* @return 返回所有抓取到的视频下载链接集合

* */

private Map crawlLinks(String oldLinkHost,

Map oldMap) {

Map newMap = new LinkedHashMap(); // 每次循环获取到的新链接

Map videoLinkMap = new LinkedHashMap(); // 视频下载链接

String oldLink = "";

for (Map.Entry mapping : oldMap.entrySet()) {

// System.out.println("link:" + mapping.getKey() + "--------check:"

// + mapping.getValue());

// 如果没有被遍历过

if (!mapping.getValue()) {

oldLink = mapping.getKey();

// 发起GET请求

try {

URL url = new URL(oldLink);

HttpURLConnection connection = (HttpURLConnection) url

.openConnection();

connection.setRequestMethod("GET");

connection.setConnectTimeout(2500);

connection.setReadTimeout(2500);

if (connection.getResponseCode() == 200) {

InputStream inputStream = connection.getInputStream();

BufferedReader reader = new BufferedReader(

new InputStreamReader(inputStream, "UTF-8"));

String line = "";

Pattern pattern = null;

Matcher matcher = null;

//电影详情页面，取出其中的视频下载链接，不继续深入抓取其他页面

if(isMoviePage(oldLink)){

boolean checkTitle = false;

String title = "";

while ((line = reader.readLine()) != null) {

//取出页面中的视频标题

if(!checkTitle){

pattern = Pattern.compile("([^\\s]+).*?");

matcher = pattern.matcher(line);

if(matcher.find()){

title = matcher.group(1);

checkTitle = true;

continue;

}

}

// 取出页面中的视频下载链接

pattern = Pattern

.compile("(thunder:[^\"]+).*thunder[rR]es[tT]itle=\"[^\"]*\"");

matcher = pattern.matcher(line);

if (matcher.find()) {

videoLinkMap.put(title,matcher.group(1));

System.out.println("视频名称： "

+ title + " ------ 视频链接："

+ matcher.group(1));

break; //当前页面已经检测完毕

}

}

}

//电影列表页面

else if(checkUrl(oldLink)){

while ((line = reader.readLine()) != null) {

pattern = Pattern

.compile("