具体处理方式就是建立就一个任务队列,往队列里面插入一些种子任务和可以开始爬行,爬行的过程就是循环的从队列里面提取一个URL,打开后获取连接插入队列中,进行相关的保存.队列可以使用数组实现.
当然PHP作为但线程的东西,慢慢爬还是可以,怕的就是有的URL打不开,会死在那里.
curl实现页面抓取,设置cookie可以实现模拟登录
simple_html_dom 实现页面的解析和DOM处理
如果想要模拟浏览器,可以使用casperJS.用swoole扩展封装一个服务接口给PHP层调用
今天这一节有一套爬虫系统就是基于上述技术方案实现的,每天会抓取几千万个页面.
本文承接上面两篇,本篇中的示例要调用到前两篇中的函数,做一个简单的URL采集.一般php采集网络数据会用file_get_contents、file和cURL.不过据说cURL会比file_get_contents、file更快更专业,更适合采集.今天就试试用cURL来获取网页上的所有链接.示例如下：
php
/*
*/
include_once('function.php');
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, '');
// 只需返回HTTP header
curl_setopt($ch, CURLOPT_HEADER, 1);
// 页面内容我们并不需要
// curl_setopt($ch, CURLOPT_NOBODY, 1);
// 返回结果,而不是输出它
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
$html = curl_exec($ch);
$info = curl_getinfo($ch);
if ($html === false) {
echo "cURL Error: " . curl_error($ch);
}
curl_close($ch);
$linkarr = _striplinks($html);
// 主机部分,补全用
$host = '';
if (is_array($linkarr)) {
foreach ($linkarr as $k = $v) {
$linkresult[$k] = _expandlinks($v, $host);
printf("p此页面的所有链接为：/ppre%s/pren", var_export($linkresult , true));
function.php内容如下（即为上两篇中两个函数的合集）：
function _striplinks($document) {
preg_match_all("'s*as.*?hrefs*=s*(["'])?(?(1) (.*?)\1 | ([^s]◆))'isx", $document, $links);
// catenate the non-empty matches from the conditional subpattern
if (!empty($val))
$match[] = $val;
// return the links
return $match;
/*===================================================================*
Function:_expandlinks
Purpose:expand each link into a fully qualified URL
Input:$linksthe links to qualify
$URIthe full URI to get the base from
Output:$expandedLinksthe expanded links
*===================================================================*/
function _expandlinks($links,$URI)
{
$URI_PARTS = parse_url($URI);
$host = $URI_PARTS["host"];
preg_match("/^[^?]◆/",$URI,$match);
$match = preg_replace("|/[^/.]◆.[^/.]◆$|","",$match[0]);
$match = preg_replace("|/$|","",$match);
$match_part = parse_url($match);
$match_root =
$match_part["scheme"]."://".$match_part["host"];
$search = array( "|^http://".preg_quote($host)."|i",
"|^(/)|i",
"|^(?!http://)(?!mailto:)|i",
"|/./|",
"|/[^/]◆/../|"
);
$replace = array("",
$match_root."/",
$match."/",
"/",
"/"
$expandedLinks = preg_replace($search,$replace,$links);
return $expandedLinks;
以上就是土嘎嘎小编为大家整理的php爬boss相关主题介绍,如果您觉得小编更新的文章只要能对粉丝们有用,就是我们最大的鼓励和动力,不要忘记讲本站分享给您身边的朋友哦！！