网站首页 > 文章中心 > 其它

php爬数据实例

作者:小编 更新时间:2023-08-09 14:31:42 浏览量:120人看过

php如何爬取天猫和淘宝商品数据

直接用Curl就行,具体爬取的数据可以穿参查看结果,方法不区分淘宝和天猫链接,但是前提是必须是PC端链接,另外正则写的不规范,所以可以自己重写正则来匹配数据.

PHP怎样抓取网页代码中动态显示的数据

php curl 模拟登录并获取数据实例详解

php爬数据实例-图1

PHP的curl()在抓取网页的效率方面是比较高的,而且支持多线程,而file_get_contents()效率就要稍低些,当然,使用curl时需要开启下curl扩展.

代码实战

先来看登录部分的代码:

//模拟登录

function

login_post($url,

$cookie,

$post)

{

$curl

=

php爬数据实例-图2

curl_init();//初始化curl模块

curl_setopt($curl,

CURLOPT_URL,

$url);//登录提交的地址

CURLOPT_HEADER,

0);//是否显示头信息

CURLOPT_RETURNTRANSFER,

0);//是否自动显示返回的信息

CURLOPT_COOKIEJAR,

$cookie);

//设置Cookie信息保存在指定的文件中

CURLOPT_POST,

①.);//post方式提交

CURLOPT_POSTFIELDS,

http_build_query($post));//要提交的信息

curl_exec($curl);//执行cURL

curl_close($curl);//关闭cURL资源,并且释放系统资源

}

函数login_post()首先初始化curl_init(),然后使用curl_setopt()设置相关选项信息,包括要提交的url地址,保存的cookie文件,post的数据(用户名和密码等信息),是否返回信息等等,然后curl_exec执行curl,最后curl_close()释放资源.注意PHP自带的http_build_query()可以将数组转换成相连接的字符串.

此时此刻呢如果登录成功后,我们要获取登录成功后的页面信息.

//登录成功后获取数据

get_content($url,

$cookie)

$ch

curl_init();

curl_setopt($ch,

$url);

0);

①.);

CURLOPT_COOKIEFILE,

//读取cookie

$rs

curl_exec($ch);

//执行cURL抓取页面内容

curl_close($ch);

return

$rs;

函数get_content()中也是先初始化curl,然后设置相关选项,执行curl,释放资源.其中我们设置CURLOPT_RETURNTRANSFER为1即自动返回信息,而CURLOPT_COOKIEFILE可以读取到登录时保存的cookie信息,最后将页面内容返回.

我们的最终目的是要获取到模拟登录后的信息,也就是只有正常登录成功后才能获取的有用信息.此时此刻呢我们以登录开源中国的移动版为例,看看如何抓取到登录成功后的信息.

//设置post的数据

$post

array

(

'email'

'oschina账户',

'pwd'

'oschina密码',

'goto_page'

'/my',

'error_page'

'/login',

'save_login'

'1',

'submit'

'现在登录'

);

//登录地址

$url

"";

//设置cookie保存路径

$cookie

dirname(__FILE__)

.

'/cookie_oschina.txt';

//登录后要获取信息的地址

$post);

//获取登录页的信息

$content

//删除cookie文件

@

unlink($cookie);

//匹配页面信息

$preg

"/td

class='portrait'(.*)\/td/i";

preg_match_all($preg,

$content,

$arr);

$str

$arr[1][0];

//输出内容

echo

$str;

使用总结

①.、初始化curl;

感谢阅读,希望能帮助到大家,谢谢大家对本站的支持!

php的curl怎么爬取网页内容

创建一个新cURL资源

设置URL和相应的选项

抓取URL并把它传递给浏览器

关闭cURL资源,并且释放系统资源

代码案例:

以上就是土嘎嘎小编为大家整理的php爬数据实例相关主题介绍,如果您觉得小编更新的文章只要能对粉丝们有用,就是我们最大的鼓励和动力,不要忘记讲本站分享给您身边的朋友哦!!

版权声明:倡导尊重与保护知识产权。未经许可,任何人不得复制、转载、或以其他方式使用本站《原创》内容,违者将追究其法律责任。本站文章内容,部分图片来源于网络,如有侵权,请联系我们修改或者删除处理。

编辑推荐

热门文章