濮阳杆衣贸易有限公司

主頁 > 知識庫 > PHP使用Curl實現(xiàn)模擬登錄及抓取數(shù)據(jù)功能示例

PHP使用Curl實現(xiàn)模擬登錄及抓取數(shù)據(jù)功能示例

熱門標簽:房產(chǎn)中介用的是什么外呼系統(tǒng) 遼寧ai電銷機器人價格 長沙做地圖標注公司 上海做外呼線路的通信公司 地圖標注專員怎么樣 寧波外呼營銷系統(tǒng) 電話機器人銷售主要負責什么 四川保險智能外呼系統(tǒng)供應(yīng)商 福建銀行智能外呼系統(tǒng)價格

本文實例講述了PHP使用Curl實現(xiàn)模擬登錄及抓取數(shù)據(jù)功能。分享給大家供大家參考,具體如下:

使用PHP的Curl擴展庫可以模擬實現(xiàn)登錄,并抓取一些需要用戶賬號登錄以后才能查看的數(shù)據(jù)。具體實現(xiàn)的流程如下(個人總結(jié)):

1. 首先需要對相應(yīng)的登錄頁面的html源代碼進行分析,獲得一些必要的信息:

(1)登錄頁面的地址;

(2)驗證碼的地址;

(3)登錄表單需要提交的各個字段的名稱和提交方式;

(4)登錄表單提交的地址;

(5)另外要需要知道要抓取的數(shù)據(jù)所在的地址。

2. 獲取cookie并存儲(針對使用cookie文件的網(wǎng)站):

$login_url = 'http://www.xxxxx';  //登錄頁面地址
$cookie_file = dirname(__FILE__)."/pic.cookie";  //cookie文件存放位置(自定義)
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $login_url);
curl_setopt($ch, CURLOPT_HEADER, 0);
curl_setopt($ch, CURLOPT_RETURNTRANSFER,1);
curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_file);
curl_exec($ch);
curl_close($ch);

3. 獲取驗證碼并存儲(針對使用驗證碼的網(wǎng)站):

$verify_url = "http://www.xxxx";   //驗證碼地址
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $verify_url);
curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_file);
curl_setopt($ch, CURLOPT_HEADER, 0);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
$verify_img = curl_exec($ch);
curl_close($ch);
$fp = fopen("./verify/verifyCode.png",'w');  //把抓取到的圖片文件寫入本地圖片文件保存
fwrite($fp, $verify_img);
fclose($fp);

說明:

由于不能實現(xiàn)驗證碼的識別,所以我這里的做法是,把驗證碼圖片抓取下來存放到本地文件中,然后在自己項目中的html頁面中顯示,讓用戶去填寫,等用戶填寫完賬號、密碼和驗證碼,并點擊提交按鈕之后再去進行下一步的操作。

4. 模擬提交登錄表單:

$ post_url = 'http://www.xxxx';   //登錄表單提交地址
$post = "username=$accountpassword=$passwordseccodeverify=$verifyCode";//表單提交的數(shù)據(jù)(根據(jù)表單字段名和用戶輸入決定)
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $ post_url);
curl_setopt($ch, CURLOPT_HEADER, false);
curl_setopt($ch, CURLOPT_RETURNTRANSFER,1);
curl_setopt($ch, CURLOPT_POSTFIELDS, $post);     //提交方式為post
curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_file);
curl_exec($ch);
curl_close($ch);

5. 抓取數(shù)據(jù):

$data_url = "http://www.xxxx";   //數(shù)據(jù)所在地址
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $data_url);
curl_setopt($ch, CURLOPT_HEADER, false);
curl_setopt($ch, CURLOPT_HEADER, 0);
curl_setopt($ch, CURLOPT_RETURNTRANSFER,0);
curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_file);
$data = curl_exec($ch);
curl_close($ch);

到目前為止,已經(jīng)把數(shù)據(jù)所在地址的這個頁面都抓取下來存儲在字符串變量$data中了。

需要注意的是抓取下來的是一個網(wǎng)頁的html源代碼,也就是說這個字符串中不僅包含了你想要的數(shù)據(jù),還包含了許多的html標簽等你不想要的東西。所以如果你想要從中提取出你需要的數(shù)據(jù)的話,你還要對存放數(shù)據(jù)的頁面的html代碼進行分析,然后結(jié)合字符串操作函數(shù)、正則匹配等方法從中提取出你想要的數(shù)據(jù)。

以上方法對使用http協(xié)議的一般網(wǎng)站是有效的。但是如果你要模擬登錄的是使用了https協(xié)議的網(wǎng)站的話還需要添加如下一些處理:

1. 跳過https驗證:

curl_setopt($curl, CURLOPT_SSL_VERIFYPEER, false);
curl_setopt($curl, CURLOPT_SSL_VERIFYHOST, false);

2. 使用用戶代理:

$UserAgent = 'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0; SLCC1; .NET CLR 2.0.50727; .NET CLR 3.0.04506; .NET CLR 3.5.21022; .NET CLR 1.0.3705; .NET CLR 1.1.4322)';
curl_setopt($curl, CURLOPT_USERAGENT, $UserAgent);

注意:如果不添加這些處理的話模擬登錄時是不能成功的。

使用以上程序模擬登錄網(wǎng)站一般都是能成功的,但是實際上還是需要針對模擬登錄的網(wǎng)站具體情況具體考慮。例如:有些網(wǎng)站編碼不同,所以你抓取下來的頁面是亂碼的,這時就要進行一下編碼轉(zhuǎn)換,如:$data = iconv("gb2312", "utf-8",$data);,把gbk編碼轉(zhuǎn)換為utf8編碼。還有一些對安全性要求比較高的網(wǎng)站,比如網(wǎng)銀,會把驗證碼放在一個內(nèi)聯(lián)框架中,這時你就需要先抓取到內(nèi)聯(lián)框架的頁面然后在從中提取出驗證碼的地址,再去抓取驗證碼。還有一些網(wǎng)站(比如網(wǎng)銀)是在js代碼中去提交表單的,提交表單之前還會去做一些處理,比如加密等,所以如果你是直接提交的話也是不能登錄成功的,你必須要去做類似的處理后再提交,但是這種情況如果你能知道js代碼中進行的具體操作,比如加密的話,加密算法是怎樣的,你就可以進行跟它一樣的處理,然后再去提交數(shù)據(jù),這樣也是能成功的。但是,關(guān)鍵的地方來了,如果你根本不知道它進行的是什么操作,比如它進行了加密,但是你不知道加密的具體算法,那么你就無法進行相同的操作,也就不能成功地模擬登錄了。這方面典型的案例就是網(wǎng)銀,它在js代碼中提交表單之前使用網(wǎng)銀控件對用戶提交的密碼和驗證碼進行了一些處理,但是我們根本不知道它進行的是什么操作,所以無法模擬。所以如果你以為你看了本文之后就能模擬登錄網(wǎng)銀的話那么你就太天真了,人家銀行的網(wǎng)站能那么容易被你模擬登錄嗎?當然,如果你能破解網(wǎng)銀控件的話,那就另當別論了。話說回來,為什么我的感受如此深刻,因為我就遇到這個難題了,不說了,說多了都是淚啊。。。

更多關(guān)于PHP相關(guān)內(nèi)容感興趣的讀者可查看本站專題:《php curl用法總結(jié)》、《PHP網(wǎng)絡(luò)編程技巧總結(jié)》、《PHP數(shù)組(Array)操作技巧大全》、《php字符串(string)用法總結(jié)》、《PHP數(shù)據(jù)結(jié)構(gòu)與算法教程》、《php程序設(shè)計算法總結(jié)》、《PHP運算與運算符用法總結(jié)》及《php常見數(shù)據(jù)庫操作技巧匯總》

希望本文所述對大家PHP程序設(shè)計有所幫助。

您可能感興趣的文章:
  • PHP實現(xiàn)的微信公眾號掃碼模擬登錄功能示例
  • php curl 模擬登錄并獲取數(shù)據(jù)實例詳解
  • PHP Curl模擬登錄微信公眾平臺、新浪微博實例代碼
  • PHP curl模擬登錄帶驗證碼的網(wǎng)站
  • PHP讀取CURL模擬登錄時生成Cookie文件的方法
  • PHP使用CURL實現(xiàn)對帶有驗證碼的網(wǎng)站進行模擬登錄的方法
  • PHP中使用CURL模擬登錄并獲取數(shù)據(jù)實例
  • PHP CURL獲取cookies模擬登錄的方法
  • PHP如何獲取Cookie并實現(xiàn)模擬登錄

標簽:延安 常德 佛山 宜春 澳門 宿遷 工商登記 深圳

巨人網(wǎng)絡(luò)通訊聲明:本文標題《PHP使用Curl實現(xiàn)模擬登錄及抓取數(shù)據(jù)功能示例》,本文關(guān)鍵詞  PHP,使用,Curl,實現(xiàn),模擬,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《PHP使用Curl實現(xiàn)模擬登錄及抓取數(shù)據(jù)功能示例》相關(guān)的同類信息!
  • 本頁收集關(guān)于PHP使用Curl實現(xiàn)模擬登錄及抓取數(shù)據(jù)功能示例的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章
    吴堡县| 邢台县| 石河子市| 万宁市| 天柱县| 栾川县| 荥阳市| 唐海县| 香港 | 张家港市| 永城市| 武威市| 静安区| 蒙自县| 涞水县| 和林格尔县| 赣榆县| 长泰县| 兴化市| 延川县| 连南| 洞口县| 内黄县| 肃南| 海南省| 玉林市| 铁岭县| 兴城市| 静乐县| 安图县| 崇明县| 集贤县| 伊吾县| 兰溪市| 榆中县| 合作市| 木兰县| 青冈县| 桃园县| 翼城县| 海兴县|