php curl 自定義get方法抓取網(wǎng)頁
假設我們使用get方法請求一個網(wǎng)頁,得到網(wǎng)頁內(nèi)容後可以符合出對應的內(nèi)容。
我們可以使用curl封裝一個函數(shù),假設函數(shù)名稱就是get。傳入url就能請求指定的網(wǎng)頁,將指定網(wǎng)頁的HTML程式碼回傳回來。程式碼如下:
function get($url) { //初使化curl $ch = curl_init(); //請求的url,由形參傳入 curl_setopt($ch, CURLOPT_URL, $url); //將得到的數(shù)據(jù)返回 curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //不處理頭信息 curl_setopt($ch, CURLOPT_HEADER, 0); //連接超過10秒超時 curl_setopt($ch, CURLOPT_TIMEOUT, 10); //執(zhí)行curl $output = curl_exec($ch); //關(guān)閉資源 curl_close($ch); //返回內(nèi)容 return $output; }
我們現(xiàn)在使用我們所寫的get方法,請求網(wǎng)易的一個列表,將標題和url抓取出來。
我們可以先用get方法中傳入一個URL。得到這個網(wǎng)址所對應網(wǎng)頁的html。
網(wǎng)址為新媒體觀察網(wǎng)站的新聞列表頁:http://www.xmtnews.com/events?。
將紅色區(qū)域採集下來:
一、得到採紅色區(qū)間的html?
這個區(qū)間從下面的HTML程式碼開始:
<section class="ov">
在以下程式碼結(jié)束:
<div class="hr-10"></div>
使用preg_match寫一個正規(guī)表示示就符合就符合就得到了紅色區(qū)間的HTML。將符合到的HTML賦值給變數(shù)$area。
匹配的正規(guī)表示如下:
<section class="ov">(.*?)<div class="hr-10"><\/div>/mis'
二、在紅色區(qū)域匹配標題和標題的URL
我們發(fā)現(xiàn)所有的標題都在<h3>標籤裡面。我們使用preg_match_all寫一個正規(guī)表示示。
preg_match_all('/<h3><a href="(.*?)" title=".*?" class="headers" target="_blank">(.*?)<\/a><\/h3>/mis', $area, $find);
將url和內(nèi)容配對出來的內(nèi)容放置到$find中,將$find數(shù)組,印出來就可以看到匹配的結(jié)果了。
如果需要,也可以循環(huán)讀取顯示每一行標題和每一行URL。
全部程式碼示範如下:
<?php $content = get('http://www.xmtnews.com/events'); preg_match('/<section class="ov">(.*?)<div class="hr-10"><\/div>/mis', $content, $match); //將正則匹配到的內(nèi)容賦值給$area $area = $match[1]; preg_match_all('/<h3><a href="(.*?)" title=".*?" class="headers" target="_blank">(.*?)<\/a><\/h3>/', $area, $find); var_dump($find); function get($url) { //初使化curl $ch = curl_init(); //請求的url,由形參傳入 curl_setopt($ch, CURLOPT_URL, $url); //將得到的數(shù)據(jù)返回 curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //不處理頭信息 curl_setopt($ch, CURLOPT_HEADER, 0); //連接超過10秒超時 curl_setopt($ch, CURLOPT_TIMEOUT, 10); //執(zhí)行curl $output = curl_exec($ch); //關(guān)閉資源 curl_close($ch); //返回內(nèi)容 return $output; } ?>