PHP获取指定URL页面中的所有链接

form:http://www.uphtm.com/php/253.html

这个东西其实我们开发人员来讲常用了,以前做一个抓取其它网站友情连接时用过,今天看到一朋友整理了一个PHP获取指定URL页面中的所有链接函数,整理过来我们一起来看看吧。

以下代码可以获取到指定URL页面中的所有链接,即所有a标签的href属性:

  1. // 获取链接的HTML代码
  2. $html = file_get_contents('http://www.111cn.net');
  3. $dom = new DOMDocument();
  4. @$dom->loadHTML($html);
  5. $xpath = new DOMXPath($dom);
  6. $hrefs = $xpath->evaluate('/html/body//a');
  7. for ($i = 0; $i < $hrefs->length; $i++) {
  8.    $href = $hrefs->item($i);
  9.    $url = $href->getAttribute('href');
  10.    echo $url.'<br />';
  11. }

这段代码会获取到所有a标签的href属性,但是href属性值不一定是链接,我们可以在做个过滤,只保留http开头的链接地址:

 

  1. // 获取链接的HTML代码
  2. $html = file_get_contents('http://www.111cn.net');
  3. $dom = new DOMDocument();
  4. @$dom->loadHTML($html);
  5. $xpath = new DOMXPath($dom);
  6. $hrefs = $xpath->evaluate('/html/body//a');
  7. for ($i = 0; $i < $hrefs->length; $i++) {
  8.    $href = $hrefs->item($i);
  9.    $url = $href->getAttribute('href');
  10.   
  11.    // 保留以http开头的链接
  12.    if(substr($url, 0, 4) == 'http')
  13.       echo $url.'<br />';
  14. }

fopen()函数读取指定网页中的所有链接并统计出数量,在一些需要采集网页页容的地方,适合使用本代码,本例以读取百度首页为例,找出百度首页中所有的链接地址,代码经过测试,完全可用:

  1. <?
  2. if(empty($url))$url = "http://www.baidu.com/";//需要采集链接的URL地址
  3. $site=substr($url,0,strpos($url,"/",8));
  4. $base=substr($url,0,strrpos($url,"/")+1);//文件所在目录
  5. $fp = fopen($url, "r" );//打开url地址页面
  6. while(!feof($fp))$contents.=fread($fp,1024);
  7. $pattern="|href=['\"]?([^ '\"]+)['\" ]|U";
  8. preg_match_all($pattern,$contents, $regArr, PREG_SET_ORDER);//使用正则匹配所有href=
  9. for($i=0;$i<count($regArr);$i++){//找出所有匹配的链接
  10. if(!eregi("://",$regArr[$i][1]))//判断是否是相对路径,即是否还有://
  11.     if(substr($regArr[$i][1],0,1)=="/")//是否是站点的根目录
  12.     echo "link".($i+1).":".$site.$regArr[$i][1]."<br/>";//根目录
  13.     else
  14.     echo "link".($i+1).":".$base.$regArr[$i][1]."<br/>";//当前目录
  15. else
  16.     echo "link".($i+1).":".$regArr[$i][1]."<br/>";//相对路径
  17. }
  18. fclose($fp);
  19. ?>

form:http://www.uphtm.com/php/253.html

posted on 2015-04-15 19:17  coolhtm  阅读(1894)  评论(0编辑  收藏  举报

导航