我们先用这个工具查询所有被收录的页面。打开软件,填入简版百度site网站地址,之所以用简版是可以减少链接查询时间和内容。http://www.baidu.com/s?ie=utf-8&tn=baidulocal&wd=site%3Awww.pc6.com(请把www.pc6.com换成你的网址)
等待检测完成。
点击导出为制表符分隔的文件。
导出的文件,我们可以看到格式是:网址+空格+状态码
那么写一个正则,把需要的网址提取出来就行,比如www.baidu.com下的404页面就是/http:\/\/www.baidu.com(.*?)\s404/i(以http://www.baidu.com开头,\s代表空格,404,/i代表匹配大小写)不会正则怎么办?
为了方便大家,我把文件作了修改,大家只要把head改成标致性开头,state改成状态码就行,file改成导出的文件路径就行。head怎么改,举个例子,你的网站是http://www.baidu.com/abc.html,那么你就写http://www.baidu.com/你的网站是http://abc.baidu.com/abc.html,那么你就写http://abc.baidu.com/把正则写入php,在php环境下运行get.php。那么结果就出来了。
这时你只需要全选,复制到一个txt文件,上传到网站空间,再到百度站长平台死链提交填入文件路径就行就可以。
我们知道,思路是通过爬取找出所有被收录的链接,然后按条件列出来而已。这样的话,只要把开头输入的site网址改一下,也可以查询其他搜索引擎的收录。把正则改一下,可以获得如标题等其他内容。在此就不一一叙述。
