proxy代理   soft软件   IT 业界特快   norton 诺顿病毒库   代理列表   search FTP搜索   whois IP地理位置   blog 追求完美  
money理财   life生活   RSS聚合门户   firefox WEB浏览器   免费域名   typeset 假古文   AntiVirus 反病毒   ipcn 站点导航  

« 通过脚本简单分析DNS log | Main | 招行专业版 CMB 证书与注册表 »

May 19, 2006

备案爬虫机器人 beian spider - Isaac Ding/1.0

版权声明:可以任意转载,转载时请务必以超链接形式标明文章原始出处和作者信息及本声明。
https://windtear.net/archives/2006/05/19/000986.html
http://windtear.net/archives/2006/05/19/000986.html

备案爬虫机器人 beian spider - Isaac Ding/1.0

听别人提到 这里就记录一下
据说如果 /cert/bazs.cert 没有抓取成功 会全站抓取监控
下面这条请求是中国联通旗下的记录 供参考

211.94.161.55 - - [22/Jun/2005:01:21:31 +0800] "GET ///cert/bazs.cert HTTP/1.1" 200 2898
 "-" "Isaac Ding/1.0"

211.94.161.55 (机器人IP)
Isaac Ding/1.0 (User-Agent)
/cert/bazs.cert

inetnum:      211.90.0.0 - 211.97.255.255
netname:      UNICOM
descr:        China United Telecommunications Corporation
descr:        No.133,Taiyun Building,Xidan North Street
descr:        Xicheng District,Beijing,China
本blog WWW

Posted by windtear at May 19, 2006 11:40 PM

本站使用中的任何问题,请与 windtear @ windtear.net 联系
Copyright© 1999-2024 Windtear. All rights reserved.