欢迎光临闲吧资源站,连接有变化的请搜索!
Jun 6
一、robots.txt有什么用?
       如果您不希望互联网爬虫(又叫蜘蛛、Crawler、Spider等)抓取您网站的每一个公开的链接,而只抓取您指定的某一部分链接,或根本不抓取任何链接,你可以使用robots.txt向我们汇报爬虫信息。  
Apr 5
Apr 5
自己懒,其实很早想写的,毕竟这个空间还说很稳定的。
这次小和尚给写了,哈哈...
分页: 1/1 第一页 1 最后页
[ 显示模式: 摘要 | 列表 ]