瀏覽：3492 發布時間：2011-09-20
當我們成都網站建設的網站剛上線后，都希望網站被盡快收錄，于是會去吸引蜘蛛的到來，蜘蛛到來的頻率過高有時候會導致iis資源耗盡，網站中時常數出現service unavoidable的提示，這個詞的出現可以直接表現為訪問量很小。
是蜘蛛的到來引起我們網站資源的缺乏，是蜘蛛耗盡服務器資源的，所以我們的解決辦法就針對蜘蛛進行。利用robots.txt中的disallow屏蔽部分沒有實際意義的內容。
格式如下：
user-agent:*
disallow:/search.html
disallow:/index.php?
disallow:/tempweb/
說明：
user-agent:*： *代表允許所有的搜索引擎來抓取數據。
disallow:/search.html：不允許收錄/search.html這個文件的數據。
disallow:/index.php?：不允許收錄以/index.php?為前綴的鏈接。
disallow:/tempweb/：不允許收錄/tempweb/里所有的文件，但可以收錄如：/tempwebtaim.html的鏈接。
