網(wǎng)站上線之初我們會為網(wǎng)站制作robot文件來屏蔽那些不愿意被搜索索引抓取的文件，那你知不知道其實robot文件還可以巧妙的避免蜘蛛黑洞，更有利于網(wǎng)站的運營。

    對于百度搜索引擎來說，蜘蛛黑洞特指網(wǎng)站通過極低的成本制造出大量參數(shù)過多，及內容雷同但具體參數(shù)不同的動態(tài)URL ，就像一個無限循環(huán)的“黑洞”將spider困住，Baiduspider浪費了大量資源抓取的卻是無效網(wǎng)頁。
   
    比如很多網(wǎng)站都有篩選功能，通過篩選功能產(chǎn)生的網(wǎng)頁經(jīng)常會被搜索引擎大量抓取，而這其中很大一部分檢索價值不高，如“500-1000之間價格的租房”，首先網(wǎng)站（包括現(xiàn)實中）上基本沒有相關資源，其次站內用戶和搜索引擎用戶都沒有這種檢索習慣。這種網(wǎng)頁被搜索引擎大量抓取，只能是占用網(wǎng)站寶貴的抓取配額。那么該如何避免這種情況呢？
      
    我們以北京某團購網(wǎng)站為例，看看該網(wǎng)站是如何利用robots巧妙避免這種蜘蛛黑洞的：

    對于普通的篩選結果頁，該網(wǎng)站選擇使用靜態(tài)鏈接，如：http://bj.XXXXX.com/category/zizhucan/weigongcun
      
    同樣是條件篩選結果頁，當用戶選擇不同排序條件后，會生成帶有不同參數(shù)的動態(tài)鏈接，而且即使是同一種排序條件（如：都是按銷量降序排列），生成的參數(shù)也都是不同的。如：http://bj.XXXXX.com/category/zizhucan/weigongcun/hot?mtt=1.index%2Fpoi.0.0.i1afqhek，http://bj.XXXXX.com/category/zizhucan/weigongcun/hot?mtt=1.index%2Fpoi.0.0.i1afqi5c

    對于該團購網(wǎng)來說，只讓搜索引擎抓取篩選結果頁就可以了，而各種帶參數(shù)的結果排序頁面則通過robots規(guī)則拒絕提供給搜索引擎。
      
    robots.txt的文件用法中有這樣一條規(guī)則：Disallow: /*?* ，即禁止搜索引擎訪問網(wǎng)站中所有的動態(tài)頁面。該網(wǎng)站恰是通過這種方式，對Baiduspider優(yōu)先展示高質量頁面、屏蔽了低質量頁面，為Baiduspider提供了更友好的網(wǎng)站結構，避免了黑洞的形成。

    將不利于用戶體驗的低質量頁面屏蔽，這樣就能夠更好的親近搜索引擎和網(wǎng)站受眾。除了北京某團購網(wǎng)網(wǎng)站，石家莊網(wǎng)絡公司的某網(wǎng)站采用了這種方式，利用robot文件將網(wǎng)站的模板頁進行屏蔽，只向用戶展示那些高質量的靜態(tài)頁面，更大程度上的貼近用戶需求。

     (轉載請注明轉自：www.bestvalueblinds.com，謝謝!珍惜別人的勞動成果，就是在尊重自己!）