咨詢我們，獲得專業的服務和報價
聯系我們，免費獲取項目方案及報價，或只是聊一聊您的項目？ 在收到您的需求留言后我們將由專業人員于24小時內與您取得聯系，請您保持電話暢通！
- 科研院所解決方案
- 外貿出海解決方案
- 協會學會解決方案
- 集團上市公司解決方案
- 生物醫藥解決方案
- 制造業解決方案
- 高校教育解決方案
- 信創網站改造解決方案
更多服務咨詢，請聯系尚品
010-60259772
淺談百度抓取淘寶那點事
2012-02-06
5584
分享至：
大家都知道大概是“百度有啊”上線之前，淘寶網為了避免百度惡意抓取，直接屏蔽了百度蜘蛛，也就是當時鬧得沸沸揚揚的robots.txt協議 。
就算是現在打開淘寶的robots.txt協議，依然可以看到淘寶還在屏蔽百度的蜘蛛。
可是事實上真的如此么
事實證明淘寶的robots.txt文件根本對百度蜘蛛起不到任何作用。
小弟推測百度之所以這么做是因為百度考慮到戰略方向的問題，因為查詢了一下發現一些知名店鋪在百度的排名都很不錯。足以證明百度對淘寶這種店鋪的重要性。更加戲曲化的是天貓網（淘寶商城）也是使用robots.txt協議的。同樣屏蔽了百度蜘蛛。
還有一種可能就是淘寶網以及天貓網的權重太高了，導致了百度蜘蛛不遵循搜索引擎協議而進行的抓取。不過對于這種事情可以聯想到前些日子，一淘網惡意抓取京東商城以及新蛋網等的商品數據，也是不遵循搜索引擎規則的。
直到現在京東商城等也在屏蔽一淘網的蜘蛛，
小編想說的是現在的搜索引擎為了自身利益而不遵循互聯網協議的規則，是值得反思的，呼吁這種互聯網大公司能在整個IT行業樹立標榜。
來源聲明：
本文章系尚品中國編輯原創或采編整理，如需轉載請注明來自尚品中國。以上內容部分(包含圖片、文字)來源于網絡，如有侵權，請及時與本站聯系（010-60259772）。
