蜘蛛抓取有好多動態(tài)鏈接是否有影響?要怎么處理?
- 威海Spider 威海Spider,Robots
- 1687
我的網(wǎng)站顯示的蜘蛛抓取,有好多動態(tài)鏈接是否有影響?是否需要處理。該如何處理?
11-29.123.
如果不是自己網(wǎng)站本身實際存在的url,很可能是網(wǎng)站由于被人刷,導致的。
對應這些動態(tài)鏈接,可以在robots文件中,寫一個屏蔽抓取動態(tài)鏈接的語法。
User-agent: *
Disallow: /*?*
更詳細的robots設置方法,可以看下面鏈接課程
https://ke.seowhy.com/play/9492.html
來源:搜外網(wǎng)