眾所周知SEO優(yōu)化中robots文件是用來(lái)管理機(jī)器人抓取網(wǎng)站內(nèi)容的,而robots.txt文件則是放在我們網(wǎng)站根目錄下面的一個(gè)文本文件,用來(lái)規(guī)定什么蜘蛛(機(jī)器人)可以抓取什么文件,不可以抓取什么文件。我們通常用robots來(lái)告訴搜索引擎,這個(gè)目錄你可以進(jìn),那個(gè)目錄你不可以進(jìn);這個(gè)文件你可以訪(fǎng)問(wèn),那個(gè)文件你不能訪(fǎng)問(wèn)。但是有些時(shí)候,robots文件,我們還是要謹(jǐn)慎使用的好。