Robots 是站點與 Spider 溝通的重要渠道，站點通過 Robots 文件聲明本網站中不想被搜索引擎收錄的部分或者指定搜索引擎只收錄特定的部分。
9月11日，百度搜索 Robots 全新升級。升級后 Robots 將優(yōu)化對網站視頻 URL 收錄抓取情況。僅當您的網站包含不希望被視頻搜索引擎收錄的內容時，才需要使用 robots.txt 文件。如果您希望搜索引擎收錄網站上所有內容，請勿建立 robots.txt 文件。如您的網站未設置 Robots 協議，百度搜索對網站視頻 URL 的收錄將包含視頻播放頁 URL ，及頁面中的視頻文件、視頻周邊文本等信息，搜索對已收錄的短視頻資源將對用戶呈現為視頻極速體驗頁。此外，綜藝影視類長視頻，搜索引擎僅收錄頁面 URL 。
什么是視頻極速體驗頁
搜索視頻極速體驗服務旨在提升用戶觀看視頻體驗的一項富媒體體驗升級服務，本服務針對短視頻需求場景進行體驗優(yōu)化，將為搜索用戶提供穩(wěn)定、流暢、清晰的播放及瀏覽體驗。視頻極速體驗服務包含視頻極速頁和合作平臺兩部分服務，網站可前往平臺完善服務設置，獲取各項搜索權益。詳情參考《視頻極速體驗服務說明》：https://ziyuan.baidu.com/college/articleinfo?id=2522
設置搜索 Robots 協議的后果
針對短視頻類內容，視頻搜索將不再索引、展現網站的視頻資源，歷史已索引部分會從搜索中屏蔽。若設置部分目錄不希望被收錄 ，該目錄下內容將從搜索中屏蔽，其余內容在搜索中則以正常結果展示。
