網站應該有簡明、清晰的導航,可以讓用戶快速找到自己需要的內容,同時也可以幫助搜索引擎更好的了解網站的結構。
百度優化建議
為每個頁面都加上導航欄,讓用戶可以方便的返回頻道、網站首頁,也可以讓搜索引擎方便的定位網頁在網結構中的層次;
內容較多的網站,建議使用面包屑式的導航,這更容易讓用戶理解當前所處的位置:網站首頁 > 頻道 > 當前瀏覽頁面 ;
導航中使用文字鏈接,不使用復雜的js或者flash;
使用圖片做導航時,可以使用Alt注釋,用Alt告訴搜索引擎所指向的網頁內容是什么。
合理的返回碼
百度爬蟲在進行抓取和處理時,是根據http協議規范來設置相應的邏輯的,所以請站長們也盡量參考http協議中關于返回碼的含義的定義進行設置。
Baiduspider 對常用的http返回碼的處理邏輯是這樣的:
404 返回碼的含義是 “Not Found”,百度會認為網頁已經失效,那么通常會從搜索結果中刪除,并且短期內 spider 再次發現這條 URL 也不會抓取。
503 返回碼的含義是 “Service Unavailable”,百度會認為該網頁臨時不可訪問,通常網站臨時關閉,帶寬有限等會產生這種情況。對于網頁返回503,百度 spider 不會把這條 URL 直接刪除,短期內會再訪問。屆時如果網頁已恢復,則正常抓取;如果繼續返回503,短期內還會反復訪問幾次。但是如果網頁長期返回503,那么這個 URL 仍會被百度認為是失效鏈接,從搜索結果中刪除。
403 返回碼的含義是 “Forbidden”,百度會認為網頁當前禁止訪問。對于這種情況,如果是新發現的URL,百度 spider 暫不抓取,短期內會再次檢查;如果是百度已經收錄的URL,當前也不會直接刪除,短期內同樣會再訪問。屆時如果網頁允許訪問,則正常抓取;如果仍不允許訪問,短期內還會反復訪問幾次。但是如果網頁長期返回403,百度也會認為是失效鏈接,從搜索結果中刪除。
301 返回碼的含義是 “Moved Permanently”,百度會認為網頁當前跳轉至新URL。當遇到站點遷移、域名更換和站點改版的情況時,推薦使用301返回碼,盡量減少改版帶來的流量損失。雖然百度spider 現在對301跳轉的響應周期較長,但是我們還是推薦大家這么做。
百度優化建議
如果站點臨時關閉,當網頁不能打開時,不要立即返回404,建議使用503狀態。503可以告知百度spider該頁面臨時不可訪問,請過段時間再重試。
如果百度spider對您的站點抓取壓力過大,請盡量不要使用404,同樣建議返回503。這樣百度spider會過段時間再來嘗試抓取這個鏈接,如果那個時間站點空閑,那它就會被成功抓取了。
有一些網站希望百度只收錄部分內容,例如審核后的內容,累積一段時間的新用戶頁等等。在這種情況,建議新發內容暫時返回403,等審核或做好處理之后,再返回正常狀態的返回碼。
站點遷移,或域名更換時,請使用301返回碼。