2）503代表“Service Unavailable”，認為網(wǎng)頁臨時不可訪問，通常網(wǎng)站臨時關(guān)閉，帶寬有限等會產(chǎn)生這種情況。對于網(wǎng)頁返回503狀態(tài)碼，百度spider不會把這條url直接刪除，同時短期內(nèi)將會反復訪問幾次，如果網(wǎng)頁已恢復，則正常抓取；如果繼續(xù)返回503，那么這條url仍會被認為是失效鏈接，從庫中刪除。

        3）403代表“Forbidden”，認為網(wǎng)頁目前禁止訪問。如果是新url，spider暫時不抓取，短期內(nèi)同樣會反復訪問幾次；如果是已收錄url，不會直接刪除，短期內(nèi)同樣反復訪問幾次。如果網(wǎng)頁正常訪問，則正常抓取；如果仍然禁止訪問，那么這條url也會被認為是失效鏈接，從庫中刪除。

        4）301代表是“Moved Permanently”，認為網(wǎng)頁重定向至新url。當遇到站點遷移、域名更換、站點改版的情況時，我們推薦使用301返回碼，同時使用站長平臺網(wǎng)站改版工具，以減少改版對網(wǎng)站流量造成的損失。

 

3、多種url重定向的識別

        互聯(lián)網(wǎng)中一部分網(wǎng)頁因為各種各樣的原因存在url重定向狀態(tài)，為了對這部分資源正常抓取，就要求spider對url重定向進行識別判斷，同時防止作弊行為。重定向可分為三類：http 30x重定向、meta refresh重定向和js重定向。另外，百度也支持Canonical標簽，在效果上可以認為也是一種間接的重定向。

 

4、抓取優(yōu)先級調(diào)配

        由于互聯(lián)網(wǎng)資源規(guī)模的巨大以及迅速的變化，對于搜索引擎來說全部抓取到并合理的更新保持一致性幾乎是不可能的事情，因此這就要求抓取系統(tǒng)設計一套合理的抓取優(yōu)先級調(diào)配策略。主要包括：深度優(yōu)先遍歷策略、寬度優(yōu)先遍歷策略、pr優(yōu)先策略、反鏈策略、社會化分享指導策略等等。每個策略各有優(yōu)劣，在實際情況中往往是多種策略結(jié)合使用以達到最優(yōu)的抓取效果。

 

5、重復url的過濾

        spider在抓取過程中需要判斷一個頁面是否已經(jīng)抓取過了，如果還沒有抓取再進行抓取網(wǎng)頁的行為并放在已抓取網(wǎng)址集合中。判斷是否已經(jīng)抓取其中涉及到最核心的是快速查找并對比，同時涉及到url歸一化識別，例如一個url中包含大量無效參數(shù)而實際是同一個頁面，這將視為同一個url來對待。

 

6、暗網(wǎng)數(shù)據(jù)的獲取

        互聯(lián)網(wǎng)中存在著大量的搜索引擎暫時無法抓取到的數(shù)據(jù)，被稱為暗網(wǎng)數(shù)據(jù)。一方面，很多網(wǎng)站的大量數(shù)據(jù)是存在于網(wǎng)絡數(shù)據(jù)庫中，spider難以采用抓取網(wǎng)頁的方式獲得完整內(nèi)容；另一方面，由于網(wǎng)絡環(huán)境、網(wǎng)站本身不符合規(guī)范、孤島等等問題，也會造成搜索引擎無法抓取。目前來說，對于暗網(wǎng)數(shù)據(jù)的獲取主要思路仍然是通過開放平臺采用數(shù)據(jù)提交的方式來解決，例如“百度站長平臺”“百度開放平臺”等等。

 

7、抓取反作弊

        spider在抓取過程中往往會遇到所謂抓取黑洞或者面臨大量低質(zhì)量頁面的困擾，這就要求抓取系統(tǒng)中同樣需要設計一套完善的抓取反作弊系統(tǒng)。例如分析url特征、分析頁面大小及內(nèi)容、分析站點規(guī)模對應抓取規(guī)模等等。

 

Baiduspider抓取過程中涉及的網(wǎng)絡協(xié)議

剛才提到百度搜索引擎會設計復雜的抓取策略，其實搜索引擎與資源提供者之間存在相互依賴的關(guān)系，其中搜索引擎需要站長為其提供資源，否則搜索引擎就無法滿足用戶檢索需求；而站長需要通過搜索引擎將自己的 內(nèi)容推廣出去獲取更多的受眾。spider抓取系統(tǒng)直接涉及互聯(lián)網(wǎng)資源提供者的利益，為了使搜素引擎與站長能夠達到雙贏，在抓取過程中雙方必須遵守一定的 規(guī)范，以便于雙方的數(shù)據(jù)處理及對接。這種過程中遵守的規(guī)范也就是日常中我們所說的一些網(wǎng)絡協(xié)議。

 

以下簡單列舉：

        http協(xié)議：超文本傳輸協(xié)議，是互聯(lián)網(wǎng)上應用最為廣泛的一種網(wǎng)絡協(xié)議，客戶端和服務器端請求和應答的標準?？蛻舳艘话闱闆r是指終端用戶，服務器端即指網(wǎng) 站。終端用戶通過瀏覽器、蜘蛛等向服務器指定端口發(fā)送http請求。發(fā)送http請求會返回對應的httpheader信息，可以看到包括是否成功、服務 器類型、網(wǎng)頁最近更新時間等內(nèi)容。

 

https協(xié)議：實際是加密版http，一種更加安全的數(shù)據(jù)傳輸協(xié)議。

 

UA屬性：UA即user-agent，是http協(xié)議中的一個屬性，代表了終端的身份，向服務器端表明我是誰來干嘛，進而服務器端可以根據(jù)不同的身份來做出不同的反饋結(jié)果。

 

robots協(xié)議：robots.txt是搜索引擎訪問一個網(wǎng)站時要訪問的第一個文件，用以來確定哪些是被允許抓取的哪些是被禁止抓取的。 robots.txt必須放在網(wǎng)站根目錄下，且文件名要小寫。詳細的robots.txt寫法可參考 http://www.robotstxt.org 。百度嚴格按照robots協(xié)議執(zhí)行，另外，同樣支持網(wǎng)頁內(nèi)容中添加的名為robots的meta標 簽，index、follow、nofollow等指令。

 

Baiduspider抓取頻次原則及調(diào)整方法

Baiduspider根據(jù)上述網(wǎng)站設置的協(xié)議對站點頁面進行抓取，但是不可能做到對所有站點一視同仁，會綜合考慮站點實際情況確定一個抓取配額，每天定量抓取站點內(nèi)容，即我們常說的抓取頻次。那么百度搜索引擎是根據(jù)什么指標來確定對一個網(wǎng)站的抓取頻次的呢，主要指標有四個：

        1，網(wǎng)站更新頻率：更新快多來，更新慢少來，直接影響B(tài)aiduspider的來訪頻率

        2，網(wǎng)站更新質(zhì)量：更新頻率提高了，僅僅是吸引了Baiduspier的注意，Baiduspider對質(zhì)量是有嚴格要求的，如果網(wǎng)站每天更新出的大量內(nèi)容都被Baiduspider判定為低質(zhì)頁面，依然沒有意義。

        3，連通度：網(wǎng)站應該安全穩(wěn)定、對Baiduspider保持暢通，經(jīng)常給Baiduspider吃閉門羹可不是好事情

        4，站點評價：百度搜索引擎對每個站點都會有一個評價，且這個評價會根據(jù)站點情況不斷變化，是百度搜索引擎對站點的一個基礎(chǔ)打分（絕非外界所說的百度權(quán)重），是百度內(nèi)部一個非常機密的數(shù)據(jù)。站點評級從不獨立使用，會配合其它因子和閾值一起共同影響對網(wǎng)站的抓取和排序。

 

抓取頻次間接決定著網(wǎng)站有多少頁面有可能被建庫收錄，如此重要的數(shù)值如果不符合站長預期該如何調(diào)整呢？百度站長平臺提供了抓取頻次工具（http://zhanzhang.baidu.com/pressure/index），并已完成多次升級。該工具除了提供抓取統(tǒng)計數(shù)據(jù)外，還提供“頻次調(diào)整”功能，站長根據(jù)實際情況向百度站長平臺提出希望Baiduspider增加來訪或減少來訪的請求，工具會根據(jù)站長的意愿和實際情況進行調(diào)整。

 

造成Baiduspider抓取異常的原因

有一些網(wǎng)頁，內(nèi)容優(yōu)質(zhì)，用戶也可以正常訪問，但是Baiduspider卻無法正常訪問并抓取，造成搜索結(jié)果覆蓋率缺失，對百度搜索引擎對站點都是一種損失，百度把這種情況叫“抓取異常”。對于大量內(nèi)容無法正常抓取的網(wǎng)站，百度搜索引擎會認為網(wǎng)站存在用戶體驗上的缺陷，并降低對網(wǎng)站的評價，在抓取、索引、排序上都會受到一定程度的負面影響，最終影響到網(wǎng)站從百度獲取的流量。

 

下面向站長介紹一些常見的抓取異常原因:

        1，服務器連接異常

        服務器連接異常會有兩種情況：一種是站點不穩(wěn)定，Baiduspider嘗試連接您網(wǎng)站的服務器時出現(xiàn)暫時無法連接的情況；一種是Baiduspider一直無法連接上您網(wǎng)站的服務器。

        造成服務器連接異常的原因通常是您的網(wǎng)站服務器過大，超負荷運轉(zhuǎn)。也有可能是您的網(wǎng)站運行不正常，請檢查網(wǎng)站的web服務器（如apache、iis）是否安裝且正常運行，并使用瀏覽器檢查主要頁面能否正常訪問。您的網(wǎng)站和主機還可能阻止了Baiduspider的訪問，您需要檢查網(wǎng)站和主機的防火墻。

 

2，網(wǎng)絡運營商異常：網(wǎng)絡運營商分電信和聯(lián)通兩種，Baiduspider通過電信或網(wǎng)通無法訪問您的網(wǎng)站。如果出現(xiàn)這種情況，您需要與網(wǎng)絡服務運營商進行聯(lián)系，或者購買擁有雙線服務的空間或者購買cdn服務。

 

3，DNS異常：當Baiduspider無法解析您網(wǎng)站的IP時，會出現(xiàn)DNS異常?？赡苁悄木W(wǎng)站IP地址錯誤，或者域名服務商把Baiduspider封禁。請使用WHOIS或者host查詢自己網(wǎng)站IP地址是否正確且可解析，如果不正確或無法解析，請與域名注冊商聯(lián)系，更新您的IP地址。

 

4，IP封禁：IP封禁為：限制網(wǎng)絡的出口IP地址，禁止該IP段的使用者進行內(nèi)容訪問，在這里特指封禁了BaiduspiderIP。當您的網(wǎng)站不希望Baiduspider訪問時，才需要該設置，如果您希望Baiduspider訪問您的網(wǎng)站，請檢查相關(guān)設置中是否誤添加了BaiduspiderIP。也有可能是您網(wǎng)站所在的空間服務商把百度IP進行了封禁，這時您需要聯(lián)系服務商更改設置。

 

5，UA封禁：UA即為用戶代理（User-Agent），服務器通過UA識別訪問者的身份。當網(wǎng)站針對指定UA的訪問，返回異常頁面（如403，500）或跳轉(zhuǎn)到其他頁面的情況，即為UA封禁。當您的網(wǎng)站不希望Baiduspider訪問時，才需要該設置，如果您希望Baiduspider訪問您的網(wǎng)站，useragent相關(guān)的設置中是否有Baiduspider UA，并及時修改。

 

6，死鏈：頁面已經(jīng)無效，無法對用戶提供任何有價值信息的頁面就是死鏈接，包括協(xié)議死鏈和內(nèi)容死鏈兩種形式:

         協(xié)議死鏈：頁面的TCP協(xié)議狀態(tài)/HTTP協(xié)議狀態(tài)明確表示的死鏈，常見的如404、403、503狀態(tài)等。

       內(nèi)容死鏈：服務器返回狀態(tài)是正常的，但內(nèi)容已經(jīng)變更為不存在、已刪除或需要權(quán)限等與原內(nèi)容無關(guān)的信息頁面。

       對于死鏈，我們建議站點使用協(xié)議死鏈，并通過百度站長平臺--死鏈工具向百度提交，以便百度更快地發(fā)現(xiàn)死鏈，減少死鏈對用戶以及搜索引擎造成的負面影響。

 

7，異常跳轉(zhuǎn)：將網(wǎng)絡請求重新指向其他位置即為跳轉(zhuǎn)。異常跳轉(zhuǎn)指的是以下幾種情況：

        1）當前該頁面為無效頁面（內(nèi)容已刪除、死鏈等），直接跳轉(zhuǎn)到前一目錄或者首頁，百度建議站長將該無效頁面的入口超鏈接刪除掉

        2）跳轉(zhuǎn)到出錯或者無效頁面

        注意：對于長時間跳轉(zhuǎn)到其他域名的情況，如網(wǎng)站更換域名，百度建議使用301跳轉(zhuǎn)協(xié)議進行設置。

 

8，其他異常：

        1）針對百度refer的異常：網(wǎng)頁針對來自百度的refer返回不同于正常內(nèi)容的行為。

        2）針對百度ua的異常：網(wǎng)頁對百度UA返回不同于頁面原內(nèi)容的行為。

        3）JS跳轉(zhuǎn)異常：網(wǎng)頁加載了百度無法識別的JS跳轉(zhuǎn)代碼，使得用戶通過搜索結(jié)果進入頁面后發(fā)生了跳轉(zhuǎn)的情況。

        4）壓力過大引起的偶然封禁：百度會根據(jù)站點的規(guī)模、訪問量等信息，自動設定一個合理的抓取壓力。但是在異常情況下，如壓力控制失常時，服務器會根據(jù)自身負荷進行保護性的偶然封禁。這種情況下，請在返回碼中返回503(其含義是“Service Unavailable”)，這樣Baiduspider會過段時間再來嘗試抓取這個鏈接，如果網(wǎng)站已空閑，則會被成功抓取。

 

新鏈接重要程度判斷

好啦，上面我們說了影響B(tài)aiduspider正常抓取的原因，下面就要說說Baiduspider的一些判斷原則了。在建庫環(huán)節(jié)前，Baiduspider會對頁面進行初步內(nèi)容分析和鏈接分析，通過內(nèi)容分析決定該網(wǎng)頁是否需要建索引庫，通過鏈接分析發(fā)現(xiàn)更多網(wǎng)頁，再對更多網(wǎng)頁進行抓取——分析——是否建庫&發(fā)現(xiàn)新鏈接的流程。理論上，Baiduspider會將新頁面上所有能“看到”的鏈接都抓取回來，那么面對眾多新鏈接，Baiduspider根據(jù)什么判斷哪個更重要呢？兩方面：

 

第一，對用戶的價值：

        1，內(nèi)容獨特，百度搜索引擎喜歡unique的內(nèi)容

        2，主體突出，切不要出現(xiàn)網(wǎng)頁主體內(nèi)容不突出而被搜索引擎誤判為空短頁面不抓取

        3，內(nèi)容豐富

        4，廣告適當

 

第二，鏈接重要程度：

        1，目錄層級——淺層優(yōu)先

        2，鏈接在站內(nèi)的受歡迎程度

 

百度優(yōu)先建重要庫的原則

Baiduspider抓了多少頁面并不是最重要的，重要的是有多少頁面被建索引庫，即我們常說的“建庫”。眾所周知，搜索引擎的索引庫是分層級的，優(yōu)質(zhì)的網(wǎng)頁會被分配到重要索引庫，普通網(wǎng)頁會待在普通庫，再差一些的網(wǎng)頁會被分配到低級庫去當補充材料。目前60%的檢索需求只調(diào)用重要索引庫即可滿足，這也就解釋了為什么有些網(wǎng)站的收錄量超高流量卻一直不理想。

 

那么，哪些網(wǎng)頁可以進入優(yōu)質(zhì)索引庫呢。其實總的原則就是一個：對用戶的價值。包括卻不僅于：

        1，有時效性且有價值的頁面：在這里，時效性和價值是并列關(guān)系，缺一不可。有些站點為了產(chǎn)生時效性內(nèi)容頁面做了大量采集工作，產(chǎn)生了一堆無價值面頁，也是百度不愿看到的.

        2，內(nèi)容優(yōu)質(zhì)的專題頁面：專題頁面的內(nèi)容不一定完全是原創(chuàng)的，即可以很好地把各方內(nèi)容整合在一起，或者增加一些新鮮的內(nèi)容，比如觀點和評論，給用戶更豐富全面的內(nèi)容。

        3，高價值原創(chuàng)內(nèi)容頁面：百度把原創(chuàng)定義為花費一定成本、大量經(jīng)驗積累提取后形成的文章。千萬不要再問我們偽原創(chuàng)是不是原創(chuàng)。

        4，重要個人頁面：這里僅舉一個例子，科比在新浪微博開戶了，即使他不經(jīng)常更新，但對于百度來說，它仍然是一個極重要的頁面。

 

哪些網(wǎng)頁無法建入索引庫

上述優(yōu)質(zhì)網(wǎng)頁進了索引庫，那其實互聯(lián)網(wǎng)上大部分網(wǎng)站根本沒有被百度收錄。并非是百度沒有發(fā)現(xiàn)他們，而是在建庫前的篩選環(huán)節(jié)被過濾掉了。那怎樣的網(wǎng)頁在最初環(huán)節(jié)就被過濾掉了呢：

        1， 重復內(nèi)容的網(wǎng)頁：互聯(lián)網(wǎng)上已有的內(nèi)容，百度必然沒有必要再收錄。

        2， 主體內(nèi)容空短的網(wǎng)頁

        1）有些內(nèi)容使用了百度spider無法解析的技術(shù)，如JS、AJAX等，雖然用戶訪問能看到豐富的內(nèi)容，依然會被搜索引擎拋棄

        2）加載速度過慢的網(wǎng)頁，也有可能被當作空短頁面處理，注意廣告加載時間算在網(wǎng)頁整體加載時間內(nèi)。

        3）很多主體不突出的網(wǎng)頁即使被抓取回來也會在這個環(huán)節(jié)被拋棄。

        3， 部分作弊網(wǎng)頁