免费亚洲欧美精品电影_国内精品偷拍福利视频_美女黄网站色视免费国产_国产不卡福利片在线观看

搜索引擎工作過程非常復(fù)雜，接下來杭州網(wǎng)站建設(shè)--帷拓小編要簡單介紹搜索引擎是怎么樣實(shí)現(xiàn)網(wǎng)頁排名的。這里介紹的內(nèi)容相對于真正的搜索引擎技術(shù)來說知識皮毛，不過對大部分seo工作人員來說已經(jīng)夠用了。

搜索引擎的工作過程大體上可以分成三個階段。

1）：爬行和抓?。核阉饕嬷┲胪ㄟ^跟蹤鏈接發(fā)現(xiàn)和訪問頁面，讀取頁面HTML代碼，存入數(shù)據(jù)庫。

2）：預(yù)處理：索引程序?qū)ψト淼捻撁鏀?shù)據(jù)進(jìn)行文字提取.中文分詞.索引.倒排索引等處理，以備排名程序調(diào)用。

3）：用戶輸入查詢詞后，排名程序調(diào)用索引庫數(shù)庫，計(jì)算相關(guān)性，然后按一定格式生成搜索結(jié)果頁面。

爬行和抓取是搜索引擎的第一步，完成數(shù)據(jù)收集的任務(wù)。

下面杭州網(wǎng)站設(shè)計(jì)--帷拓小編就來和大家說說“蜘蛛”：搜索引擎用來爬行和訪問頁面的程序被稱為蜘蛛或機(jī)器人。搜索引擎蜘蛛訪問網(wǎng)站頁面時類似于普通用戶使用的瀏覽器。蜘蛛程序發(fā)出頁面訪問請求后，服務(wù)器返回HTML代碼，都使用多個蜘蛛并發(fā)布爬行。蜘蛛訪問任何一個網(wǎng)站時，都會先訪問網(wǎng)站跟目錄下的robots.txt文件。如果robots.txt文件禁止搜索引擎抓取某些文件或目錄，蜘蛛將遵守協(xié)議，不抓取被禁止的網(wǎng)址。

和瀏覽器一樣，搜索引擎蜘蛛也有標(biāo)明自己身份的用戶代理名稱，站長可以在日志文件中看到搜索引擎的特定用戶代理，從而辨識搜索引擎蜘蛛。杭州網(wǎng)站建設(shè)--帷拓小編下面列出常見的搜索引擎蜘蛛名稱：

. Baiduspider+(+http://www.baidu.com/search/spider.htm)百度蜘蛛。

.Mozilla/5.0(Windows;U;Windows NT 5.1;zh-CN;)Firefox/1.5.0.11;360Spider(369蜘蛛）。

.Mozilla/5.0(compatible;Yahoo!Slurp/3.0;http://help.yahoo.com/help/us/ysearch/slurp)英文雅虎蜘蛛（雅虎已經(jīng)放棄自己的搜索技術(shù)，列在這里權(quán)當(dāng)歷史紀(jì)念吧）。

.MOZILL/5.0(compatible;Googlebot/2.1;+http://www.google.com/bot.html)Goole蜘蛛。

.MOZILL/5.0(iphone;CPU iphone OS 6_0 like Mac OS X)AppleWebKit/536.26(KHTML,like Gecko)Version/6.0 Mobile/10A5376e Safari/8536.25(compatible;Googlebot/2.1;+http://www.google.com/bot.html)(GOOGLR移動蜘蛛）。

.MOZILLA/5.0(compatibe;bingbot/2.0;+http://www.bing.com/bingbot.htm)微軟Bing蜘蛛。

.Sogou+web+robot+(+http://www.spgou.com/docs/help/webmasters.htm307)搜狗蜘蛛。

.Sosospider+(+http://help.soso.com/webspider.htm)搜搜蜘蛛。

.Mozilla/5.0(compatible;YodaBot/1.0;http://www.yodao.com/help/webmaster/spider/;)有道蜘蛛。