當前位置:首頁 >  站長 >  搜索優(yōu)化 >  正文

網站在優(yōu)化過程中頁面抓取過程簡述

 2018-11-07 08:43  來源: 用戶投稿   我來投稿 撤稿糾錯

  阿里云優(yōu)惠券 先領券再下單

url,即統(tǒng)一資源定位符,通過對url的分析,我們可以更好地理解頁面抓取過程。今天,小小課堂SEO學網帶來的是《頁面抓取過程簡述》。希望本次的SEO技術培訓對大家有所幫助。

一、url是什么意思?

URL,英文全稱為“uniform resource locator”,中文譯為“統(tǒng)一資源定位符”。

在網站優(yōu)化中要求每一個頁面有且僅有一個唯一的統(tǒng)一資源定位符(URL),但往往很多網站同一頁面對應了很多個URL,如果都被搜索引擎收錄且未做URL轉向,就會產生權重不集中的情況,通常稱為URL不規(guī)范。

二、url的組成

統(tǒng)一資源定位符(URL),由三部分組成:協(xié)議方案、主機名和資源名。

例如:

https:// www.x**.org /11806

其中https為協(xié)議方案,www.***.org 為主機名 ,11806為資源,不過這個資源不太明顯,一般資源后綴為.html,當然還可以是.pdf、.php、.word等格式。

三、頁面抓取過程簡述

無論是我們平時用的互聯(lián)網瀏覽器,還是網絡爬蟲,雖然是兩種不同的客戶端,但獲取頁面的方式卻是相同的。頁面抓取過程如下:

① 連接DNS域名系統(tǒng)服務器

客戶端都會先連接到DNS域名服務器上,DNS服務器將主機名( www.***.org )轉換為IP地址,并反饋給客戶端。

PS:本來我們通過111.152 . 151.45 的地址來訪問某網站,為了方便記憶和使用,才利用DNS域名系統(tǒng)轉換為了 www.***.org 。這也就是DNS域名系統(tǒng)的作用。

② 連接IP地址服務器

該IP服務器下可能會有很多程序(網站),可以通過端口號來做區(qū)分,同時每個程序(網站)都會監(jiān)聽端口是否有新的連接請求,HTTP網站默認為80,HTTPS網站默認為443。

不過通常情況下,端口號80和443是默認不出現(xiàn)的。

舉例來講:

https://www.***.org:443/ = https://www.***.org/

http://www.***.org:80/ = http://www.***.org/

③ 建立連接并發(fā)送頁面請求

客戶端與服務器建立連接后,會發(fā)送頁面請求,通常為get,也可以是post。

get 11806 HTTPS/1.0

獲取HTTPS協(xié)議下的頁面11806 返回給客戶端。之后如需繼續(xù)獲取更多頁面,則發(fā)送其他請求,否則將關閉該連接。

PS:通常情況下 ,/seo/11806.html 可能會更清晰。也就是發(fā)送 https://www.***.org/ 下的 seo文件夾下的 11806.html 的頁面請求。

以上就是小小課堂SEO自學網帶來的是《頁面抓取過程簡述》。感謝您的觀看。網絡營銷培訓認準小小課堂!SEO培訓認準小小課堂!更多seo教程搜索小小課堂。原創(chuàng)文章歡迎轉載并保留版權:https://www.xxkt.org/

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!

相關文章

熱門排行

信息推薦