中文亚洲精品无码_熟女乱子伦免费_人人超碰人人爱国产_亚洲熟妇女综合网

當前位置: 首頁 > news >正文

門戶網(wǎng)站平臺建設情況網(wǎng)絡優(yōu)化seo

門戶網(wǎng)站平臺建設情況,網(wǎng)絡優(yōu)化seo,怎么制作網(wǎng)站app,互聯(lián)科技 行業(yè)網(wǎng)站目錄二、Python爬蟲的User-Agent用戶代理2.1 常見的 User-Agent 請求頭2.2 爬蟲程序UA信息2.3 重構(gòu)爬蟲UA信息二、Python爬蟲的User-Agent用戶代理 User-Agent 即用戶代理,簡稱“UA”,它是一個特殊字符串頭。網(wǎng)站服務器通過識別 “UA”來確定用戶所使用…

目錄

  • 二、Python爬蟲的User-Agent用戶代理
    • 2.1 常見的 User-Agent 請求頭
    • 2.2 爬蟲程序UA信息
    • 2.3 重構(gòu)爬蟲UA信息

二、Python爬蟲的User-Agent用戶代理

User-Agent 即用戶代理,簡稱“UA”,它是一個特殊字符串頭。網(wǎng)站服務器通過識別 “UA”來確定用戶所使用的操作系統(tǒng)版本、CPU 類型、瀏覽器版本等信息。而網(wǎng)站服務器則通過判斷 UA 來給客戶端發(fā)送不同的頁面。

我們知道,網(wǎng)絡爬蟲使用程序代碼來訪問網(wǎng)站,而非人類親自點擊訪問,因此爬蟲程序也被稱為“網(wǎng)絡機器人”。絕大多數(shù)網(wǎng)站都具備一定的反爬能力,禁止網(wǎng)爬蟲大量地訪問網(wǎng)站,以免給網(wǎng)站服務器帶來壓力。本節(jié)即將要講解的 User-Agent 就是反爬策略的第一步。

網(wǎng)站通過識別請求頭中 User-Agent 信息來判斷是否是爬蟲訪問網(wǎng)站。如果是,網(wǎng)站首先對該 IP 進行預警,對其進行重點監(jiān)控,當發(fā)現(xiàn)該 IP 超過規(guī)定時間內(nèi)的訪問次數(shù), 將在一段時間內(nèi)禁止其再次訪問網(wǎng)站。

2.1 常見的 User-Agent 請求頭

常見的 User-Agent 請求頭,如下所示:

系統(tǒng)瀏覽器User-Agent字符串
MacChromeMozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.75 Safari/537.36
MacFirefoxMozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0
MacSafariMozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/12.0.3 Safari/605.1.15
Windows?EdgeMozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.140 Safari/537.36 Edge/18.17763
Windows?IEMozilla/5.0 (Windows NT 10.0; WOW64; Trident/7.0; rv:11.0) like Gecko
Windows?ChromeMozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.121 Safari/537.36
iOSChromeMozilla/5.0 (iPhone; CPU iPhone OS 7_0_4 like Mac OS X) AppleWebKit/537.51.1 (KHTML, like Gecko) CriOS/31.0.1650.18 Mobile/11B554a Safari/8536.25
iOSSafariMozilla/5.0 (iPhone; CPU iPhone OS 8_3 like Mac OS X) AppleWebKit/600.1.4 (KHTML, like Gecko) Version/8.0 Mobile/12F70 Safari/600.1.4
AndroidChromeMozilla/5.0 (Linux; Android 4.2.1; M040 Build/JOP40D) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.59 Mobile Safari/537.36
AndroidWebkitMozilla/5.0 (Linux; U; Android 4.4.4; zh-cn; M351 Build/KTU84P) AppleWebKit/534.30 (KHTML, like Gecko) Version/4.0 Mobile Safari/534.30

查看本機的瀏覽器版本以及 UA 信息,可以通過UA查看。

2.2 爬蟲程序UA信息

下面,通過向 HTTP 測試網(wǎng)站發(fā)送 GET 請求來查看請求頭信息,從而獲取爬蟲程序的 UA。代碼如下所示:

#導入模塊
import urllib.request#向網(wǎng)站發(fā)送get請求
response=urllib.request.urlopen('http://httpbin.org/get')
html = response.read().decode()
print(html)

程序運行后,輸出的請求頭信息如下所示:

{"args": {}, "headers": {"Accept-Encoding": "identity", "Host": "httpbin.org", "User-Agent": "Python-urllib/3.10", "X-Amzn-Trace-Id": "Root=1-642b2303-5dfdedb61621dbd92db9945f"}, "origin": "36.59.25.170", "url": "http://httpbin.org/get"
}

從輸出結(jié)果可以看出,User-Agent 竟然是 Python-urllib/3.10 ,這顯然是爬蟲程序訪問網(wǎng)站。因此就需要重構(gòu) User-Agent,將其偽裝成“瀏覽器”訪問網(wǎng)站。

注意:httpbin.org 這個網(wǎng)站能測試 HTTP 請求和響應的各種信息,比如 cookie、IP、headers 和登錄驗證等,且支持 GET、POST 等多種方法,對 Web 開發(fā)和測試很有幫助。

2.3 重構(gòu)爬蟲UA信息

下面使用urllib.request.Request()方法重構(gòu) User-Agent 信息,代碼如下所示:

from urllib import request# 定義變量:URL 與 headers
url = 'http://httpbin.org/get'  # 向測試網(wǎng)站發(fā)送請求
# 重構(gòu)請求頭,偽裝成 Mac火狐瀏覽器訪問,可以使用上表中任意瀏覽器的UA信息
headers = {'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0'}
# 1、創(chuàng)建請求對象,包裝ua信息
req = request.Request(url=url, headers=headers)
# 2、發(fā)送請求,獲取響應對象
res = request.urlopen(req)
# 3、提取響應內(nèi)容
html = res.read().decode('utf-8')
print(html)

程序運行后,輸出的請求頭信息如下所示:

{"args": {}, "headers": {"Accept-Encoding": "identity", "Host": "httpbin.org", "User-Agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0", "X-Amzn-Trace-Id": "Root=1-642b23b5-7934d1e8150cfbc1041b0120"}, "origin": "36.59.25.170", "url": "http://httpbin.org/get"
}

上述代碼重構(gòu)了 User-Agent 字符串信息,這樣就解決了網(wǎng)站通過識別 User-Agent 來封殺爬蟲程序的問題。當然這只是應對反爬策略的第一步。重構(gòu) UA 也可以通過其他模塊實現(xiàn),比如 requests 模塊,這在后續(xù)內(nèi)容會做相應介紹。

http://www.risenshineclean.com/news/33589.html

相關(guān)文章:

  • 如何手機創(chuàng)建網(wǎng)站百度收錄網(wǎng)站要多久
  • 東莞振安保安公司網(wǎng)絡推廣優(yōu)化seo
  • 株洲網(wǎng)站seo優(yōu)化價格鄭州高端網(wǎng)站建設哪家好
  • 公司網(wǎng)站seo優(yōu)化的線上營銷推廣方式
  • 騰訊云 wordpress教程視頻seo外鏈推廣
  • wordpress+技術(shù)類模板網(wǎng)站seo優(yōu)化有哪些方面
  • 在什么網(wǎng)站可以接活做梅州網(wǎng)絡推廣
  • 布料市場做哪個網(wǎng)站好代寫軟文
  • 動漫網(wǎng)站設計方案華為手機軟文范文300
  • 網(wǎng)站群如何做網(wǎng)站seo快速優(yōu)化軟件
  • 單位網(wǎng)站中文域名到期續(xù)費seo的培訓班
  • 梧州網(wǎng)站建設設計百度服務電話在線人工
  • 做網(wǎng)站用什么字體字號seo技術(shù)優(yōu)化服務
  • wordpress換域名了 登陸不了五年級下冊數(shù)學優(yōu)化設計答案
  • 域名 備案 沒有網(wǎng)站嗎網(wǎng)絡營銷的有哪些特點
  • 怎么自己做網(wǎng)站嚇別人佛山seo聯(lián)系方式
  • 剛注冊公司怎么做網(wǎng)站seo案例分析100例
  • 云推廣關(guān)鍵詞優(yōu)化是怎么弄的
  • 公司網(wǎng)站的管理和維護uc瀏覽網(wǎng)頁版進入
  • 制作網(wǎng)站步驟新媒體營銷案例ppt
  • 網(wǎng)頁設計的動態(tài)網(wǎng)站怎么做騰訊企點官網(wǎng)下載
  • 前端和網(wǎng)站建設的區(qū)別友情手機站
  • 宜興建設局網(wǎng)站長沙seo行者seo09
  • wordpress采集處理樣式廣東優(yōu)化疫情防控措施
  • 做網(wǎng)站3個月搜索引擎營銷流程是什么?
  • 簡約風格網(wǎng)站代哥seo
  • 男和女做暖暖網(wǎng)站網(wǎng)絡銷售怎么找客戶
  • 做網(wǎng)站練手優(yōu)化大師電腦版
  • seo黑帽技術(shù)工具陜西seo顧問服務
  • 真人做爰網(wǎng)站怎么提交網(wǎng)址讓百度收錄