User-Agent（用戶代理）是什么

User-Agent 即用戶代理，簡(jiǎn)稱“UA”，它是一個(gè)特殊字符串頭。網(wǎng)站服務(wù)器通過(guò)識(shí)別 “UA”來(lái)確定用戶所使用的操作系統(tǒng)版本、CPU 類型、瀏覽器版本等信息。而網(wǎng)站服務(wù)器則通過(guò)判斷 UA 來(lái)給客戶端發(fā)送不同的頁(yè)面。

我們知道，網(wǎng)絡(luò)爬蟲(chóng)使用程序代碼來(lái)訪問(wèn)網(wǎng)站，而非人類親自點(diǎn)擊訪問(wèn)，因此爬蟲(chóng)程序也被稱為“網(wǎng)絡(luò)機(jī)器人”。絕大多數(shù)網(wǎng)站都具備一定的反爬能力，禁止網(wǎng)爬蟲(chóng)大量地訪問(wèn)網(wǎng)站，以免給網(wǎng)站服務(wù)器帶來(lái)壓力。本節(jié)即將要講解的 User-Agent 就是反爬策略的第一步。

網(wǎng)站通過(guò)識(shí)別請(qǐng)求頭中 User-Agent 信息來(lái)判斷是否是爬蟲(chóng)訪問(wèn)網(wǎng)站。如果是，網(wǎng)站首先對(duì)該 IP 進(jìn)行預(yù)警，對(duì)其進(jìn)行重點(diǎn)監(jiān)控，當(dāng)發(fā)現(xiàn)該 IP 超過(guò)規(guī)定時(shí)間內(nèi)的訪問(wèn)次數(shù)， 將在一段時(shí)間內(nèi)禁止其再次訪問(wèn)網(wǎng)站。

常見(jiàn)的 User-Agent 請(qǐng)求頭，如下所示：

常見(jiàn)的 User-Agent 匯總表

系統(tǒng)瀏覽器User-Agent字符串

Mac	Chrome	Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.75 Safari/537.36
Mac	Firefox	Mozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0
Mac	Safari	Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/12.0.3 Safari/605.1.15
Windows	Edge	Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.140 Safari/537.36 Edge/18.17763
Windows	IE	Mozilla/5.0 (Windows NT 10.0; WOW64; Trident/7.0; rv:11.0) like Gecko
Windows	Chrome	Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.121 Safari/537.36
iOS	Chrome	Mozilla/5.0 (iPhone; CPU iPhone OS 7_0_4 like Mac OS X) AppleWebKit/537.51.1 (KHTML, like Gecko) CriOS/31.0.1650.18 Mobile/11B554a Safari/8536.25
iOS	Safari	Mozilla/5.0 (iPhone; CPU iPhone OS 8_3 like Mac OS X) AppleWebKit/600.1.4 (KHTML, like Gecko) Version/8.0 Mobile/12F70 Safari/600.1.4
Android	Chrome	Mozilla/5.0 (Linux; Android 4.2.1; M040 Build/JOP40D) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.59 Mobile Safari/537.36
Android	Webkit	Mozilla/5.0 (Linux; U; Android 4.4.4; zh-cn; M351 Build/KTU84P) AppleWebKit/534.30 (KHTML, like Gecko) Version/4.0 Mobile Safari/534.30

使用上表中的瀏覽器 UA，我們可以很方便的構(gòu)建出 User-Agent。通過(guò)在線識(shí)別工具，可以查看本機(jī)的瀏覽器版本以及 UA 信息，如下所示：

當(dāng)前瀏覽器UA信息

瀏覽器名稱Chrome

瀏覽器版本	88.0.4324.182
系統(tǒng)平臺(tái)	Windows
UA信息	Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/88.0.4324.182 Safari/537.36

若想更多地了解瀏覽器 UA 信息(包含移動(dòng)端、PC端)可參考《常用瀏覽器User-Agent》。

爬蟲(chóng)程序UA信息

下面，通過(guò)向 HTTP 測(cè)試網(wǎng)站（http://httpbin.org/）發(fā)送 GET 請(qǐng)求來(lái)查看請(qǐng)求頭信息，從而獲取爬蟲(chóng)程序的 UA。代碼如下所示：

#導(dǎo)入模塊 import urllib.request #向網(wǎng)站發(fā)送get請(qǐng)求 response=urllib.request.urlopen('http://httpbin.org/get') html = response.read().decode() print(html)

程序運(yùn)行后，輸出的請(qǐng)求頭信息如下所示：

{"args": {},#請(qǐng)求頭信息"headers": {"Accept-Encoding": "identity","Host": "httpbin.org","User-Agent": "Python-urllib/3.7", #UserAgent信息包含在請(qǐng)求頭中！"X-Amzn-Trace-Id": "Root=1-6034954b-1cb061183308ae920668ec4c"},"origin": "121.17.25.194","url": "http://httpbin.org/get" }

從輸出結(jié)果可以看出，User-Agent 竟然是 Python-urllib/3.7，這顯然是爬蟲(chóng)程序訪問(wèn)網(wǎng)站。因此就需要重構(gòu) User-Agent，將其偽裝成“瀏覽器”訪問(wèn)網(wǎng)站。

注意：httpbin.org 這個(gè)網(wǎng)站能測(cè)試 HTTP 請(qǐng)求和響應(yīng)的各種信息，比如 cookie、IP、headers 和登錄驗(yàn)證等，且支持
GET、POST 等多種方法，對(duì) Web 開(kāi)發(fā)和測(cè)試很有幫助。

重構(gòu)爬蟲(chóng)UA信息

下面使用urllib.request.Request()方法重構(gòu) User-Agent 信息，代碼如下所示：

from urllib import request # 定義變量：URL 與 headers url = 'http://httpbin.org/get' #向測(cè)試網(wǎng)站發(fā)送請(qǐng)求 #重構(gòu)請(qǐng)求頭，偽裝成 Mac火狐瀏覽器訪問(wèn)，可以使用上表中任意瀏覽器的UA信息 headers = { 'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0'} # 1、創(chuàng)建請(qǐng)求對(duì)象，包裝ua信息 req = request.Request(url=url,headers=headers) # 2、發(fā)送請(qǐng)求，獲取響應(yīng)對(duì)象 res = request.urlopen(req) # 3、提取響應(yīng)內(nèi)容 html = res.read().decode('utf-8') print(html)

程序的運(yùn)行結(jié)果，如下所示：

{"args": {},"headers": {"Accept-Encoding": "identity","Host": "httpbin.org",#偽裝成了Mac火狐瀏覽器"User-Agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0","X-Amzn-Trace-Id": "Root=1-6034a52f-372ca79027da685c3712e5f6"},"origin": "121.17.25.194","url": "http://httpbin.org/get" }

上述代碼重構(gòu)了 User-Agent 字符串信息，這樣就解決了網(wǎng)站通過(guò)識(shí)別 User-Agent 來(lái)封殺爬蟲(chóng)程序的問(wèn)題。當(dāng)然這只是應(yīng)對(duì)反爬策略的第一步。重構(gòu) UA 也可以通過(guò)其他模塊實(shí)現(xiàn)，比如 requests 模塊，這在后續(xù)內(nèi)容會(huì)做相應(yīng)介紹。

總結(jié)

以上是生活随笔為你收集整理的User-Agent（用户代理）是什么的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。