Max retries exceeded with url
生活随笔
收集整理的這篇文章主要介紹了
Max retries exceeded with url
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
在爬取boss直聘時出現這種錯誤,于是搜索了網上很多文章,總結如下:
1.http連接太多沒有關閉導致的,解決方法:
import requests requests.adapters.DEFAULT_RETRIES = 5 # 增加重連次數 s = requests.session() s.keep_alive = False # 關閉多余連接 s.get(url) # 你需要的網址2.訪問次數頻繁,被禁止訪問,解決方法:使用代理
import requests s = requests.session() url = "https://mail.163.com/" s.proxies = {"https": "47.100.104.247:8080", "http": "36.248.10.47:8080", } s.headers = header s.get(url)查找代理的網址:http://ip.zdaye.com/shanghai_ip.html#Free
使用代理時需注意:
以下方法判斷代理是否可用:
import requests s = requests.session() url = "https://mail.163.com/" s.keep_alive = False s.proxies = {"https": "47.100.104.247:8080", "http": "36.248.10.47:8080", } s.headers = header r = s.get(url) print r.status_code # 如果代理可用則正常訪問,不可用報以上錯誤?
總結
以上是生活随笔為你收集整理的Max retries exceeded with url的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 表单验证的完美解决方案Validform
- 下一篇: hdu 3018 Ant Trip