日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程语言 > python >内容正文

python

python登录网页_Python如何爬取需要登录的页面

發布時間:2025/3/15 python 18 豆豆
生活随笔 收集整理的這篇文章主要介紹了 python登录网页_Python如何爬取需要登录的页面 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

用Cookies保存登錄狀態實現部分反反爬機制

使用cookies:直接將cookies信息放入到headers中

直接封裝cookies? ? ,然后requests.請求(cookies = {? })

使用session信息保持用戶登錄

2.

cookie是用來保存用戶狀態信息的,頁面和頁面直接不能共享

session用來在瀏覽器上保存cookie,并且session可以在同一域名下共享使用

session的意義:可以保持用戶的登錄會話

requests.請求方式()不帶任何訪問記錄請求

requests.session().請求方式() 可以將瀏覽器產生的cookies信息保存在爬蟲的session

#1.先創建一個session()機制

#2.需要登錄網站的鏈接

#3.把里面的data,和headers都拿進來

import requests

s = requests.session()

url = 'http://www.renren.com/ajaxLogin/login'

data = {

'email': '***', ?#用自己的登錄信息

'icode':'',

'origURL': 'http://www.renren.com/home',

'domain': 'renren.com',

'key_id': '1',

'captcha_type': 'web_login',

'password': '****',

'rkey': '0323aa4e9d1115b71c099a62a9c266da',

'f':''

}

headers = {

'Host': 'www.renren.com',

'Origin': 'http://www.renren.com',

'Referer': 'http://www.renren.com/',

'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/555.36 (KHTML, like Gecko) Chrome/79.0.3945.117 Safari/555.36',

'X-Requested-With': 'XMLHttpRequest'

}

response = s.post(url=url,data=data,headers=headers) # 參數cookies自動保存在session

print(response.text)

url1 = "http://www.renren.com/972994466/profile" # 進入后的網頁地址

headers = {

'Host': 'www.renren.com',

'Origin': 'http://www.renren.com',

'Referer': 'http://www.renren.com/',

'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/555.36 (KHTML, like Gecko) Chrome/79.0.3945.117 Safari/555.36'

}

response1 = s.get(url=url1,headers=headers)

print(response1.text)

總結

以上是生活随笔為你收集整理的python登录网页_Python如何爬取需要登录的页面的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。