selenium3 + python - page_source页面源码
生活随笔
收集整理的這篇文章主要介紹了
selenium3 + python - page_source页面源码
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
前言:
有時候通過元素的屬性的查找頁面上的某個元素,可能不太好找,這時候可以從源碼中爬出想要的信息。selenium的page_source方法可以獲取到頁面源碼。
本次以博客園為例,先爬取頁面源碼,通過re正則表達式爬取出url,再進行篩選出http 協議的 url -- 用if做判斷。
源碼整理如下
from selenium import webdriverimport re
driver = webdriver.Chrome()
driver.get("https://www.cnblogs.com/Teachertao/")
page = driver.page_source
# print(page)
# "非貪婪匹配,re.S('.'匹配字符,包括換行符)"
url_list = re.findall('href=\"(.*?)\"', page)
#url_list = re.findall('href=\"(.*?)\"', page,re.S)
url_all = []
for url in url_list:
if "http" in url:
print(url)
url_all.append(url)
#打印出頁面url
print(url_all)
轉載于:https://www.cnblogs.com/Teachertao/p/10989353.html
總結
以上是生活随笔為你收集整理的selenium3 + python - page_source页面源码的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Nexus私服下载及安装
- 下一篇: VISSIM二次开发(Python)大作