python 爬虫程序示例,python实现简单爬虫功能的示例
在我們日常上網瀏覽網頁的時候，經常會看到一些好看的圖片，我們就希望把這些圖片保存下載，或者用戶用來做桌面壁紙，或者用來做設計的素材。
我們最常規的做法就是通過鼠標右鍵，選擇另存為。但有些圖片鼠標右鍵的時候并沒有另存為選項，還有辦法就通過就是通過截圖工具截取下來，但這樣就降低圖片的清晰度。
我們可以通過python 來實現這樣一個簡單的爬蟲功能，把我們想要的代碼爬取到本地。下面就看看如何使用python來實現這樣一個功能。
一，獲取整個頁面數據
首先我們可以先獲取要下載圖片的整個頁面信息。
getjpg.py
1
2
3
4
5
6
7
8
9
#coding=utf-8
import?urllib
def?getHtml(url):
page=?urllib.urlopen(url)
html=?page.read()
return?html
html=?getHtml("http://tieba.baidu.com/p/2738151262")
print?html
Urllib 模塊提供了讀取web頁面數據的接口，我們可以像讀取本地文件一樣讀取www和ftp上的數據。首先，我們定義了一個getHtml()函數:
urllib.urlopen()方法用于打開一個URL地址。
read()方法用于讀取URL上的數據，向getHtml()函數傳遞一個網址，并把整個頁面下載下來。執行程序就會把整個網頁打印輸出。
二，篩選頁面中想要的數據
Python 提供了非常強大的正則表達式，我們需要先要了解一點python 正則表達式的知識才行。
假如我們百度貼吧找到了幾張漂亮的壁紙，通過到前段查看工具。找到了圖片的地址，如:src=”http://imgsrc.baidu.com/forum......jpg”pic_ext=”jpeg”
修改代碼如下：
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
import?re
import?urllib
def?getHtml(url):
page=?urllib.urlopen(url)
html=?page.read()
return?html
def?getImg(html):
reg=?r'src="(.+?\.jpg)" pic_ext'
imgre=?re.compile(reg)
imglist=?re.findall(imgre,html)
return?imglist
html=?getHtml("http://tieba.baidu.com/p/2460150866")
print?getImg(html)
我們又創建了getImg()函數，用于在獲取的整個頁面中篩選需要的圖片連接。re模塊主要包含了正則表達式：
re.compile() 可以把正則表達式編譯成一個正則表達式對象.
re.findall() 方法讀取html 中包含 imgre(正則表達式)的數據。
運行腳本將得到整個頁面中包含圖片的URL地址。
三，將頁面篩選的數據保存到本地
把篩選的圖片地址通過for循環遍歷并保存到本地，代碼如下：
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
#coding=utf-8
import?urllib
import?re
def?getHtml(url):
page=?urllib.urlopen(url)
html=?page.read()
return?html
def?getImg(html):
reg=?r'src="(.+?\.jpg)" pic_ext'
imgre=?re.compile(reg)
imglist=?re.findall(imgre,html)
x=?0
for?imgurlin?imglist:
urllib.urlretrieve(imgurl,'%s.jpg'?%?x)
x+=1
html=?getHtml("http://tieba.baidu.com/p/2460150866")
print?getImg(html)
這里的核心是用到了urllib.urlretrieve()方法，直接將遠程數據下載到本地。
通過一個for循環對獲取的圖片連接進行遍歷，為了使圖片的文件名看上去更規范，對其進行重命名，命名規則通過x變量加1。保存的位置默認為程序的存放目錄。
程序運行完成，將在目錄下看到下載到本地的文件。
微信名：千鋒互聯
微信ID：qianfengjiaoyu
快去找小小千要視頻吧
微信：jiushiwo233
點擊閱讀原文搶占試聽名額
總結
以上是生活随笔為你收集整理的python 爬虫程序示例,python实现简单爬虫功能的示例的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： matlab调制函数,matlab用于数
- 下一篇： Centos7修改dns的方法