當前位置:成語大全網 - 新華字典 - 如何用Python做爬蟲?

如何用Python做爬蟲?

在我們日常上網瀏覽網頁的時候,經常會看到壹些好看的圖片,我們就希望把這些圖片保存下載,或者用戶用來做桌面壁紙,或者用來做設計的素材。

我們最常規的做法就是通過鼠標右鍵,選擇另存為。但有些圖片鼠標右鍵的時候並沒有另存為選項,還有辦法就通過就是通過截圖工具截取下來,但這樣就降低圖片的清晰度。好吧其實妳很厲害的,右鍵查看頁面源代碼。

我們可以通過python?來實現這樣壹個簡單的爬蟲功能,把我們想要的代碼爬取到本地。下面就看看如何使用python來實現這樣壹個功能。

具體步驟

獲取整個頁面數據首先我們可以先獲取要下載圖片的整個頁面信息。

getjpg.py

#coding=utf-8import urllibdef getHtml(url):

page = urllib.urlopen(url)

html = page.read() return html

html = getHtml("blogs.com/fnng/archive/2013/05/20/3089816.html

假如我們百度貼吧找到了幾張漂亮的壁紙,通過到前段查看工具。找到了圖片的地址,如:src=”/forum......jpg”pic_ext=”jpeg”

修改代碼如下:

import reimport urllibdef getHtml(url):

page = urllib.urlopen(url)

html = page.read() return htmldef getImg(html):

reg = r'src="(.+?\.jpg)" pic_ext'

imgre = re.compile(reg)

imglist = re.findall(imgre,html) return imglist ?

html = getHtml("/p/2460150866")print getImg(html)

我們又創建了getImg()函數,用於在獲取的整個頁面中篩選需要的圖片連接。re模塊主要包含了正則表達式:

re.compile()?可以把正則表達式編譯成壹個正則表達式對象.

re.findall()?方法讀取html?中包含?imgre(正則表達式)的數據。

運行腳本將得到整個頁面中包含圖片的URL地址。

3.將頁面篩選的數據保存到本地

把篩選的圖片地址通過for循環遍歷並保存到本地,代碼如下:

#coding=utf-8import urllibimport redef getHtml(url):

page = urllib.urlopen(url)

html = page.read() return htmldef getImg(html):

reg = r'src="(.+?\.jpg)" pic_ext'

imgre = re.compile(reg)

imglist = re.findall(imgre,html)

x = 0 for imgurl in imglist:

urllib.urlretrieve(imgurl,'%s.jpg' % x)

x+=1html = getHtml("/p/2460150866")print getImg(html)

這裏的核心是用到了urllib.urlretrieve()方法,直接將遠程數據下載到本地。

通過壹個for循環對獲取的圖片連接進行遍歷,為了使圖片的文件名看上去更規範,對其進行重命名,命名規則通過x變量加1。保存的位置默認為程序的存放目錄。

程序運行完成,將在目錄下看到下載到本地的文件。