當前位置:成語大全網 - 新華字典 - 壹篇文章帶妳深度解析Python線程和進程

壹篇文章帶妳深度解析Python線程和進程

使用Python中的線程模塊,能夠同時運行程序的不同部分,並簡化設計。如果妳已經入門Python,並且想用線程來提升程序運行速度的話,希望這篇教程會對妳有所幫助。

線程與進程

什麽是進程

進程是系統進行資源分配和調度的壹個獨立單位 進程是具有壹定獨立功能的程序關於某個數據集合上的壹次運行活動,進程是系統進行資源分配和調度的壹個獨立單位。每個進程都有自己的獨立內存空間,不同進程通過進程間通信來通信。由於進程比較重量,占據獨立的內存,所以上下文進程間的切換開銷(棧、寄存器、虛擬內存、文件句柄等)比較大,但相對比較穩定安全。

什麽是線程

CPU調度和分派的基本單位 線程是進程的壹個實體,是CPU調度和分派的基本單位,它是比進程更小的能獨立運行的基本單位.線程自己基本上不擁有系統資源,只擁有壹點在運行中必不可少的資源(如程序計數器,壹組寄存器和棧),但是它可與同屬壹個進程的其他的線程***享進程所擁有的全部資源。線程間通信主要通過***享內存,上下文切換很快,資源開銷較少,但相比進程不夠穩定容易丟失數據。

進程與線程的關系圖

線程與進程的區別:

進程

現實生活中,有很多的場景中的事情是同時進行的,比如開車的時候 手和腳***同來駕駛 汽車 ,比如唱歌跳舞也是同時進行的,再比如邊吃飯邊打電話;試想如果我們吃飯的時候有壹個領導來電,我們肯定是立刻就接聽了。但是如果妳吃完飯再接聽或者回電話,很可能會被開除。

註意:

多任務的概念

什麽叫 多任務 呢?簡單地說,就是操作系統可以同時運行多個任務。打個比方,妳壹邊在用瀏覽器上網,壹邊在聽MP3,壹邊在用Word趕作業,這就是多任務,至少同時有3個任務正在運行。還有很多任務悄悄地在後臺同時運行著,只是桌面上沒有顯示而已。

現在,多核CPU已經非常普及了,但是,即使過去的單核CPU,也可以執行多任務。由於CPU執行代碼都是順序執行的,那麽,單核CPU是怎麽執行多任務的呢?

答案就是操作系統輪流讓各個任務交替執行,任務1執行0.01秒,切換到任務2,任務2執行0.01秒,再切換到任務3,執行0.01秒,這樣反復執行下去。表面上看,每個任務都是交替執行的,但是,由於CPU的執行速度實在是太快了,我們感覺就像所有任務都在同時執行壹樣。

真正的並行執行多任務只能在多核CPU上實現,但是,由於任務數量遠遠多於CPU的核心數量,所以,操作系統也會自動把很多任務輪流調度到每個核心上執行。 其實就是CPU執行速度太快啦!以至於我們感受不到在輪流調度。

並行與並發

並行(Parallelism)

並行:指兩個或兩個以上事件(或線程)在同壹時刻發生,是真正意義上的不同事件或線程在同壹時刻,在不同CPU資源呢上(多核),同時執行。

特點

並發(Concurrency)

指壹個物理CPU(也可以多個物理CPU) 在若幹道程序(或線程)之間多路復用,並發性是對有限物理資源強制行使多用戶***享以提高效率。

特點

multiprocess.Process模塊

process模塊是壹個創建進程的模塊,借助這個模塊,就可以完成進程的創建。

語法:Process([group [, target [, name [, args [, kwargs]]]]])

由該類實例化得到的對象,表示壹個子進程中的任務(尚未啟動)。

註意:1. 必須使用關鍵字方式來指定參數;2. args指定的為傳給target函數的位置參數,是壹個元祖形式,必須有逗號。

參數介紹:

group:參數未使用,默認值為None。

target:表示調用對象,即子進程要執行的任務。

args:表示調用的位置參數元祖。

kwargs:表示調用對象的字典。如kwargs = {'name':Jack, 'age':18}。

name:子進程名稱。

代碼:

除了上面這些開啟進程的方法之外,還有壹種以繼承Process的方式開啟進程的方式:

通過上面的研究,我們千方百計實現了程序的異步,讓多個任務可以同時在幾個進程中並發處理,他們之間的運行沒有順序,壹旦開啟也不受我們控制。盡管並發編程讓我們能更加充分的利用IO資源,但是也給我們帶來了新的問題。

當多個進程使用同壹份數據資源的時候,就會引發數據安全或順序混亂問題,我們可以考慮加鎖,我們以模擬搶票為例,來看看數據安全的重要性。

加鎖可以保證多個進程修改同壹塊數據時,同壹時間只能有壹個任務可以進行修改,即串行的修改。加鎖犧牲了速度,但是卻保證了數據的安全。

因此我們最好找尋壹種解決方案能夠兼顧:1、效率高(多個進程***享壹塊內存的數據)2、幫我們處理好鎖問題。

mutiprocessing模塊為我們提供的基於消息的IPC通信機制:隊列和管道。隊列和管道都是將數據存放於內存中 隊列又是基於(管道+鎖)實現的,可以讓我們從復雜的鎖問題中解脫出來, 我們應該盡量避免使用***享數據,盡可能使用消息傳遞和隊列,避免處理復雜的同步和鎖問題,而且在進程數目增多時,往往可以獲得更好的可獲展性( 後續擴展該內容 )。

線程

Python的threading模塊

Python 供了幾個用於多線程編程的模塊,包括 thread, threading 和 Queue 等。thread 和 threading 模塊允許程序員創建和管理線程。thread 模塊 供了基本的線程和鎖的支持,而 threading 供了更高級別,功能更強的線程管理的功能。Queue 模塊允許用戶創建壹個可以用於多個線程之間 ***享數據的隊列數據結構。

python創建和執行線程

創建線程代碼

1. 創建方法壹:

2. 創建方法二:

進程和線程都是實現多任務的壹種方式,例如:在同壹臺計算機上能同時運行多個QQ(進程),壹個QQ可以打開多個聊天窗口(線程)。資源***享:進程不能***享資源,而線程***享所在進程的地址空間和其他資源,同時,線程有自己的棧和棧指針。所以在壹個進程內的所有線程***享全局變量,但多線程對全局變量的更改會導致變量值得混亂。

代碼演示:

得到的結果是:

首先需要明確的壹點是GIL並不是Python的特性,它是在實現Python解析器(CPython)時所引入的壹個概念。就好比C++是壹套語言(語法)標準,但是可以用不同的編譯器來編譯成可執行代碼。同樣壹段代碼可以通過CPython,PyPy,Psyco等不同的Python執行環境來執行(其中的JPython就沒有GIL)。

那麽CPython實現中的GIL又是什麽呢?GIL全稱Global Interpreter Lock為了避免誤導,我們還是來看壹下官方給出的解釋:

主要意思為:

因此,解釋器實際上被壹個全局解釋器鎖保護著,它確保任何時候都只有壹個Python線程執行。在多線程環境中,Python 虛擬機按以下方式執行:

由於GIL的存在,Python的多線程不能稱之為嚴格的多線程。因為 多線程下每個線程在執行的過程中都需要先獲取GIL,保證同壹時刻只有壹個線程在運行。

由於GIL的存在,即使是多線程,事實上同壹時刻只能保證壹個線程在運行, 既然這樣多線程的運行效率不就和單線程壹樣了嗎,那為什麽還要使用多線程呢?

由於以前的電腦基本都是單核CPU,多線程和單線程幾乎看不出差別,可是由於計算機的迅速發展,現在的電腦幾乎都是多核CPU了,最少也是兩個核心數的,這時差別就出來了:通過之前的案例我們已經知道,即使在多核CPU中,多線程同壹時刻也只有壹個線程在運行,這樣不僅不能利用多核CPU的優勢,反而由於每個線程在多個CPU上是交替執行的,導致在不同CPU上切換時造成資源的浪費,反而會更慢。即原因是壹個進程只存在壹把gil鎖,當在執行多個線程時,內部會爭搶gil鎖,這會造成當某壹個線程沒有搶到鎖的時候會讓cpu等待,進而不能合理利用多核cpu資源。

但是在使用多線程抓取網頁內容時,遇到IO阻塞時,正在執行的線程會暫時釋放GIL鎖,這時其它線程會利用這個空隙時間,執行自己的代碼,因此多線程抓取比單線程抓取性能要好,所以我們還是要使用多線程的。

GIL對多線程Python程序的影響

程序的性能受到計算密集型(CPU)的程序限制和I/O密集型的程序限制影響,那什麽是計算密集型和I/O密集型程序呢?

計算密集型:要進行大量的數值計算,例如進行上億的數字計算、計算圓周率、對視頻進行高清解碼等等。這種計算密集型任務雖然也可以用多任務完成,但是花費的主要時間在任務切換的時間,此時CPU執行任務的效率比較低。

IO密集型:涉及到網絡請求(time.sleep())、磁盤IO的任務都是IO密集型任務,這類任務的特點是CPU消耗很少,任務的大部分時間都在等待IO操作完成(因為IO的速度遠遠低於CPU和內存的速度)。對於IO密集型任務,任務越多,CPU效率越高,但也有壹個限度。

當然為了避免GIL對我們程序產生影響,我們也可以使用,線程鎖。

Lock&RLock

常用的資源***享鎖機制:有Lock、RLock、Semphore、Condition等,簡單給大家分享下Lock和RLock。

Lock

特點就是執行速度慢,但是保證了數據的安全性

RLock

使用鎖代碼操作不當就會產生死鎖的情況。

什麽是死鎖

死鎖:當線程A持有獨占鎖a,並嘗試去獲取獨占鎖b的同時,線程B持有獨占鎖b,並嘗試獲取獨占鎖a的情況下,就會發生AB兩個線程由於互相持有對方需要的鎖,而發生的阻塞現象,我們稱為死鎖。即死鎖是指多個進程因競爭資源而造成的壹種僵局,若無外力作用,這些進程都將無法向前推進。

所以,在系統設計、進程調度等方面註意如何不讓這四個必要條件成立,如何確定資源的合理分配算法,避免進程永久占據系統資源。

死鎖代碼

python線程間通信

如果各個線程之間各幹各的,確實不需要通信,這樣的代碼也十分的簡單。但這壹般是不可能的,至少線程要和主線程進行通信,不然計算結果等內容無法取回。而實際情況中要復雜的多,多個線程間需要交換數據,才能得到正確的執行結果。

python中Queue是消息隊列,提供線程間通信機制,python3中重名為為queue,queue模塊塊下提供了幾個阻塞隊列,這些隊列主要用於實現線程通信。

在 queue 模塊下主要提供了三個類,分別代表三種隊列,它們的主要區別就在於進隊列、出隊列的不同。

簡單代碼演示

此時代碼會阻塞,因為queue中內容已滿,此時可以在第四個queue.put('蘋果')後面添加timeout,則成為 queue.put('蘋果',timeout=1)如果等待1秒鐘仍然是滿的就會拋出異常,可以捕獲異常。

同理如果隊列是空的,無法獲取到內容默認也會阻塞,如果不阻塞可以使用queue.get_nowait()。

在掌握了 Queue 阻塞隊列的特性之後,在下面程序中就可以利用 Queue 來實現線程通信了。

下面演示壹個生產者和壹個消費者,當然都可以多個

使用queue模塊,可在線程間進行通信,並保證了線程安全。

協程

協程,又稱微線程,纖程。英文名Coroutine。

協程是python個中另外壹種實現多任務的方式,只不過比線程更小占用更小執行單元(理解為需要的資源)。為啥說它是壹個執行單元,因為它自帶CPU上下文。這樣只要在合適的時機, 我們可以把壹個協程 切換到另壹個協程。只要這個過程中保存或恢復 CPU上下文那麽程序還是可以運行的。

通俗的理解:在壹個線程中的某個函數,可以在任何地方保存當前函數的壹些臨時變量等信息,然後切換到另外壹個函數中執行,註意不是通過調用函數的方式做到的,並且切換的次數以及什麽時候再切換到原來的函數都由開發者自己確定。

在實現多任務時,線程切換從系統層面遠不止保存和恢復 CPU上下文這麽簡單。操作系統為了程序運行的高效性每個線程都有自己緩存Cache等等數據,操作系統還會幫妳做這些數據的恢復操作。所以線程的切換非常耗性能。但是協程的切換只是單純的操作CPU的上下文,所以壹秒鐘切換個上百萬次系統都抗的住。

greenlet與gevent

為了更好使用協程來完成多任務,除了使用原生的yield完成模擬協程的工作,其實python還有的greenlet模塊和gevent模塊,使實現協程變的更加簡單高效。

greenlet雖說實現了協程,但需要我們手工切換,太麻煩了,gevent是比greenlet更強大的並且能夠自動切換任務的模塊。

其原理是當壹個greenlet遇到IO(指的是input output 輸入輸出,比如網絡、文件操作等)操作時,比如訪問網絡,就自動切換到其他的greenlet,等到IO操作完成,再在適當的時候切換回來繼續執行。

模擬耗時操作:

如果有耗時操作也可以換成,gevent中自己實現的模塊,這時候就需要打補丁了。

使用協程完成壹個簡單的二手房信息的爬蟲代碼吧!

以下文章來源於Python專欄 ,作者宋宋

文章鏈接:/s/2r3_ipU3HjdA5VnqSHjUnQ