Verfahren
Mehrere Threads in Python sind eigentlich keine echten Multi-Threads. Wenn Sie die Ressourcen einer Multi-Core-CPU voll ausnutzen m?chten, müssen Sie in Python in den meisten F?llen mehrere Prozesse verwenden. Python bietet ein sehr benutzerfreundliches Multiprocessing-Paket. Sie müssen nur eine Funktion definieren und Python erledigt alles andere. Mit Hilfe dieses Pakets l?sst sich die Umstellung von Einzelprozess auf gleichzeitige Ausführung problemlos bewerkstelligen. Multiprocessing unterstützt Unterprozesse, die Kommunikation und den Austausch von Daten, führt verschiedene Formen der Synchronisierung durch und stellt Komponenten wie Prozess, Warteschlange, Pipe und Sperre bereit.
1. Klassenprozess
Erstellen Sie eine Prozessklasse: Process([group [, target [, name [, args [, kwargs]]]]])
Ziel stellt das aufrufende Objekt dar
Argumente Ein Tupel von Positionsparametern, die das aufrufende Objekt darstellen
kwargs, die ein W?rterbuch des aufrufenden Objekts darstellen
Name ist ein Alias ??
Gruppe wird im Wesentlichen nicht verwendet
Schauen wir uns die Erstellung der folgenden Funktion an und führen sie als mehrere Prozesse aus Beispiel:
#!/usr/bin/env python3 # -*- coding: UTF-8 -*- import multiprocessing import time def worker(interval, name): print(name + '【start】') time.sleep(interval) print(name + '【end】') if __name__ == "__main__": p1 = multiprocessing.Process(target=worker, args=(2, '兩點(diǎn)水1')) p2 = multiprocessing.Process(target=worker, args=(3, '兩點(diǎn)水2')) p3 = multiprocessing.Process(target=worker, args=(4, '兩點(diǎn)水3')) p1.start() p2.start() p3.start() print("The number of CPU is:" + str(multiprocessing.cpu_count())) for p in multiprocessing.active_children(): print("child p.name:" + p.name + "\tp.id" + str(p.pid)) print("END!!!!!!!!!!!!!!!!!")
Ausgabeergebnisse:
Multiprozess-Ausgabeergebnisse
2. Erstellen Sie den Prozess als Klasse
Von Natürlich k?nnen wir einen Prozess auch als Klasse erstellen, wie im folgenden Beispiel, wenn der Prozess Wenn p start() aufruft, wird automatisch die run()-Methode aufgerufen.
# -*- coding: UTF-8 -*- import multiprocessing import time class ClockProcess(multiprocessing.Process): def __init__(self, interval): multiprocessing.Process.__init__(self) self.interval = interval def run(self): n = 5 while n > 0: print("當(dāng)前時(shí)間: {0}".format(time.ctime())) time.sleep(self.interval) n -= 1 if __name__ == '__main__': p = ClockProcess(3) p.start()
Die Ausgabeergebnisse lauten wie folgt:
Prozessklasse erstellen
3. Daemon-Attribut
M?chten Sie wissen, was das ist? Daemon-Attribut wird verwendet? Schauen Sie sich die folgenden zwei Beispiele an. Attribut, eines wurde nicht hinzugefügt, vergleichen Sie das Ausgabeergebnis:
Beispiel für das Nichthinzufügen eines Deamon-Attributs:
# -*- coding: UTF-8 -*- import multiprocessing import time def worker(interval): print('工作開始時(shí)間:{0}'.format(time.ctime())) time.sleep(interval) print('工作結(jié)果時(shí)間:{0}'.format(time.ctime())) if __name__ == '__main__': p = multiprocessing.Process(target=worker, args=(3,)) p.start() print('【EMD】')
Ausgabeergebnis:
【EMD】 工作開始時(shí)間:Mon Oct 9 17:47:06 2017 工作結(jié)果時(shí)間:Mon Oct 9 17:47:09 2017
Im obigen Beispiel fügt Prozess p hinzu Daemon Attribut:
# -*- coding: UTF-8 -*- import multiprocessing import time def worker(interval): print('工作開始時(shí)間:{0}'.format(time.ctime())) time.sleep(interval) print('工作結(jié)果時(shí)間:{0}'.format(time.ctime())) if __name__ == '__main__': p = multiprocessing.Process(target=worker, args=(3,)) p.daemon = True p.start() print('【EMD】')
Ausgabeergebnis:
【EMD】
Wenn das Daemon-Attribut dem untergeordneten Prozess hinzugefügt wird, endet laut Ausgabeergebnis auch der untergeordnete Prozess, wenn der Hauptprozess endet. Daher werden keine Informationen über den untergeordneten Prozess gedruckt.
4. Join-Methode
Um mit dem obigen Beispiel fortzufahren: Was sollten wir tun, wenn wir die Ausführung des untergeordneten Threads beenden m?chten?
Dann k?nnen wir die Join-Methode verwenden. Die Hauptfunktion der Join-Methode besteht darin, den aktuellen Prozess zu blockieren, bis die Ausführung des Prozesses, der die Join-Methode aufruft, abgeschlossen ist, und dann mit der Ausführung des aktuellen Prozesses fortzufahren.
Sehen Sie sich also das Beispiel für das Hinzufügen der Join-Methode an:
import multiprocessing import time def worker(interval): print('工作開始時(shí)間:{0}'.format(time.ctime())) time.sleep(interval) print('工作結(jié)果時(shí)間:{0}'.format(time.ctime())) if __name__ == '__main__': p = multiprocessing.Process(target=worker, args=(3,)) p.daemon = True p.start() p.join() print('【EMD】')
Das Ausgabeergebnis:
工作開始時(shí)間:Tue Oct 10 11:30:08 2017 工作結(jié)果時(shí)間:Tue Oct 10 11:30:11 2017 【EMD】
5, Pool
Wenn viele untergeordnete Prozesse ben?tigt werden, müssen wir sie dann einzeln erstellen?
Natürlich nicht, wir k?nnen die Prozesspoolmethode verwenden, um untergeordnete Prozesse stapelweise zu erstellen.
Das Beispiel ist wie folgt:
# -*- coding: UTF-8 -*- from multiprocessing import Pool import os, time, random def long_time_task(name): print('進(jìn)程的名稱:{0} ;進(jìn)程的PID: {1} '.format(name, os.getpid())) start = time.time() time.sleep(random.random() * 3) end = time.time() print('進(jìn)程 {0} 運(yùn)行了 {1} 秒'.format(name, (end - start))) if __name__ == '__main__': print('主進(jìn)程的 PID:{0}'.format(os.getpid())) p = Pool(4) for i in range(6): p.apply_async(long_time_task, args=(i,)) p.close() # 等待所有子進(jìn)程結(jié)束后在關(guān)閉主進(jìn)程 p.join() print('【End】')
Das Ausgabeergebnis ist wie folgt:
主進(jìn)程的 PID:7256 進(jìn)程的名稱:0 ;進(jìn)程的PID: 1492 進(jìn)程的名稱:1 ;進(jìn)程的PID: 12232 進(jìn)程的名稱:2 ;進(jìn)程的PID: 4332 進(jìn)程的名稱:3 ;進(jìn)程的PID: 11604 進(jìn)程 2 運(yùn)行了 0.6500370502471924 秒 進(jìn)程的名稱:4 ;進(jìn)程的PID: 4332 進(jìn)程 1 運(yùn)行了 1.0830621719360352 秒 進(jìn)程的名稱:5 ;進(jìn)程的PID: 12232 進(jìn)程 5 運(yùn)行了 0.029001712799072266 秒 進(jìn)程 4 運(yùn)行了 0.9720554351806641 秒 進(jìn)程 0 運(yùn)行了 2.3181326389312744 秒 進(jìn)程 3 運(yùn)行了 2.5331451892852783 秒 【End】
Eines ist hier zu beachten: Das Pool-Objekt, das join() aufruft Die Methode wartet auf die Ausführung aller untergeordneten Prozesse. Abgeschlossen. Sie müssen close() aufrufen, bevor Sie join() aufrufen. Nach dem Aufruf von close() k?nnen Sie keine weiteren Prozesse hinzufügen.
Bitte achten Sie auf die Ausgabeergebnisse. Die untergeordneten Prozesse 0, 1, 2 und 3 werden sofort ausgeführt, w?hrend der untergeordnete Prozess 4 auf den Abschluss eines vorherigen untergeordneten Prozesses warten muss Die Standardgr??e des Pools liegt bei uns. Auf meinem Computer betr?gt sie 4, sodass h?chstens 4 Prozesse gleichzeitig ausgeführt werden. Dies ist eine absichtliche Designbeschr?nkung von Pool, keine Einschr?nkung des Betriebssystems. Bei ?nderung in:
p = Pool(5)
k?nnen 5 Prozesse gleichzeitig ausgeführt werden.
6. Kommunikation zwischen Prozessen
Das Betriebssystem stellt viele Mechanismen zur Verfügung, um eine Kommunikation zwischen Prozessen zu erreichen. Das Multiprocessing-Modul von Python umschlie?t den zugrunde liegenden Mechanismus und bietet mehrere M?glichkeiten zum Datenaustausch, z. B. Queue und Pipes.
Nehmen Sie die Warteschlange als Beispiel und erstellen Sie zwei untergeordnete Prozesse im übergeordneten Prozess. Einer schreibt Daten in die Warteschlange und der andere liest Daten aus der Warteschlange:
#!/usr/bin/env python3 # -*- coding: UTF-8 -*- from multiprocessing import Process, Queue import os, time, random def write(q): # 寫數(shù)據(jù)進(jìn)程 print('寫進(jìn)程的PID:{0}'.format(os.getpid())) for value in ['兩點(diǎn)水', '三點(diǎn)水', '四點(diǎn)水']: print('寫進(jìn) Queue 的值為:{0}'.format(value)) q.put(value) time.sleep(random.random()) def read(q): # 讀取數(shù)據(jù)進(jìn)程 print('讀進(jìn)程的PID:{0}'.format(os.getpid())) while True: value = q.get(True) print('從 Queue 讀取的值為:{0}'.format(value)) if __name__ == '__main__': # 父進(jìn)程創(chuàng)建 Queue,并傳給各個(gè)子進(jìn)程 q = Queue() pw = Process(target=write, args=(q,)) pr = Process(target=read, args=(q,)) # 啟動(dòng)子進(jìn)程 pw pw.start() # 啟動(dòng)子進(jìn)程pr pr.start() # 等待pw結(jié)束: pw.join() # pr 進(jìn)程里是死循環(huán),無法等待其結(jié)束,只能強(qiáng)行終止 pr.terminate()
Das Ausgabeergebnis lautet:
讀進(jìn)程的PID:13208 寫進(jìn)程的PID:10864 寫進(jìn) Queue 的值為:兩點(diǎn)水 從 Queue 讀取的值為:兩點(diǎn)水 寫進(jìn) Queue 的值為:三點(diǎn)水 從 Queue 讀取的值為:三點(diǎn)水 寫進(jìn) Queue 的值為:四點(diǎn)水 從 Queue 讀取的值為:四點(diǎn)水