Parallele Verlangsamung

Ein Diagramm der Programmlaufzeit (in blau dargestellt) und Programmgeschwee (rot) eines realen Programms mit suboptimaler Parallelisierung. Die gestrichelten Linien weisen eine optimale Parallelisation -Linie -Erhöhung der Beschleunigung und die lineare Abnahme der Programmlaufzeit an. Beachten Sie, dass die Laufzeit letztendlich mit mehr Prozessoren zunimmt (und die Beschleunigung ebenfalls abnimmt). Dies ist eine parallele Verlangsamung.

Parallele Verlangsamung ist ein Phänomen in Parallele Computing wo Parallelisierung von a Parallelalgorithmus Über einen bestimmten Punkt hinaus läuft das Programm langsamer (nehmen Sie sich mehr Zeit für die Fertigstellung).^[1]

Parallele Verlangsamung ist in der Regel das Ergebnis eines Kommunikationsguts. Mehr als Prozessorknoten Wenn Sie hinzugefügt werden, verbringt jeder Verarbeitungsknoten zunehmend mehr Zeit mit Kommunikation als nützliche Verarbeitung. Irgendwann übertrifft der Kommunikationsaufwand, der durch Hinzufügen eines weiteren Verarbeitungsknotens erstellt wurde, die erhöhte Verarbeitungsleistung, die der Knoten bietet, und es tritt eine parallele Verlangsamung auf.

Eine parallele Verlangsamung tritt auf, wenn der Algorithmus eine signifikante Kommunikation erfordert, insbesondere der Zwischenergebnisse. Einige Probleme, bekannt als peinlich parallele ProblemeErfordern Sie keine solche Kommunikation und sind daher nicht durch eine Verlangsamung betroffen.

Verweise

Siehe auch

• Mythischer Mann MonatEine analoge Situation für ein Teamprogrammierer, bei dem die Produktivität von der menschlichen Kommunikation beeinflusst wird.