INFO: Dieses Forum nutzt Cookies...
Cookies sind für den Betrieb des Forums unverzichtbar. Mit der Nutzung des Forums erklärst Du dich damit einverstanden, dass wir Cookies verwenden.

Es wird in jedem Fall ein Cookie gesetzt um diesen Hinweis nicht mehr zu erhalten. Desweiteren setzen wir Google Adsense und Google Analytics ein.


Antwort schreiben 

Parallelisierung von DLLs



Wenn dein Problem oder deine Frage geklärt worden ist, markiere den Beitrag als "Lösung",
indem du auf den "Lösung" Button rechts unter dem entsprechenden Beitrag klickst. Vielen Dank!

19.07.2012, 14:07 (Dieser Beitrag wurde zuletzt bearbeitet: 19.07.2012 14:17 von jg.)
Beitrag #1

Herm Offline
LVF-Grünschnabel
*


Beiträge: 24
Registriert seit: Jun 2011

LV 2009 & 2012
2011
DE


Deutschland
Smile Parallelisierung von DLLs
Hallo

Ich habe folgendes Problem:
Ich nehme mit einer Kamera von Image Control Bilder auf. Diese Bilder werden an eine Bildauswertung angeschlossen. Die Auswertung liegt in Form einer DLL vor und wird über einen CLF-Knoten eingebunden. Das Ganze funktioniert an sich auch, nur ist die DLL deutlich langsamer, als die Kamera Bilder liefert. Ich möchte also die Bilder auf mehrere CLF-Knoten aufteilen, die dann in unterschiedlichen Kernen abgearbeitet werden. Der PC, den ich benutze hat 8 Kerne und 16 GB Arbeitsspeicher. Ich will maximal 4 Kerne mit der Abarbeitung der DLL belasten. Dazu möchte ich quasi einen Kreislauf schreiben. Die Bilder der Kamera werden in einer lossy queue abgelegt. Immer wenn eine DLL ein Bild bearbeitet hat soll sie ein TRUE ausgeben, welches der lossy queue sagt, dass es jetzt ein weiteres Bild ausgeben kann ("Element auslesen" von VI "Queue-Status lesen" auf TRUE setzten).

Je nach Größe des Bildes und Auswertungsmethodik (es gibt zwei verschiedene) braucht die DLL zwischen 66 und 200 ms. Wenn nur kleine Bilder vorliegen, die schnell ausgewertet werden, sollen auch nur 1-2 DLLs und damit Kerne belastet werden, wenn die DLLs länger brauchen, soll die Auswertung automatisch auf die anderen DLLs erweitert werden. Die DLLs sollen also priorisiert angesteuert werden. Immer wenn die erste frei ist, soll diese auch mit dem neuen Bild belegt werden und nur, wenn diese gerade arbeitet, soll das Bild an die zweite gegeben werden usw. Wenn alle 4 DLLs belegt sind und neue Bilder ankommen, verfallen diese automatisch durch die lossy queue.
Ich habe das Prinzip des VIs vereinfacht angehängt, so wie es mit einer DLL aussehen würde. Das eingehende Bild wird durch einen einzelnen Zufallswert dargestellt. Die DLL habe ich mal vereinfacht dargestellt als Timer mit 66 ms Wartezeit (Mindestlaufzeit der DLL) und der eingehende Wert wird um 1 erhöht.

Hier also meine Frage:
Wie lässt sich sozusagen eine priorisierende Casestruktur realisieren, oder etwas, was die Bilder bevorzugt auf bestimmte Schleifen aufteilt. Wenn ich einfach einen Counter durchlaufen lasse, der mir der Reihe nach die Bilder in die unterschiedlichen DLLs schickt, dann werden immer alle 4 Kerne belastet, obwohl das nicht unbedingt nötig ist. Ich möchte ja hier, dass die 1. DLL priorisiert behandelt wird, nur wenn diese gerade ein Bild bearbeitet, soll die nächste DLL verwendet werden.

Viele Grüße

Herm


Angehängte Datei(en)
9.0 .vi  Kreislauf der Bildauswertung.vi (Größe: 18,64 KB / Downloads: 199)
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
25.07.2012, 13:04
Beitrag #2

Herm Offline
LVF-Grünschnabel
*


Beiträge: 24
Registriert seit: Jun 2011

LV 2009 & 2012
2011
DE


Deutschland
RE: Parallelisierung von DLLs
Hallo,

hat zu meinem Prolem keiner eine Idee, oder habe ich mich bei der Beschreibung zu undeutlich ausgedrückt?

Gruß

Herm
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
25.07.2012, 21:55
Beitrag #3

GerdW Offline
______________
LVF-Team

Beiträge: 17.469
Registriert seit: May 2009

LV2021
1995
DE_EN

10×××
Deutschland
RE: Parallelisierung von DLLs
Hallo Herm,

Zitat:welches der lossy queue sagt, dass es jetzt ein weiteres Bild ausgeben kann ("Element auslesen" von VI "Queue-Status lesen" auf TRUE setzten)
Das klingt für mich nach einer RaceCondition, wenn mehrere Prozesse sich Daten aus der Queue holen sollen: Es könnte passieren, das gleichzeitig zwei parallele "DLL"-Routinen sich auf die gleiche Weise sich die Elemente in der Queue ausgeben lassen und dann das gleiche Bild analysieren... Daten immer per DeQueue aus der Queue auslesen!

Vorschlag:
- Steuer die parallelen Routinen über die Anzahl der in der Queue gespeicherten Daten: sind nur wenige Daten enthalten, laufen nur 1 oder 2 Routinen. Werden es mehr als 10 Elemente, darf die 3. Routine helfen. Liegen mehr als 20 Elemente in der Queue, greift die 4. Routine ein. Und immer Daten per DeQueue abfragen!!!
- Erlaubt die DLL überhaupt parallele Zugriffe auf die gleiche Funktion?

Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
25.07.2012, 22:22
Beitrag #4

rolfk Offline
LVF-Guru
*****


Beiträge: 2.305
Registriert seit: Jun 2007

alle seit 6.0
1992
EN

2901GG
Niederlande
RE: Parallelisierung von DLLs
(25.07.2012 13:04 )Herm schrieb:  Hallo,

hat zu meinem Prolem keiner eine Idee, oder habe ich mich bei der Beschreibung zu undeutlich ausgedrückt?

Gruß

Herm

Deine Idee ist zwar technisch brilliant aber ein Alptraum zum implementieren. LabVIEW ist nicht dazu gedacht um solche komplexen Multithreadingkonfiguration durchzuführen. LabVIEW macht vieles automatisch was in 95% von den Fällen von Vorteil ist aber in Deinem Fall nicht die notwendigen Konfigurationsmöglichkeiten lässt.

Das Ganze lässt sich in C schon machen, aber ist ein ziemlich komplexes Problem zum Lösen bei dem sich selbst gestandene Multithreadingprogrammierer gehörig die Zähne ausbeissen würden. Den in C kannst Du zwar alles machen aber es macht 0.0% davon automatisch.

Rolf Kalbermatter
Technische Universität Delft, Dienst Elektronik und Mechanik
https://blog.kalbermatter.nl
Webseite des Benutzers besuchen Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
26.07.2012, 09:46
Beitrag #5

Herm Offline
LVF-Grünschnabel
*


Beiträge: 24
Registriert seit: Jun 2011

LV 2009 & 2012
2011
DE


Deutschland
RE: Parallelisierung von DLLs
(25.07.2012 21:55 )GerdW schrieb:  
Zitat:Das klingt für mich nach einer RaceCondition, wenn mehrere Prozesse sich Daten aus der Queue holen sollen: Es könnte passieren, das gleichzeitig zwei parallele "DLL"-Routinen sich auf die gleiche Weise sich die Elemente in der Queue ausgeben lassen und dann das gleiche Bild analysieren... Daten immer per DeQueue aus der Queue auslesen!

Das Problem ist mir auch schon aufgefallen. DeQueue ist da eine gute Idee, danke.

Zitat:Vorschlag:
- Steuer die parallelen Routinen über die Anzahl der in der Queue gespeicherten Daten: sind nur wenige Daten enthalten, laufen nur 1 oder 2 Routinen. Werden es mehr als 10 Elemente, darf die 3. Routine helfen. Liegen mehr als 20 Elemente in der Queue, greift die 4. Routine ein. Und immer Daten per DeQueue abfragen!!!

Wenn ich DeQueue verwende, wird der Eintrag ja direkt wieder aus der Queue entfernt, da ich ihn ja direkt wieder auslese und dann lösche. So habe ich immer nur ein Element in meiner Queue drin. Dann funktioniert das nicht, dass ich meine Routinen in Abhängigkeit von der Anzahl der Elemente innerhalb der Queue steuere, oder irre ich mich da. Da kann ich ja nur Queue-Status lesen verwenden, nur habe ich dann wieder das Problem, dass mehrere Routinen denselben Wert verwenden können.

Zitat:- Erlaubt die DLL überhaupt parallele Zugriffe auf die gleiche Funktion?

Darüber habe ich mir noch garkeine Gedanken gemacht. Ich kenne mich mit DLLs nur soweit aus, dass ich sie in LabVIEW einbinden kann. Die Algorithmen habe ich nicht selbst geschrieben. Ist aber ein guter Hinweis, da muss ich mal nachforschen.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
26.07.2012, 10:54
Beitrag #6

Herm Offline
LVF-Grünschnabel
*


Beiträge: 24
Registriert seit: Jun 2011

LV 2009 & 2012
2011
DE


Deutschland
RE: Parallelisierung von DLLs
Wie im Beispiel könnte es funktionieren, ich erhalte immer ein true wenn eine Schleife abgearbeitet ist und übergebe das true an die Queue und die Nummer der fertigen Schleife an die darauffolgende Casestruktur. So wird das aktuelle Element immer in die freie Routine geschrieben. Schön wäre es zwar noch, wenn ich die Ergebnisse auch in der Reihenfolge raus kriege, wie sie geliefert werden. Das wäre für eine Bildanzeige wichtig, da sonst die Bilder dauernd wechseln, weil sie in einer anderen Reihenfolge ausgegeben werden, aber für statistische Zwecke ist das egal.
Das Problem ist jetzt noch, dass zwei oder mehrere Routinen denselben Wert übergeben bekommen können, wenn sie gleichzeitig fertig sind. Ab da würden sie immer denselben Wert erhalten, weil sie ab da immer gleichzeitig fertig werden. Oder verhindert das die Casestruktur, die die Daten zuweist?

PS: eigentlich wollte ich das in den Eintrag davor editieren, aber das geht wohl nur innerhalb von 10 Minuten.


Angehängte Datei(en)
9.0 .vi  dynamisches Ansprechen von 4 Kernen.vi (Größe: 30,43 KB / Downloads: 172)
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
Anzeige
26.07.2012, 11:22
Beitrag #7

GerdW Offline
______________
LVF-Team

Beiträge: 17.469
Registriert seit: May 2009

LV2021
1995
DE_EN

10×××
Deutschland
RE: Parallelisierung von DLLs
Hallo Herm,

Zitat:Wenn ich DeQueue verwende, wird der Eintrag ja direkt wieder aus der Queue entfernt, da ich ihn ja direkt wieder auslese und dann lösche. So habe ich immer nur ein Element in meiner Queue drin.
Falsch!
Wenn schneller Elemente in die Queue geschrieben als aus dieser entnommen werden, wird die Anzahl der Elemente in der Queue anwachsen. Genau das ist doch bei dir der Fall!? Deine DLL verarbeitet die Bilder langsamer, als sie von der Kamera kommen: also werden sich Bilder in der Queue ansammeln. Damit hast du ein Kriterium, um weitere Auswerteroutinen parallel zu starten...

Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
26.07.2012, 13:42
Beitrag #8

Herm Offline
LVF-Grünschnabel
*


Beiträge: 24
Registriert seit: Jun 2011

LV 2009 & 2012
2011
DE


Deutschland
RE: Parallelisierung von DLLs
Zitat:Falsch!
Wenn schneller Elemente in die Queue geschrieben als aus dieser entnommen werden, wird die Anzahl der Elemente in der Queue anwachsen. Genau das ist doch bei dir der Fall!? Deine DLL verarbeitet die Bilder langsamer, als sie von der Kamera kommen: also werden sich Bilder in der Queue ansammeln. Damit hast du ein Kriterium, um weitere Auswerteroutinen parallel zu starten...

Bei mir wird der Wert aus der Queue direkt entnommen. So ist immer nur ein Wert in der Queue. Wenn der Wert nicht weiter gereicht werden kann, wird er einfach gelöscht.

Aber im Prinzip sollte die Casestruktur schon verhindern, dass derselbe Wert in mehrere Routinen geschrieben wird. Es können ja nicht mehrere cases derselben Struktur ausgeführt werden.
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
20.08.2012, 14:43
Beitrag #9

Herm Offline
LVF-Grünschnabel
*


Beiträge: 24
Registriert seit: Jun 2011

LV 2009 & 2012
2011
DE


Deutschland
RE: Parallelisierung von DLLs
Mir ist noch ein anderes Problem aufgefallen.
Ich habe das VI jetzt soweit modifiziert, dass ich jedes Bild mit einem Zeitstempel versehe und am Ende dann die ausgewerteten Bilder durch diesen Zeitstempel in der richtigen Reihenfolge anordnen kann. Dann ist egal, in welcher Reihenfolge die Bilder abgearbeitet werden.
Wenn ich jetzt jedoch relativ langsam Bilder geliefert bekomme, weil bspw. die fps erniedrigt werden, dann bleiben meine Schleifen einfach stehen. Da die "Bereitschaft" der Schleifen, dass sie neue Bilder auswerten können, nicht gespeichert werden, beenden sich die Schleifen, sobald kein neuer Wert mehr in der Eingangsque steht. Wenn ich also die Bilder schnell auswerte aber nur sehr wenige Bilder pro Sekunde bekomme, hört mein ganzes Programm nach kurzer Zeit auf. Ich habe jetzt eine weiter queue dazwischengesetzt, die mir quasi die Verfügbarkeiten speichert.
Nur sind in dieser queue immer die Werte aller vier Schleifen enthalten. Eigentlich sollten die Schleifen 0, 2 und 3 (Wartezeit von 66 ms) viel häufiger angesprochen werden, als die 2 (wartezeit von 1000 ms). Es laufen aber alle vier gleich schnell ab, die drei schnelleren warten auf die langsamere und laufen erst dann weiter. Ich wollte es eigentlich so haben, dass alle so schnell laufen, wie sie können.
Könnt ihr mir da weiterhelfen?


Gruß

Herm


Angehängte Datei(en)
9.0 .vi  dynamisches Zuweisen auf 4 Kerne.vi (Größe: 43,19 KB / Downloads: 169)
Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
20.08.2012, 15:00
Beitrag #10

GerdW Offline
______________
LVF-Team

Beiträge: 17.469
Registriert seit: May 2009

LV2021
1995
DE_EN

10×××
Deutschland
RE: Parallelisierung von DLLs
Hallo Herm,

deine Erzeugerschleife sieht schon sehr "kompliziert" aus.
Wozu schreibst du in eine Queue, um dann in der gleichen Schleife und sofort danach wieder aus dieser Queue auszulesen??? Warum dann nicht einfach einen Draht nehmen? Außerdem verteilst du munter "Bilder" an alle Verbraucherschleife, egal, wie schnell diese die Daten abarbeiten...

Überlege mal selbst, ob du das nicht einfacher hinbekommst...

Alle Beiträge dieses Benutzers finden
Diese Nachricht in einer Antwort zitieren to top
30
Antwort schreiben 


Möglicherweise verwandte Themen...
Themen Verfasser Antworten Views Letzter Beitrag
  Parallelisierung von Schleifen =steffen= 2 4.300 15.08.2008 18:18
Letzter Beitrag: Kvasir
  Callback Mechanismus mit DLLs nachbilden eg 0 3.163 01.09.2006 10:54
Letzter Beitrag: eg
  Globale Variablen bzw. Queues in DLLs Winzler 1 4.139 11.10.2005 08:56
Letzter Beitrag: thomas.sandrisser

Gehe zu: