Künstliche Intelligenz zum Nachrüsten

8. Oktober 2019, 12:54 Uhr
Künstliche Intelligenz zum Nachrüsten
Künstliche Intelligenz zum Nachrüsten
Für die Realisierung von Deep-Learning-Inferenz (DL) an der Edge ist eine flexibel skalierbare Lösung von Nöten, die stromsparend ist und eine geringe Latenzzeit aufweist. Gerade bei der  Verarbeitung von Bildern an der Edge werden vorwiegend kompakte und passive gekühlte Systeme eingesetzt, die schnelle Entscheidungen ohne Upload in die Cloud treffen.

Die neuen KI-Beschleunigerkarten der Mustang Serie von ICP Deutschland unterstützen Entwickler bei der erfolgreichen Integration von KI-Trainingsmodellen an der Edge.
 
Es stehen zwei unterschiedliche Mustang Serien zur Auswahl um flexibel und skalierbar KI Anwendungen an der Edge zu realisieren.

VPU Beschleunigerkarten

Die VPU basierte Mustang Serie verwendet Intel® MovidiusTM MyriadTM X MA2485 Visual Processing Units. Diese VPUs sind durch die Kombination ihres neuralen Netzwerks mit 16 SHAVE Kernen und ihrer Neural Compute Engine speziell für KI Anwendungen im Vision Bereich ausgelegt.

Neben einer Vielzahl von implementierten Hardwarefunktionen für die Bildverarbeitung, enthält jede VPU eine neue Stereo Depth Block Funktion, die in der Lage ist zwei Streams mit einer Auflösung von 720P bei 180 Hz zu verarbeiten. Native FP16 Berechnungen oder 8bit Festkommaberechnungen aber auch die abstimmbare

ISP-Pipeline und die hardwarebasierte Codierung lassen auch anspruchsvolle Bild-oder Videoverarbeitung mit einer Auflösung von bis zu 4K zu. Jeder einzelnen VPU lässt sich dabei eine andere DL-Topologie zuweisen. Grund hierfür ist die Multi-Channel Fähigkeit der VPUs, die eine simultane Ausführung von Berechnungen ermöglicht. So lassen sich unterschiedliche Anwendungen wie Objekterkennung oder Bild- und Videoklassifikation gleichzeitig ausführen.

Auf der PCI Express x4 Bus basierten Mustang-V100-MX8 kommen gleich acht dieser VPUs zum Einsatz und erreichen eine Rechenleistung von einem TOPS. Damit ist die Mustang-V100-MX8 in der Lage mehr als zehn Video Streams gleichzeitig zu verarbeiten. Der Stromverbrauch hält sich dabei in Grenzen. Jede VPU verbraucht nur 2.5W. Im Gesamten verbleibt die Mustang-V100-MX8 unter 30 Watt und eignet sich für anspruchsvolle Low-Power KI-Anwendungen.

Sind weniger als zehn Streams zu verarbeiten kann eine kleinere Variante, wie die Mustang-V100-MX4 mit vier MA2485 VPU Einheiten, verwendet werden. Die Mustang-V100-MX4 basiert ebenfalls auf dem PCI Express Bus benötigt allerdings nur einen x2 Steckplatz und kann in nahezu jeden Kompakt PC verbaut werden.

Für besonders kompakte Embedded PC Systeme die keinen PCI Express Steckplatz bieten, stehen zwei VPU Module zur Auswahl die auf dem M.2 Formfaktor basieren. Die Mustang-M2AE-MX1 mit einer VPU Einheit sowie die Mustang-M2BM-MX2 mit zwei MA2485 VPU Einheiten.
Für Systeme mit älterem Mini-PCI Express Bus eignet sich die Mustang-MPCIE-MX2 mit zwei MyriadTM VPU Einheiten.



Zur Mustang Serie
weiter >> 1/2
Kommentare werden geladen...
Verwandte Artikel