Schritt 1: Ihr Training, Ihr Framework h4>
- Nutzen Sie Ihr bevorzugtes Machine Learning-Framework wie PyTorch, TensorFlow oder andere ONNX-kompatible Tools – ganz ohne Umstellung Ihrer bestehenden Entwicklungsumgebung. Sie sind nicht an proprietäre Software oder Cloud-Plattformen gebunden und behalten maximale Flexibilität bei der Entwicklung Ihrer KI-Modelle.
- Trainieren Sie Ihre Modelle lokal, in der Cloud oder auf Ihren bestehenden GPU-Clustern und behalten Sie dabei stets die volle Kontrolle über Ihre Daten, Modellarchitekturen und Hyperparameter. Ihre Data Scientists können weiterhin mit den Tools arbeiten, die sie kennen und effizient einsetzen.
Schritt 2: Export ins ONNX-Format h4>
- ONNX (Open Neural Network Exchange) ist ein offener, herstellerunabhängiger Standard für den Austausch von KI-Modellen. Die Konvertierung aus Ihrem Framework erfolgt mit wenigen Zeilen Code über integrierte Exportfunktionen.
- wenglor Notebooks zeigen Best Practices und unterstützen bei Export, Validierung und Weiterverarbeitung. Unterstützt werden die Technologien Klassifizierung (Multi-Class und Multi-Label) sowie Objekterkennung – inklusive optionaler Quantisierung für optimierte Performance.
Schritt 3: u3o-Package h4>
- Das u3o-Format ist das deploymentfertige Paket für Geräte mit der Software uniVision 3. Es kombiniert das ONNX-Modell mit allen relevanten Metadaten wie Input-/Output-Spezifikationen, Preprocessing und Klassen-Labels.
- Die Erstellung erfolgt automatisch über wenglor Python-Skripte in GitHub, inklusive Validierung für die Zielhardware. Optional kann das KI-Modell quantisiert werden, um die Performance weiter zu steigern.
Schritt 4: Integration in uniVision 3 h4>
- Das Modul „Bild ONNX“ ermöglicht den direkten Import von u3o-Paketen in uniVision 3. Je nach Anwendung stehen flexible Hardware-Optionen zur Verfügung: die Smart Cameras der B60-Serie für kompakte KI-Inferenz direkt an der Anlage oder die Machine Vision Controller der MVC-Serie für rechenintensive Modelle. In Kombination mit weiteren Modulen lassen sich leistungsfähige und flexible Machine-Vision-Anwendungen realisieren.
Schritt 5: Anbindung
- Die Integration erfolgt nahtlos über bestehende Schnittstellen zu PLCs, Robotern und IT-Systemen. Dabei wird die vorhandene Kommunikationsstruktur von uniVision 3 genutzt – ganz ohne zusätzliche Middleware.
Unterstützte Technologien und Modelltypen für das ONNX-Modul
Das ONNX-Format wird von allen gängigen Machine-Learning-Frameworks unterstützt, sodass Ihr bestehendes Setup unverändert weiterverwendet werden kann.
| Unterstütztes Modellformat | ONNX |
| Trainingsframework |
PyTorch, TensorFlow, scikit-learn, Apache Spark, Keras, Caffe2, Microsoft Cognitiv Toolkit (CNTK), Theano*
|
| Unterstützte Modelltypen |
|
| Optimierung (optional) |
|
*Neben den aufgeführten Frameworks sind weitere Integrationen möglich.
Das ONNX-Format wird von allen gängigen Machine-Learning-Frameworks unterstützt, sodass Ihr bestehendes Setup unverändert weiterverwendet werden kann.
|
Unterstütztes Modellformat
|
|
ONNX
|
|
Trainingsframework
|
|
PyTorch, TensorFlow, scikit-learn, Apache Spark, Keras, Caffe2, Microsoft Cognitiv Toolkit (CNTK), Theano*
|
|
Unterstützte Modelltypen
|
|
|
Optimierung (optional)
|
|
*Neben den aufgeführten Frameworks sind weitere Integrationen möglich.
Welche Vorteile bietet ONNX in uniVision 3?
- Nutzen Sie das Framework Ihrer Wahl (z. B. PyTorch, Tensorflow, etc.).
- Ihre bestehenden Prozesse bleiben unverändert.
- Profitieren Sie von der Kombination neuronaler Netze mit regelbasierten Tools.
- Nutzen Sie nahtlos integrierte Werkzeuge wie Maskierung, ROI-Definition und Nachbearbeitung.
- Die Smart Cameras B60 verfügen über eine Neural Processing Unit für die beschleunigte KI-Berechnung.
- Sämtliche Machine Vision Controller MVC gewährleisten mit einer leistungsstarken CPU optimale Prozesszeiten.
Sämtliche Ergebnisse können direkt über die bestehende Kommunikationsinfrastruktur von uniVision 3 weiterverarbeitet werden.
Zwei Möglichkeiten, KI-Modelle auf wenglor Hardware auszuführen
Modul „Bild ONNX“ – Integration extern trainierter KI-Modelle im ONNX-Format h4>
Integrieren Sie Ihre mit Open-Source-Framworks trainierten KI-Modelle.
| Modelltraining | In der eigenen Toolchain (z. B. PyTorch, Tensorflow) lokal oder extern |
| Schnittstelle | KI-Modelle-Import im ONNX-Format (über GitHub) |
| Transparenz | Heatmap-Unterstützung (modellabhängig) |
| Integration | Direkt in uniVision ausführbar – Kompatibilität und Konvertierung gemäß Dokumentation |
Modul „Bild AI“ – KI-Modelltraining im AI Lab h4>
Nutzen Sie den gesamten KI-Workflow aus einer Hand.
| Modelltraining | In der Cloud im AI Lab |
| Datenfluss | Bildübertragung von uniVision 3 über weHub ins AI Lab |
| Transparenz | Maximale Nachvollziehbarkeit über Heatmaps und Auswertungen |
| Einstieg | Intuitive Benutzeroberfläche für strukturierte Projekte ohne eigene Machine-Learning-Toolchain |
Die passende Hardware für die optimale Ausführung der KI-Modelle
wenglor Machine Vision Hardware bietet mit der Software uniVision 3 optimale Voraussetzung für die effiziente Ausführung von KI-Modellen.
Auf den Smart Cameras der B60-Serie sorgt die integrierte Neural Processing Unit (NPU) für die effiziente und schnelle Ausführung der KI-Modelle. Die Intel® OpenVINO™-Beschleunigung und der Multicore-Prozessor der Machine Vision Controller der MVC-Serie ermöglichen die effiziente, parallele Ausführung mehrerer KI-Modelle und komplexer Prozessabläufe.Lizenzen für die Nutzung von ONNX in uniVision 3
Für die Ausführung der im AI Lab erstellten KI-Modelle steht auf der jeweiligen Machine Vision Hardware das Modul „Bild AI“ zur Verfügung. Dieses ist Teil des Lizenzpakets „uniVision AI“.
Das Lizenzpaket „uniVison AI“ umfasst die Freischaltung der folgenden Module:
- Modul „Bild AI“ (für KI-Modelle aus dem AI Lab)
- Modul „Bild ONNX“ (für KI-Modelle im ONNX-Format)
Die Lizenz „uniVision AI“ ist wie folgt erhältlich:
- Für Smart Cameras der B60-Serie: Lizenz DNNL031
- Für Machine Vision Controller der MVC-Serie: Lizenz DNNL032
