Passo 1: Il vostro training, il vostro framework h4>
- Sfrutta il tuo framework di machine learning preferito, come PyTorch, TensorFlow o altri strumenti compatibili con ONNX, senza dover modificare il tuo ambiente di sviluppo esistente. Non sono vincolati a software proprietari o piattaforme cloud e mantengono la massima flessibilità nello sviluppo dei modelli di IA.
- Esercita i tuoi modelli localmente, nel cloud o sui tuoi cluster GPU esistenti, mantenendo sempre il pieno controllo dei dati, delle architetture dei modelli e dei parametri ipertestuali. I tuoi data scientist possono continuare a lavorare con gli strumenti che conoscono e utilizzano in modo efficiente.
Passo 2: Esporta in formato ONNX h4>
- ONNX (Open Neural Network Exchange) è uno standard aperto e indipendente dal produttore per lo scambio di modelli di IA. La conversione dal vostro framework avviene con poche righe di codice tramite funzioni di esportazione integrate.
- I notebook wenglor mostrano le best practice e supportano l’esportazione, la convalida e l’ulteriore elaborazione. Sono supportate le tecnologie di classificazione (Multi-Class e Multi-Label) e di riconoscimento dell’oggetto, inclusa la quantificazione opzionale per prestazioni ottimizzate.
Passo 3: Pacchetto u3o h4>
- Il formato u3o è il pacchetto pronto all’uso per dispositivi con il software uniVision 3. Combina il modello ONNX con tutti i metadati rilevanti, come le specifiche di input/output, la preelaborazione e le etichette di classe.
- La creazione avviene automaticamente tramite script wenglor Python in GitHub, inclusa la convalida per l’hardware di destinazione. Opzionalmente, il modello di IA può essere quantificato per aumentare ulteriormente le prestazioni.
Passo 4: Integrazione in uniVision 3 h4>
- Il modulo “ONNX immagine” consente l’importazione diretta di pacchetti u3o in uniVision 3. A seconda dell’applicazione sono disponibili diverse opzioni flessibili del software. le Smart Camera della serie B60 per l’inferenza compatta dell’IA direttamente sull’impianto o i controller Machine Vision della serie MVC per modelli ad alta intensità di calcolo. In combinazione con altri moduli è possibile realizzare applicazioni di Machine Vision potenti e flessibili.
Passo 5: Applicazione
- L’integrazione avviene senza soluzione di continuità attraverso interfacce esistenti con PLC, robot e sistemi IT. In questo caso viene utilizzata la struttura di comunicazione esistente di uniVision 3, senza alcun middleware aggiuntivo.
Tecnologie e tipi di modelli supportati per il modulo ONNX
Il formato ONNX è supportato da tutti i principali framework di machine learning, in modo che la tua configurazione esistente possa continuare a essere utilizzata senza modifiche.
| Formato modello supportato | ONNX |
| Struttura di formazione |
PyTorch, TensorFlow, apprendimento scikit, Apache Spark, Keras, Caffe2, Microsoft Cognitive Toolkit (CNTK), Theano*
|
| Tipi di modelli supportati |
|
| Ottimizzazione (opzionale) |
|
*Oltre ai framework elencati, sono possibili altre integrazioni.
Il formato ONNX è supportato da tutti i principali framework di machine learning, in modo che la tua configurazione esistente possa continuare a essere utilizzata senza modifiche.
|
Formato modello supportato
|
|
ONNX
|
|
Struttura di formazione
|
|
PyTorch, TensorFlow, apprendimento scikit, Apache Spark, Keras, Caffe2, Microsoft Cognitive Toolkit (CNTK), Theano*
|
|
Tipi di modelli supportati
|
|
|
Ottimizzazione (opzionale)
|
|
*Oltre ai framework elencati, sono possibili altre integrazioni.
Perché utilizzare GitHub per i progetti di machine learning? h3>
Quali vantaggi offre ONNX in uniVision 3?
- Utilizzare il framework di propria scelta (ad es. PyTorch, Tensorflow, ecc.).
- I processi esistenti rimangono invariati.
- Approfitta della combinazione di reti neurali e strumenti basati su regole.
- Sfrutta strumenti perfettamente integrati come il mascheramento, la definizione della ROI e la post-elaborazione.
- Le Smart Camera B60 dispongono di un’unità di elaborazione neurale per il calcolo accelerato dell’IA.
- Tutti i controller Machine Vision MVC garantiscono tempi di processo ottimali grazie a una potente CPU.
Tutti i risultati possono essere ulteriormente elaborati direttamente tramite l’infrastruttura di comunicazione esistente di uniVision 3.
Due modi per eseguire modelli di IA sull’hardware wenglor
Modulo “ONNX immagine” – Integrazione del modello di IA addestrato esternamente in formato ONNX h4>
Integra i tuoi modelli di IA formati con framework open source.
| Addestramento del modello | Nella propria toolchain (ad es. PyTorch, Tensorflow) locale o esterna |
| Interfaccia | Modelli di IA importati in formato ONNX (attraverso GitHub) |
| Trasparenza | Supporto della mappa termica (a seconda del modello) |
| Integrazione | Eseguibile direttamente in uniVision – compatibilità e conversione secondo la documentazione |
Modulo “AI immagine” – formazione del modello IA nell’AI Lab) h4>
Sfrutta l’intero flusso di lavoro dell’IA da un’unica fonte.
| Addestramento del modello | Nel cloud nel AI Lab |
| Flusso di dati | Trasmissione delle immagini da uniVision 3 al AI Lab tramite weHub |
| Trasparenza | Massima tracciabilità tramite heatmap e valutazioni |
| Ingresso | Interfaccia utente intuitiva – per progetti strutturati senza una propria toolchain di machine learning |
L’hardware adeguato per un funzionamento ottimale dei modelli di IA
Con il software uniVision 3, l’hardware Machine Vision wenglor offre i presupposti ottimali per l’esecuzione efficiente dei modelli di IA.
Nelle Smart Camera della serie B60, l’unità di elaborazione neurale (NPU) integrata garantisce un’esecuzione efficiente e veloce dei modelli di IA. L’accelerazione Intel® OpenVINO™ e il processore multicore dei controller Machine Vision della serie MVC consentono l’esecuzione efficiente e parallela di più modelli di IA e flussi di processo complessi.Licenze per l’utilizzo di ONNX in uniVision 3
Per l’esecuzione dei modelli di IA creati nell’AI Lab, sull’hardware di visione artificiale corrispondente è disponibile il modulo “AI immagine”. Questo fa parte del pacchetto di licenza “uniVision AI”.
Il pacchetto di licenza “uniVision AI” comprende l’abilitazione dei seguenti moduli:
- Modulo “AI immagine” (per modelli AI del AI Lab)
- Modulo “ONNX immagine” (per modelli IA in formato ONNX)
La licenza “uniVision AI” è disponibile come segue:
- Per Smart Camera della serie B60: Licenza DNNL031
- Per i controller Machine Vision della serie MVC: Licenza DNNL032
