Intel Movidius Neural Compute SDK

Das Intel Movidius Neural Compute SDK (NCSDK) ermöglicht die schnelle Prototypisierung und Bereitstellung von Deep Neural Networks (DNNs) auf kompatiblen neuronalen Rechen-Geräten wie dem Intel Movidius Neural Compute Stick. Das NCSDK umfasst eine Reihe von Software-Werkzeugen, um DNN-Modelle zu kompilieren, zu profilieren und zu validieren, sowie die Intel Movidius Neural Compute API (NCAPI) für die Anwendungsentwicklung in C/C++ oder Python.

Zweck und Anwendung

Das NCSDK hat zwei allgemeine Verwendungszwecke:

1. Profilieren, Tuning und Kompilieren eines DNN-Modells auf einem Entwicklungssystem (Host-System) mit den im NCSDK enthaltenen Werkzeugen.
2. Prototypisieren einer Benutzeranwendung auf einem Entwicklungssystem (Host-System), die auf das neuronale Rechen-Gerät zugreift, um DNN-Inferenzen zu beschleunigen, indem die NCAPI verwendet wird.

NCSDK 2.x

Die Version 2.x des NCSDK führt mehrere neue Funktionen ein:

• NCAPI v2: eine flexiblere API, die multiple Graphen auf demselben Gerät, Queue-Eingabe und -Ausgabe und 32FP-Datentypen unterstützt. Beachte, dass NCAPI v2 nicht rückwärtskompatibel mit NCAPI v1 ist.
• Neue Installations-Optionen: Docker, virtualenv-Unterstützung

Installation

Die Installation des NCSDK und der NCAPI kann über die Dokumentation auf der offiziellen Website durchgeführt werden. Es gibt auch Anweisungen für die Installation mit virtualenv oder in einem Docker-Container oder virtuellen Maschine.

Frameworks

Das NCSDK unterstützt die Kompilierung von Caffe- oder TensorFlow-Netzwerken für die Verwendung mit dem NCSDK.

Toolkit

Das NCSDK enthält eine Reihe von Werkzeugen, darunter mvNCCheck, mvNCCompile und mvNCProfile.

API

Die NCAPI bietet eine Programmierschnittstelle für die Anwendungsentwicklung.

Beispiele

Das NCSDK enthält eine Reihe von Beispielen, die die Verwendung des SDK demonstrieren. Weitere Beispiele können auf dem Neural Compute App Zoo GitHub-Repository gefunden werden.

Unterstützung

Für technische Unterstützung und Fehlerbehebung gibt es eine separate Seite mit Informationen und Ressourcen.

Hinweis

Das Intel Neural Compute Stick 2 (Intel NCS2) wird nicht mehr unterstützt und wird durch das Intel Edge AI box für Video-Analysen ersetzt.