Prozessoren

Movidius Neural Compute Stick leistet 100 GFLOPs bei 1 W

Intel hat über seine Tochterfirma Movidius einen sogenannten Neural Compute Stick (NCS) vorgestellt. Damit soll eine möglichst leistungsstarke und auf AI-Anwendungen ausgelegte Hardware deutlicher einfacher zugänglich gemacht werden. Ein NCS kann allerdings keine große Trainings-Hardware ersetzen, sondern soll den Zugang zur dazugehörigen Software und der Methodik erleichtern.

Im Movidius NCS arbeitet ein Myriad 2, eine sogenannte Vision Processing Unit (VPU), die bei einer Leistungsaufnahme von 1 W bis zu 100 GFLOPS erreichen soll. Zum Vergleich: Eine Tesla V100 auf Basis der V100-GPU erreicht 120 TFLOPS und damit eine hundertfach höhere Leistung. Hier sprechen wir allerdings auch von einer Leistungsaufnahme von bis zu 300 W. Die Berechnungen werden bei halber Genauigkeit, also FP16 vorgenommen.

Neben der VPU sind im NCS auch noch 4 GB LPRR3 vorhanden. Angeschlossen wird der NCS über einen USB-3.0-Anschluss. Es ist auch möglich, mehrere dieser Stick an einem System zu verwenden und die Rechenleistung damit zu koppeln. Bei bis zu vier Sticks soll die Rechenleistung nahezu linear skalieren, Movidius testet derzeit Konfigurationen mit sechs bis acht Sticks. Das Unternehmen geht davon aus, dass es theoretisch keine Limitierung für die Anzahl der Sticks gibt und sich die Rechenleistung dementsprechend steigern lässt. Allerdings ist dies auch abhängig von der jeweiligen AI-Anwendung. Der Stick selbst misst 72, 5 x 27 x 14 mm. Im dazugehörigen Host-System muss ein x86-64-Prozessor vorhanden sein und als Betriebssystem kommt Ubuntu 16.04 zum Einsatz.

Movidius liefert eine auf Caffe optimierte Programmbibliothek und auch die dazugehörigen Entwicklerwerkzeuge, um die Ergebnisse zu verifizieren. Die Auswertung von neuronalen Netzwerken ist abhängig von der verwendeten Hardware – jede Hardware erzeug unterschiedliche Ergebnisse. Um diese Ergebnisse abzusichern ist eine Software zur Verifizierung wichtig.

Der Movidius Neural Compute Stick ist seit dem 20. Juli erhältlich und kostet 79 US-Dollar. Intel ist aber nicht nur mit seiner Tochterfirma Movidius in diesem Bereich unterwegs, sondern hat in der vergangenen Woche mit dem neuen Grafiktreiber 15.46 die eigenen integrierten GPUs dazu in der Lage versetzt als Beschleuniger zu fungieren. Mit dedizierten GPU-Beschleunigern hat man auch die entsprechende Hardware in der Hinterhand.