Welche Vorteile bietet die Nutzung mobiler GPUs in TensorFlow Lite?

Mobile GPU-Nutzung in TensorFlow Lite als Developer Preview vorgestellt

Florian Roos

© Shutterstock / archy13

Ab sofort können mobile GPUs in TensorFlow Lite getestet werden. Das neue Feature steht in einer Developer Preview zur Verfügung.

TensorFlow Lite erhält Unterstützung für mobile GPUs. Dieses neue Feature, das in einer Developer Preview zur Verfügung steht, erlaubt die Übergabe ausgewählter Aufgaben an die GPU von Mobilgeräten. Neu in dieser Developer Preview sind Unterstützung für OpenGL Es 3.1 Compute Shaders auf Android-Geräten und Metal Compute Shaders auf iOS-Geräten. Durch die Übergabe von Aufgaben an die GPU sollen ML-Modelle schneller ausgeführt werden.

Messbare Leistungssteigerung in TensorFlow Lite mit mobilen GPUs

Für eine Vielzahl von Deep Neural Network Modellen soll das neue GPU-Backend, wie das TensorFlow-Team im Blogpost zu diesem Feature mitteilt, zwischen zwei und sieben mal schneller sein als eine Floating Point CPU Implementierung. Zur Veranschaulichung der möglichen Leistungssteigerung wurden Benchmarks mit insgesamt sechs Modellen auf sechs Geräten durchgeführt. Die Ergebnisse zeigt die folgende Abbildung, die das TensorFlow-Team im entsprechenden Blogpost veröffentlicht hat:

© TensorFlow Blog (Quelle)

Vor dem vollständigen Release dieses Features sind weitere Änderungen daran vorgesehen. Neben der Fertigstellung der APIs soll die Performance verbessert werden. Zusätzlich sollen mehr Aufgaben an die GPU übergeben werden können. Auch Feedback aus der Community soll aufgenommen werden. Die Veröffentlichung der finalen Version des Supports für mobile GPUs ist für einen späteren Zeitpunkt im Jahr 2019 geplant.

Weitere Informationen finden sich im Blogpost zur Veröffentlichung dieser Developer Preview oder in der Dokumentation.

ML Conference 2019

Workshop: Machine Learning 101++ using Python

mit Dr. Pieter Buteneers (Chatlayer.ai)

Honey Bee Conservation using Deep Learning

mit Thiago da Silva Alves, Jean Metz (JArchitects)

ML Summit 2019

Grundlagen von Machine Learning

mit Oliver Zeigermann (embarc)

Lösungsansätze mit KI (ML) finden – better done than perfect!

mit Jan Hedtfeld und Lena Müller-Ontjes (MACH AG)

Geschrieben von
Florian Roos
Florian Roos
Florian Roos ist Redakteur für Software & Support Media. Er hat Politikwissenschaft an der Technischen Universität Darmstadt studiert und erste redaktionelle Erfahrungen in den Bereichen Games und Consumer-Hardware gesammelt.
Kommentare

Hinterlasse einen Kommentar

Hinterlasse den ersten Kommentar!

avatar
4000
  Subscribe  
Benachrichtige mich zu: