Logo von Developer

Suche
Abonnieren

Tägliche Top-News bei WhatsApp, Facebook Messenger, Telegram & Insta

preisvergleich_weiss

Recherche in 1.683.110 Produkten

Rainald Menge-Sonnentag 3

Machine Learning: Google bringt TensorFlow Lite für Android und iOS

Machine Learning: Google bringt TensorFlow Lite für Android und iOS

Die schlanke Variante des Open-Source-Frameworks bringt Machine Learning auf mobile Endgeräte und Embedded Devices. Zum Start gibt es Anbindungen für iOS und Android.

Die Macher von TensorFlow haben eine speziell auf den Einsatz auf Mobilgeräten und Embedded Devices zugeschnittene Variante der von Google vorangetriebenen Machine-Learning-Bibliothek veröffentlicht. TensorFlow Lite ist besonders schlank und im ersten Schritt auf den Einsatz auf Android und iOS vorbereitet. Die Bibliothek zielt auf den Einsatz trainierter Modelle, nicht das weit rechenintensivere Training der Modelle.

Anzeige

Auf Android nutzt TensorFlow Lite sofern vorhanden die Neural Network API (NNAPI), eine C-API, die seit Version 8.1 von Googles mobilem Betriebssystem in Android enthalten ist. Sie bietet Basisfunktionen, um Berechnungen von Machine-Learning-Frameworks zu optimieren und die GPU für Berechnungen zu nutzen. Fehlt eine passende Hardware, greift TensorFlow Lite auf die CPU zurück.

Die Architektur von TensorFlow Lite setzt sich aus einem plattformunabhängigen Stack und plattformspezifischen Implementierungen zusammen. Ersterer besteht aus einem trainierten TensorFlow-Modell und einem Programm zum Konvertieren des Modells in das TensorFlow-Lite-Dateiformat. Die erstellten tflite-Dateien bauen auf FlatBuffers auf, einer Serialisierungs-Bibliothek, die ursprünglich von Google stammt und auf hohe Performance optimiert ist.

Zum Start von TensorFlow Lite existieren Implementierungen für Android und iOS. Beide bieten eine C++-API, und Googles Betriebssystem hat zusätzlich eine Java-Schnittstelle, die ein Wrapper der C++-Anbindung ist. Die Ausführung übernimmt jeweils der Interpreter, der das Modell ausführt und dafür auf Operatoren zugreift. Letztere lassen sich einzeln bei Bedarf laden. Ohne Operatoren ist der Interpreter 70 kByte groß, mit dem vollen Satz an Operatoren kommt er auf 300 kByte. Zum Vergleich: Die bisher für den mobilen Einsatz vorgesehene Bibliothek TensorFlow Mobile umfasst 1,5 MByte. Mit der C++-API können Entwickler zusätzlich eigene optimierte Kernels erstellen.

Die Modellebene ist plattformunabhängig, und derzeit existieren APIs und Interpreter für iOS und Android.
Die Modellebene ist plattformunabhängig, und derzeit existieren APIs und Interpreter für iOS und Android. (Bild: Google)

Zum Start existieren drei vorgefertigte Modelle, die typische Anforderungen abdecken. MobileNets sind unterschiedliche Modellklassen für die visuelle Erkennung, um unter anderem in Bildern Objekte zu klassifizieren oder Wahrzeichen zu erkennen. Auch Inception v3 dient der Bildanalyse und bietet eine höhere Genauigkeit, ist aber gleichzeitig größer. Beide visuelle Systeme bringen Trainingsdaten aus dem ImageNet-Datensatz mit, lassen sich aber auch mit eigenen Bildsätzen trainieren. Smart Reply ist ein Konversations-Modell und hilft beim schnellen Beantworten von Chat-Nachrichten unter anderem auf Android-Wear-Geräten.

Weitere Details lassen sich Googles Entwicklerblog entnehmen. Derzeit hat TensorFlow Lite den Status einer Developer Preview. Mittelfristig soll es TensorFlow Mobile ersetzen. Der Blogbeitrag nennt TensorFlow Lite die Evolution von TensorFlow Mobile. Derzeit ist TensorFlow Lite aber noch arg eingeschränkt. Somit bleibt TensorFlow Mobile zunächst die empfohlene API für den produktiven Einsatz. (rme)

3 Kommentare

Themen:

Anzeige
  1. Machine Learning: Google bringt einen TensorFlow-Konverter für Core ML

    Machine Learning: Google bringt einen TensorFlow-Konverter für Core ML

    In Zusammenarbeit mit Apple hat Google ein Tool veröffentlicht, mit dem sich TensorFlow-Modelle auf Apples Machine-Learning-Framework übertragen lassen.

  2. Maschinelles Lernen: Google veröffentlicht eine API zur Objekterkennung

    Maschinelles Lernen: Google veröffentlicht eine API zur Objekterkennung

    Die Tensor Flow Object Detection API nutzt der Suchmaschinenanbieter bereits intern in der Bildersuche, für Street View und in einem Tool für die Nest-Cam-Geräten. Nun hat Google das System als Open-Source-Projekt freigegeben.

  3. Google stellt Training-Werkzeuge für TensorFlow unter Open-Source-Lizenz

    Google stellt Training-Werkzeuge für TensorFlow unter Open-Source-Lizenz

    Tensor2Tensor soll das Erstellen von Deep-Learning-Modellen mit Googles Bibliothek TensorFlow vereinfachen.

  4. Machine Learning: TensorFlow 1.3 bringt zusätzliche Modelle

    Machine Learning: TensorFlow 1.3 bringt zusätzliche vorgefertigte Modelle

    Das aktuelle Release erweitert die als "Canned Estimators" bezeichneten vorgefertigten Modelle. Außerdem bildet nun Nvidias CUDA Deep Neural Network Library 6 den Unterbau. Auch bei den Bibliotheken gibt es ein paar Neuzugänge.

  1. Die Neuerungen von Linux 4.9

    Linux-Kernel 4.9

    Das XFS-Dateisystem kann jetzt doppelt gespeicherte Daten zusammenführen und große Dateien in Sekundenbruchteilen kopieren. Linux 4.9 verbessert zudem die Sicherheit. Neue Möglichkeiten zur Performance-Analyse erleichtern System- und Programmoptimierung.

  2. Die Neuerungen von Linux 4.13

    Linux-Kernel 4.13

    Der neue Kernel kann die Schwerarbeit bei der HTTPS-Verschlüsselung übernehmen. Statt einer "inakkuraten" Taktfrequenzangabe findet sich in /proc/cpuinfo jetzt nur noch der Basistakt des Prozessors. Außerdem sind jetzt Treiber für neue Grafikkerne von AMD und Intel dabei.

  3. Die Neuerungen von Linux 4.14

    Linux-Kernel 4.14

    Die neue Kernel-Version bringt Speicherverschlüsselung, einen neuen Schlafmodus und einige Performance-Verbesserungen. Außerdem überwindet sie eine Grenze, die auf die ersten 64-Bit-x86-Prozessoren zurückgeht.

  1. Vorstellung: Mercedes G-Klasse

    Mercedes G-Klasse

    Erstmals seit knapp 40 Jahren stellt Mercedes eine von Grund auf neu konzipierte G-Klasse vor. Die Optik lässt einen glauben, es hätte sich kaum etwas verändert. Schon im Jahre 2014 kündigten wir die Wende der G-Klasse an. Kam es so, wie wir damals glaubten?

  2. Meltdown und Spectre: Neustart-Probleme auch mit Skylake- und Kaby-Lake-CPUs, neue Intel-Benchmarks

    Meltdown und Spectre: Neustart-Probleme auch mit Skylake- und Kaby-Lake-CPUs, neue Intel-Benchmarks

    Intel muss in einer neuen Sicherheitsmitteilung einräumen, dass es nach dem Einspielen der Firmware-Updates auch auf Core-i-6000/7000-Systemen zu plötzlichen Neustarts kommen kann.

  3. TeamViewer IoT soll das Internet der Dinge überwachen

    Digital gesteuertes Zuhause

    Smarte Geräte daheim, im öffentlichen Raum und in der Industrie sollen leichter überwacht und aus der Ferne gewartet werden. Dafür bietet TeamViewer eine neue IoT-Software an.

  4. Fritzbox-Updates: Kommendes FritzOS 7 könnte zwei Router per Mesh-WLAN koppeln

    Fritzbox-Updates: FritzOS 7 könnte zwei Fritzboxen per Mesh-WLAN koppeln

    Der Routerhersteller AVM erwägt, die Mesh-Funktionen im erwarteten FritzOS 7 weiter auszubauen, um entfernte Geräte via Mesh anzukoppeln. Das erklärte die Firma im Rahmen einer Stellungnahme zu einem missverständlichen Facebook-Posting.

Anzeige