TinyML & AutoML

Zusätzlich zu den Techniken gibt es Tools, die bei der Optimierung von TinyML-Modellen helfen. Hier sind einige dieser Tools und ihr Zusammenhang mit TinyML:

AutoKeras

AutoKeras ist ein Tool zur Automatisierung des Modelltrainings. Es ermöglicht die automatische Suche nach der besten Modellarchitektur für die zugrundeliegenden Daten. Dies ist besonders nützlich in der Welt von TinyML, da es die Entwickler bei der Auswahl der optimalen Modellstruktur unterstützt.

AutoFlow

AutoFlow ist ein weiteres Tool zur Automatisierung des Modelltrainings, welches auf AutoKeras basiert. Es kann verwendet werden, um Hyperparameter automatisch anzupassen und die besten Konfigurationen für das TinyML-Modell zu finden. Dies spart Zeit und Ressourcen, während die Modellleistung verbessert wird. Außerdem kann mithilfe dieses Tools ein TensorFlow Modell automatisiert, mit optionaler Verwendung von Pruning und Quantisierung, in ein TensorFlow Lite Modell konvertiert und für den Betrieb auf eingebetteten Systemen vorbereitet werden.

Automatic-Structured-Pruning

Das Automatic-Structured-Pruning Tool automatisiert den Pruningprozess von neuronalen Netzen, um die Modellgröße zu reduzieren und die Inferenzgeschwindigkeit zu erhöhen. Strukturiertes Pruning bietet dabei Vorteile für die Implementierung auf Hardware, indem es redundante Neuronen und Filter löscht und somit die Modellgröße verringert.

Die Auswahl der Quantisierungs- und Optimierungstechniken sowie die Nutzung von Tools hängen von den spezifischen Anforderungen eines TinyML-Projekts ab. Ziel ist es, Modelle zu erstellen, die auf ressourcenbeschränkten Edge-Geräten effizient und trotzdem genau ausgeführt werden können.

Mehr erfahren: Github - Hahn-Schickard/AutoFlow, AutoKeras/AutoKeras