Edge Impulse will maschinelles Lernen am Edge für alle zugänglich machen und kündigt eine Serie-B-Finanzierung in Höhe von 34 Millionen Dollar an
In etwas mehr als 2 Jahren wurden 55.000 Projekte umgesetzt, 30.000 Entwickler waren beteiligt, es wurden 54 Millionen Dollar an Finanzmitteln bereitgestellt - und Kunden wie die NASA konnten gewonnen werden. Edge Impulse reitet somit auf der Welle des maschinellen Lernens am „Edge“.
Jan Jongbooms Traum - in seinen eigenen Worten - war es, Geräte zu haben, die wirklich verstehen, was um sie herum geschieht. Das war vor zehn Jahren - doch erst im Jahr 2019 begann er ernsthaft, etwas dafür zu tun. Damals gründeten Jongboom und Zach Shelby Edge Impulse mit der Mission, Entwicklern zu ermöglichen, die nächste Generation intelligenter Geräte zu entwickeln.
Heute gibt Edge Impulse bekannt, dass es im Rahmen einer Series-B-Finanzierungsrunde 34 Millionen Dollar erhalten hat. Die Finanzierungsrunde wurde von Coatue angeführt und hat das Marktwert- sowie Wachstumsprognose des Unternehmens für das Jahr 2022 verdreifacht. Coatue schließt sich damit den bisherigen Investoren Canaan Partners, Acrew Capital, Fika Ventures, Momenta Ventures und Knollwood Investment Advisory an - was für das Team ein „unglaubliches Jahr“ abrundet.
Seit der Markteinführung im Jahr 2019 haben fast 30.000 Entwickler aus Tausenden von Unternehmen mithilfe von Edge Impulse nahezu 55.000 individuelle Machine-Learning-Projekte entwickelt. So entstanden intelligentere Lösungen für die Industrie, Logistik, den Konsumgüterbereich und das Gesundheitswesen - in Zusammenarbeit mit Kunden wie Oura, Polycom, Advantech und der NASA. Die Zahl der Entwickler ist um das Vierfache gestiegen; das jährliche laufende Einkommen hat im vergangenen Jahr sogar das Dreifache erreicht.
All das klingt ziemlich beeindruckend und bestätigt Gartners Prognose, dass „bis 2027 maschinelles Lernen in Form von Deep Learning in über 65 Prozent der Edge-Anwendungsfälle zum Einsatz kommen wird - gegenüber weniger als 10 Prozent im Jahr 2021“. Wir haben uns mit Jongboom unterhalten, um mehr über Edge Impulse zu erfahren.
Dumme IoT-Geräte nützlich machen
Ausgangspunkt von Jongboom und Shelby ist die Überlegung, dass IoT-Geräte zwar großartig sind, aber auch „dumm“ - sie können zwar Zeitreihendaten von verschiedenen Sensortypen aufzeichnen, etwa Temperatur- oder Schallwerte, doch sie haben keine Ahnung, was das bedeutet oder wie man daraus etwas Nützliches machen kann.
Als Jongboom vor etwa drei Jahren bei Arm Shelby traf - wo beide arbeiteten - begannen sie darüber zu sprechen, was sie tun könnten, damit diese Geräte die Welt wirklich verstehen. Schnell kamen sie zu dem Schluss, dass maschinelles Lernen die Lösung sei.
Jongboom nannte die Bekämpfung von Wilderei als Beispielanwendung. Wenn man laut ihm ein IoT-Gerät nutzen wolle, um zu erkennen, wann sich ein Elefant in der Nähe befindet, habe man zwei Möglichkeiten. Die erste bestehe darin, ein Programm zu entwickeln, das beschreibt, wie die akustischen Signale eines Elefanten klingen. Die zweite Möglichkeit sei es, Audiodaten von Elefanten zu verwenden und ein maschinelles Lernmodell die Arbeit erledigen zu lassen.
Edge Impulse ist auf maschinelles Lernen für IoT-Geräte spezialisiert. Das bedeutet, dass sie den standardmäßigen Lebenszyklus des maschinellen Lernens anwenden müssen: Daten sammeln - Modell trainieren - Modell einsetzen - Modell validieren - und den Prozess wiederholen. Schauen wir uns an, wie sie jeden Schritt in diesem Prozess umsetzen.
Wir fragten uns, welche Arten von Geräten oder Sensoren Edge Impulse für die Datenerfassung unterstützt. Jongboom erwähnte, dass ihr Partnerökosystem - das von Entwicklern von Mikrocontrollern bis hin zu hochspezialisierten Siliziumchips für maschinelles Lernen reicht - „praktisch alles“ unterstützt.
Es gibt einige Faktoren, die man berücksichtigen muss, wenn man darüber nachdenkt, wie ein im Jahr 2019 gegründetes Unternehmen bis 2021 ein solches Ökosystem aufbauen konnte. Laut Jongboom verhalf ihnen die Tatsache, dass die Gründer von Edge Impulse selbst als Embedded-Entwickler gearbeitet hatten - wobei Shelby zuvor sein IoT-Start-up an Arm verkauft hatte - dabei, einen Vorsprung zu erlangen. Sie wussten, was Entwickler wollten, und sie wussten, wie man Hardware-Anbieter ansprechen kann. Zudem machten sie den Datentransfer Open Source und einfach nutzbar:
„Das ist wirklich eine großartige Geschichte: Wir können Silikon-Anbietern dabei helfen, ihre Produkte auf den Markt zu bringen - und zwar nachdem wir über die entsprechende Hardware verfügen, auf der diese laufen können. Das bedeutet, dass wir gemeinsam zu den Kunden gehen und eine viel überzeugendere Botschaft vermitteln können. Es geht nicht darum, dass wir einfach nur diese unglaubliche Machine-Learning-Plattform haben - vielmehr haben wir diese Plattform sowie die Unterstützung der Silikon-Anbieter, die bereits auf bestehenden Geräten laufen wird. Das ist wirklich fantastisch“, so Jongboom.
Daten sammeln, Modell trainieren, Modell einsetzen, Modell validieren, wiederholen
Was den Teil des Prozesses betrifft, in dem Machine-Learning-Modelle trainiert werden, so verwendet Edge Impulse hauptsächlich gängige Frameworks wie TensorFlow. Dabei geht es darum, so viel wie möglich zu abstrahieren, um die Erstellung von Modellen für Fachleute so benutzerfreundlich wie möglich zu gestalten.
Ziel sei es, so Jongboom, Fachexperten die Werkzeuge an die Hand zu geben, um Daten zu sammeln, anschließend nach Anomalien zu analysieren, das Geschehen zu klassifizieren oder die Zukunft vorherzusagen. Dabei gehe es nicht nur um maschinelles Lernen, sondern auch um Signalverarbeitung - schließlich „ist die Signalverarbeitung wirklich praktisch und nachvollziehbar“.
Das Arbeitstier von Edge Impulse ist TensorFlow, das über Keras genutzt wird. Falls Sie einen Datenwissenschaftler im Team haben, umso besser - dann können Sie das Modell nach Belieben bearbeiten. Falls nicht, müssen Sie das auch nicht tun. Somit reicht das Spektrum von „low code“ bis hin zu vollständiger Freiheit bei der Modellgestaltung. Und ja: Der Begriff „low code“ bedeutet, dass es hier ein IDE gibt - das Studio.
Edge Impulse Studio ist eine Online-IDE - dort findet auch der Validierungsschritt des Prozesses statt. Jongboom betonte, dass dies im Allgemeinen im Bereich des maschinellen Lernens sehr wichtig ist - insbesondere bei Edge-Anwendungen. Denn wenn man etwas auf ein Gerät oder eine Maschine deployt, kann es äußerst schwierig sein, Fehler in der praktischen Anwendung zu korrigieren.
Edge Impulse ermöglicht es Nutzern, echte Daten hochzuladen, die zur Validierung verwendet werden können; außerderdem kann es synthetische Daten generieren. Zudem können die Nutzer je nach Anwendungstyp eingreifen und manuell Korrekturen bei Fehlalarmen oder übersehenen Ereignissen vornehmen. Manchmal ist es entscheidend, bestimmte Ereignisse zu erkennen - auch wenn dies zu Fehlalarmen führt; manchmal ist es hingegen in Ordnung, etwas zu übersehen.
Der Sinn dabei, so Jongboom, sei es, aufschlussreiche Anwendungen zu entwickeln und Vertrauen zu wecken. Wenn jemand die Daten unterstützt durch das maschinelle Lernmodell überprüft, fällt es viel leichter, die Schwachstellen zu erkennen.
Der letzte Schritt im Prozess - die Implementierung - ist derzeit für Edge Impulse noch etwas außer Reichweite. Edge Impulse generiert Quellcode. Dazu gehören das mathematische Modell, der Normalisierungscode, der Signalverarbeitungscode, der Maschinellern-Code sowie alle Anpassungen des Modells nach der Verarbeitung.
Es gibt keine kompilierten Binärdateien - und auch keine Lizenzgebühren dafür, sagte Jongboom. Wie der Nutzer diese in sein Gerät integriert, bleibe ihm überlassen, fügte er hinzu. Allerdings, so Jongboom, spielt auch das Ökosystem dabei eine Rolle; es kann so einfach sein wie zwei Zeilen Code. Auch dieser Teil ist Open Source.
Edge Impulse EON: Das Geheimrezept zur Optimierung von Maschinenlernmodellen für den Edge-Bereich
Der Teil, über den wir bisher noch nicht gesprochen haben und der sowohl für Edge Impulse von zentraler Bedeutung ist als auch nicht open source ist, ist der Bereich TinyML. TensorFlow oder jedes andere Framework kann zwar Modelle erzeugen, doch aufgrund der Einschränkungen der Edge-Geräte hinsichtlich Leistung und Rechenkapazitäten eignen sich diese Modelle oft nicht zur Implementierung auf solchen Geräten.
Hier kommt EON (Edge Optimized Neural) von Edge Impulse ins Spiel. Dies ist die Technologie, die Edge Impulse verwendet hat, um maschinelle Lernmodelle zu erstellen, die für die Implementierung auf ressourcengeschränkten Edge-Geräten geeignet sind. Zunächst berücksichtigt EON alle Parameter des Zielgeräts und führt anschließend zwei Schritte aus.
Zuerst greift der EON-Tuner. Jongboom beschrieb dies als „eine superweite Suchbasis mit 1000 verschiedenen Modellen, die wir ausprobieren könnten“. Der EON-Tuner prüft, welche davon auf das Zielgerät passen, und wählt anschließend das Modell mit der höchsten Genauigkeit aus.
Anschließend kompiliert der EON-Compiler neuronale Netzwerke effizient für „Brownfield“-Geräte. Wie das funktioniert, erklärte Jongboom: Das maschinelle Lernmodell gibt seine Daten an einen Interpreter weiter; dieser erstellt anschließend einen Graphen und führt die Inferenz durch. Doch das ist ein verschwenderisches Embedded-System - schließlich muss man sowohl den Interpreter als auch alle möglichen Zustände, die der Interpreter erzeugen kann, mitführen.
Der EON-Compiler kompiliert das Graphendiagramm einfach in Quellcode und übersetzt diesen anschließend. Dadurch werden 30 bis 50 Prozent des RAM-Verbrauchs eingespart - was eine Menge ist, insbesondere bei Brownfield-Geräten. Der Compiler steht zum Einsatz zur Verfügung; die von den Nutzern erstellten Modelle sind ebenfalls Open Source und unter der Apache-2.0-Lizenz lizenziert - es fallen also keine Lizenzgebühren an. Einige Nutzer entscheiden sich sogar dafür, ihre Modelle mit der Community zu teilen.
Edge Impulse ist eine Software-as-a-Service-Plattform. Kunden zahlen pro Projekt monatlich oder pro Datenpipeline monatlich. Zusätzlich zahlen sie für mehr Rechenleistung, Kollaborationsfunktionen, die Transformation großer Datenmengen sowie die Integration mit ihrer Cloud, um Daten abzurufen und zu verarbeiten.
Derzeit beschäftigt Edge Impulse ein Team von 40 Personen. Ziel ist es, mit den Mitteln aus der Serie-B-Finanzierung im kommenden Jahr die Belegschaft auf 80 Mitarbeiter zu erweitern - wobei der Schwerpunkt auf dem Team für Lösungsentwicklung liegt. Jongboom sagte, sie strebten außerdem an, die Community sowie die Unterstützungsangebote in gleichem Maße weiter auszubauen und ihr organisches Wachstum beizubehalten.