Wenn ein Motor in einer Produktionsanlage plötzlich zu vibrieren beginnt, zählt jede Millisekunde. Daten in die Cloud zu schicken, dort analysieren zu lassen und auf eine Antwort zu warten, dauert zu lange. Die Lösung: Künstliche Intelligenz direkt in der Steuerung der Maschine – sogenannte Edge AI. „Wenn ich einen Upload in die Cloud mache, dauert der Vorgang bis zu einer Sekunde. Die Verarbeitung direkt im Gerät dauert hingegen nur einige Millisekunden“, erklärt Josef Bartolot, Leiter für das Produktsegment PSOC Control Product Mikrocontroller bei Infineon.
Anders als beim Cloud-Computing bleiben bei Edge AI die Daten dort, wo sie entstehen. Die KI-Modelle sind dabei deutlich kleiner als die bekannten großen Sprachmodelle (Large Language Models, LLMs) wie GPT oder Gemini. „Man nimmt ein größeres Modell und stimmt es fein auf einen spezifischen Anwendungsfall ab“, beschreibt Ali Osman Ors, Director of AI Strategy bei NXP, das Vorgehen. „Das liefert bessere Ergebnisse, als ein riesiges Modell auf alles loszulassen.“
Diese Edge-Modelle benötigen je nach Komplexität nur 50 Kilobyte bis wenige Megabyte Speicher und sind spezialisiert auf ihre Aufgabe – etwa die Steuerung eines Motors oder die Überwachung einer Verpackungsmaschine. So lassen sie sich in die vorhandene Steuerungs-Hardware von Fertigungsanlagen integrieren, wo nur begrenzt Rechenleistung und Speicherplatz zur Verfügung stehen.