Was ist Edge AI? Modelle direkt neben den Sensoren ausführen

Was ist Edge AI? Gemeint ist die Praxis, Machine-Learning-Inferenz auf dem Gerät auszuführen, das die Daten erfasst, oder auf einem Gateway direkt daneben, statt jeden Messwert an ein Rechenzentrum zu schicken. Am Ende dieses Beitrags wissen Sie, wie Edge-Inferenz funktioniert, welche Hardware zu welcher Aufgabe passt und wie Sie die Nachrichten eines Edge-Geräts so gestalten, dass der Rest Ihres Systems Antworten statt Rohdaten erhält.

Edge AI in einem Absatz

Ein trainiertes Modell ist eine Funktion: Eingabedaten gehen hinein, eine Vorhersage kommt heraus. Das Training dieser Funktion erfordert große Datensätze und viel Rechenleistung und findet daher meist in der Cloud oder auf einer Workstation statt. Die Ausführung, die sogenannte Inferenz, ist weitaus günstiger. Edge AI nimmt das trainierte Modell, verkleinert und optimiert es und führt die Inferenz dort aus, wo die Daten entstehen: in einer Kamera, einem Vibrationssensor, einem Mikrofon, einem SPS-Gateway. Das Gerät meldet dann seine Schlussfolgerung, etwa „Person am Tor“, „Lagerschaden wahrscheinlich“ oder „Teil fehlerhaft“, über ein schlankes Protokoll wie MQTT.

So funktioniert Edge-Inferenz

Der Lebenszyklus sieht gleich aus, ob das Ziel ein Mikrocontroller oder ein GPU-Modul ist:

1. Daten sammeln und labeln, und zwar von den echten Sensoren in der echten Umgebung.
2. Ein Modell trainieren mit einem Framework wie TensorFlow oder PyTorch oder einem Werkzeug wie Edge Impulse.
3. Es für das Zielgerät optimieren. Typische Schritte sind Quantisierung (Gewichte als 8-Bit-Ganzzahlen statt 32-Bit-Gleitkommazahlen speichern), Pruning und das Kompilieren für einen bestimmten Beschleuniger.
4. Es bereitstellen, als Datei oder Firmware-Image auf dem Gerät.
5. Inferenz in einer Schleife ausführen: Sensor lesen, vorverarbeiten (Bild skalieren, FFT berechnen), Modell ausführen, nachbearbeiten (Schwellenwerte anwenden, über die Zeit glätten).
6. Das Ergebnis veröffentlichen und gelegentlich Stichproben für das erneute Training hochladen.
7. Das Modell aktualisieren, wenn die Genauigkeit driftet, mit einem kontrollierten Rollout.

In Schritt 6 trifft Edge AI auf IoT. Statt einen Videostream oder Tausende Beschleunigungswerte pro Sekunde zu übertragen, veröffentlicht das Gerät einige hundert Bytes, die beschreiben, was passiert ist.

Warum KI an der Edge ausführen

Es gibt Zielkonflikte. Edge-Geräte haben begrenzten Speicher und begrenzte Rechenleistung, daher müssen Modelle klein sein. Hunderte Geräte zu aktualisieren ist schwieriger als einen Cloud-Dienst. Und ein Modell im Feld lässt sich schwerer überwachen als eines im Rechenzentrum. Der Vergleich Edge AI vs. Cloud AI geht genauer darauf ein, wann welcher Ansatz gewinnt und wie hybride Designs beide kombinieren.

Hardware-Klassen für Edge AI

Edge AI umfasst eine große Bandbreite an Geräten. Ein nützliches Denkmodell sind vier Klassen:

1. Mikrocontroller (ESP32-S3, Boards mit Arm Cortex-M). Kilobytes an RAM, Milliwatt an Leistung, Modelle für Keyword Spotting, Gestenerkennung und Vibrationsklassifikation. Das ist die Welt von TinyML; siehe was TinyML ist.
2. Einplatinencomputer (Raspberry-Pi-Klasse). Sie führen kleine Bild- und Audiomodelle auf der CPU mit moderaten Bildraten aus und lassen sich einfach in Python programmieren.
3. Einplatinencomputer mit Beschleunigern (Coral Edge TPU, Hailo-Module). Ein dedizierter neuronaler Prozessor übernimmt das Modell und macht Objekterkennung in Echtzeit bei geringem Stromverbrauch praktikabel.
4. GPU-Edge-Module und Industrie-PCs (NVIDIA Jetson, PCs mit GPUs). Mehrere Kamerastreams, größere Modelle, Segmentierung und Posenschätzung.

Wählen Sie die niedrigste Klasse, die Ihre Anforderungen an Genauigkeit und Latenz erfüllt: Sie ist günstiger, verbraucht weniger Strom und hat weniger bewegliche Teile. Der Vergleich von Edge-AI-Hardware stellt konkrete Boards vor.

Typische Anwendungsfälle für Edge AI

• Bildverarbeitung: Personen- und Fahrzeugerkennung, Überwachung von Sicherheitszonen, Fehlerinspektion, Zählung und Belegung.
• Audio: Keyword Spotting, ungewöhnliche Maschinengeräusche, Glasbruchererkennung.
• Vibration und Strom: Lagerverschleiß, Unwucht und Fehlausrichtung an Motoren und Pumpen.
• Umwelt: aus CO2- und Temperaturmustern abgeleitete Belegung, Leckageerkennung.
• Industrielle Steuerung: virtuelle Sensoren, die einen Wert schätzen, dessen direkte Messung teuer ist.

In jedem Fall verwandelt das Gerät ein dichtes Signal in ein spärliches, aussagekräftiges Ereignis.

Inferenzergebnisse veröffentlichen, keine Rohdaten

Die wichtigste Designentscheidung bei Edge AI für IoT ist, was über die Leitung geht. Eine gute Inferenznachricht ist klein, mit Zeitstempel versehen und selbstbeschreibend:

{
  "ts": "2026-10-16T08:15:02Z",
  "device": "pump-07",
  "model": "vib-anomaly-v3",
  "label": "bearing_wear",
  "score": 0.87,
  "window_s": 2.0
}

Verwenden Sie eine Topic-Hierarchie, die das Gerät in seinen Kontext stellt, etwa site/area/line/device/inference, und behalten Sie Rohdaten lokal, sofern kein Abonnent sie wirklich braucht. In der Fabrik ist das der Unified Namespace (UNS): Die ISA-95-Hierarchie Enterprise → Site → Area → Line → Cell wird zur Topic-Struktur auf dem MQTT-Broker, zum Beispiel acme/werk-stuttgart/montage/linie-1/zelle-3/inference, und Predictive-Maintenance-Ergebnisse stehen neben SPS- und MES-Daten bereit. ConnectMQ zum Beispiel erkennt Topic-Hierarchien im ISA-95-Stil und gruppiert Geräte in seiner Geräteansicht nach Standort, Bereich und Linie, was sich auszahlt, sobald Sie mehr als eine Handvoll Edge-Knoten haben. Ein Cloud-MQTT-Broker verteilt das Ergebnis dann an Dashboards, Alarmierung, Historians und Cloud-Modelle, ohne dass das Edge-Gerät wissen muss, wer zuhört.

Beispiel: ein Edge-Inferenz-Publisher in Python

Das folgende Skript zeigt das Muster auf einem beliebigen Linux-Edge-Gerät. Die Funktion infer() ist ein Platzhalter, den Sie durch TensorFlow Lite, ONNX Runtime oder eine Hersteller-Runtime ersetzen. Es veröffentlicht nur, wenn sich das Label ändert, oder alle 60 Sekunden als Heartbeat, was den Datenverkehr gering hält.

pip install "paho-mqtt>=2.0" numpy

import json
import time
import uuid
from datetime import datetime, timezone

import numpy as np
import paho.mqtt.client as mqtt

RUN = uuid.uuid4().hex[:8]
TOPIC = f"connectmq/demo/{RUN}/site1/pumps/pump-07/inference"
MODEL = "vib-anomaly-v3"


def read_window():
    """Placeholder sensor read: 2 s of vibration at 1 kHz."""
    t = np.arange(2000) / 1000
    signal = np.sin(2 * np.pi * 50 * t) + 0.3 * np.random.randn(t.size)
    if np.random.rand() < 0.1:
        signal += 0.8 * np.sin(2 * np.pi * 180 * t)   # simulated fault harmonic
    return signal


def infer(window):
    """Placeholder model: energy in a fault band. Replace with a real runtime."""
    spectrum = np.abs(np.fft.rfft(window))
    band = spectrum[170 * 2:190 * 2].sum() / spectrum.sum()
    score = float(min(1.0, band * 8))
    return ("bearing_wear" if score > 0.5 else "normal"), score


client = mqtt.Client(mqtt.CallbackAPIVersion.VERSION2, client_id=f"pump-07-{RUN}")
client.connect("broker.connectmq.com", 1883, keepalive=60)
client.loop_start()
print("publishing to", TOPIC)

last_label, last_sent = None, 0.0
while True:
    label, score = infer(read_window())
    now = time.time()
    if label != last_label or now - last_sent > 60:
        msg = {
            "ts": datetime.now(timezone.utc).isoformat(timespec="seconds"),
            "device": "pump-07",
            "model": MODEL,
            "label": label,
            "score": round(score, 3),
            "window_s": 2.0,
        }
        client.publish(TOPIC, json.dumps(msg), qos=1)
        print(msg)
        last_label, last_sent = label, now
    time.sleep(1)

Abonnieren Sie das ausgegebene Topic in einem anderen Terminal, um die Events zu sehen:

mosquitto_sub -h broker.connectmq.com -p 1883 -i edge-viewer-5d1e -t 'connectmq/demo/<run-id>/#' -v

Der kostenlose öffentliche MQTT-Broker ist ideal für einen solchen Test, doch alles, was dort veröffentlicht wird, ist für jeden sichtbar, der das Topic abonniert; er ist für Tests und Prototypen gedacht, nicht für Produktivdaten. Verwenden Sie für echte Geräte Ihre eigenen Broker-Zugangsdaten und TLS auf Port 8883.

Edge-AI-Fallstricke, die Sie einplanen sollten

1. Trainingsdaten, die nicht zum Feld passen. Labordaten bilden selten echte Beleuchtung, echtes Rauschen oder die echte Montage ab. Sammeln Sie früh Daten von eingesetzten Sensoren.
2. Keine Modellversion in den Nachrichten. Ohne sie können Sie nicht feststellen, welches Modell einen falschen Alarm ausgelöst hat.
3. Unbemerkte Drift. Veröffentlichen Sie Konfidenzwerte und regelmäßige Statistiken, damit Sie erkennen, wann das Modell unsicher wird.
4. Zu viel veröffentlichen. Jede Inferenz mit voller Rate zu senden macht den Bandbreitenvorteil zunichte. Veröffentlichen Sie bei Änderungen, bei Schwellenwerten oder mit einem langsamen Heartbeat.
5. Kein Update-Pfad. Planen Sie vor dem ersten Deployment, wie ein neues Modell auf die Geräte gelangt; ML-Modelle auf Edge-Geräten bereitstellen behandelt die Optionen.

Einen umfassenderen Überblick darüber, wo Edge-Modelle neben Cloud-Analysen und LLM-Agenten stehen, bietet der Leitfaden zu KI und IoT.

Starten Sie mit ConnectMQ

Edge-AI-Geräte brauchen einen verlässlichen Ort für ihre Ergebnisse. ConnectMQ ist ein verwalteter MQTT-Broker, der MQTT 3.1.1 und 5.0 über TCP, TLS und WebSockets unterstützt und einen Live-Topic-Explorer bietet, in dem Sie Inferenz-Events eintreffen sehen. Erstellen Sie einen Broker im kostenlosen Serverless-Plan unter app.connectmq.com, ohne Kreditkarte, und richten Sie Ihre Edge-Geräte darauf aus.

Häufig gestellte Fragen

Was ist Edge AI, einfach erklärt?

Edge AI bedeutet, dass ein Gerät ein trainiertes Machine-Learning-Modell selbst ausführt, nah an seinen Sensoren, statt die Daten zur Analyse an einen entfernten Server zu senden. Anschließend meldet es das Ergebnis.

Ist Edge AI dasselbe wie TinyML?

TinyML ist ein Teilbereich von Edge AI, der sich auf Mikrocontroller mit sehr wenig Speicher und Energie konzentriert. Edge AI umfasst auch größere Geräte wie Raspberry-Pi-Boards, Beschleuniger und GPU-Module.

Braucht Edge AI trotzdem die Cloud?

In der Regel ja, aber für andere Aufgaben: Training, Flottenüberwachung, Langzeitspeicherung und das Zusammenführen von Ergebnissen vieler Standorte. Die Edge übernimmt die Echtzeit-Inferenz, die Cloud alles, was von einer globalen Sicht profitiert.

Warum MQTT für Edge-AI-Ergebnisse nutzen?

Inferenzergebnisse sind kleine, ereignisgesteuerte Nachrichten, die viele Systeme konsumieren möchten. Das Publish/Subscribe-Modell von MQTT, die QoS-Stufen und der geringe Overhead passen sehr gut zu diesem Muster.