IoT İçin Edge AI ve Bulut Yapay Zeka: Gecikme, Gizlilik, Maliyet ve Hibrit Desen

Edge AI ve bulut yapay zeka arasındaki seçim, her IoT makine öğrenimi projesindeki ilk mimari kararlardan biridir; yanlış verildiğinde daha sonra gecikmeli uyarılar, yüksek bant genişliği faturaları veya dağıtımı engelleyen gizlilik incelemeleri olarak kendini gösterir. Bu karşılaştırma, her yaklaşımın gecikme, gizlilik, maliyet ve model boyutu açısından nerede öne çıktığını açıklıyor, karar vermeniz için bir kontrol listesi sunuyor ve edge sonuçlarının MQTT üzerinden bulut modellerine aktığı hibrit bir deseni gösteriyor.

Kısaca İki Yaklaşım

Edge AI, çıkarımı cihazda veya yanındaki bir ağ geçidinde çalıştırır. Sensör verisi yerelde kalır ve cihaz sonuçları yayınlar: bir sınıf etiketi, bir anomali skoru, bir sayım. Temel bir girişe ihtiyacınız varsa edge AI nedir yazısıyla başlayın.

Bulut yapay zeka, veriyi modellerin pratikte sınırsız hesaplama gücüyle çalıştığı sunuculara gönderir. Cihaz bir veri kaynağıdır; zekâ merkezde yaşar.

Pratikte çok az üretim sistemi tamamen birinden ibarettir. Asıl yararlı soru, hangi kararların nereye ait olduğudur.

Edge AI ve Bulut Yapay Zeka: Yan Yana Karşılaştırma

Bu satırların hiçbiri tek başına belirleyici değildir. Onlarca milisaniye içinde tepki vermesi gereken bir güvenlik duruşu, maliyetten bağımsız olarak uca aittir. Her tesisten geçmiş veriye ihtiyaç duyan filo çapında bir tahmin ise gecikmeden bağımsız olarak buluta aittir.

Gecikme ve Güvenilirlik

Uçta çıkarım cihazın hesaplama gücüyle sınırlıdır ve bu sınır öngörülebilirdir. Bulutta çıkarım ise öngörülebilir olmayan ağa bağlıdır. Hücresel bağlantılar, sıkışık fabrika Wi-Fi'ı ve bakım pencerelerinin hepsi gecikme veya kesinti ekler. Bir tahmini izleyen eylem fizikselse, örneğin bir parçayı reddetmek, bir konveyörü durdurmak veya bir vanayı açmaksa, kararı uçta tutun ve bulutu sonucun alıcısı olarak görün.

Gizlilik ve Veri Yönetişimi

Kameralar ve mikrofonlar en net örneklerdir. İnsanların videosunu üçüncü taraf bir buluta göndermek onay, saklama süresi ve veri yerleşimi sorularını gündeme getirir. Algılamayı yerelde çalıştırıp "B bölgesinde 2 kişi" yayınlamak bunların çoğundan kaçınmanızı sağlar. Aynı mantık, bir üreticinin gizli saydığı üretim verileri için de geçerlidir: bir hata oranı, yeni bir ürünün görüntülerinden daha az hassastır.

Maliyet: Para Nereye Gidiyor

Edge AI maliyeti başa, yani donanıma ve mühendisliğe yükler: hızlandırıcılar, dayanıklı muhafazalar ve modelleri küçültme emeği. Bulut yapay zeka ise maliyeti veri hacmiyle ölçeklenen sürekli bir gidere dönüştürür. Video gibi sürekli ve yüksek hızlı sinyaller için her şeyi buluta akıtmak genellikle pahalı seçenektir. Birkaç dakikada bir ölçüm gibi seyrek veriler içinse bulutta çıkarım daha ucuz olabilir, çünkü her tesiste daha akıllı donanımdan kaçınırsınız. Genel geçer kurallara güvenmek yerine her ikisini de kendi veri hızlarınızla hesaplayın.

Model Boyutu ve Yetenek

Mikrodenetleyiciler kilobaytlarla ölçülen modeller çalıştırır; GPU edge modülleri milyonlarca parametreli algılama modelleri çalıştırır; bulut ise büyük dil modelleri dahil karşılayabileceğiniz her şeyi çalıştırır. Görev geniş dünya bilgisi, uzun bağlam veya birçok kaynak üzerinde akıl yürütme gerektiriyorsa buluta aittir. "Bu ses anormal mi" gibi dar bir algılama göreviyse, küçük bir edge modeli çoğu zaman aynı derecede doğrudur. TinyML nedir yazısı bunun ne kadar küçülebileceğini açıklıyor.

Karar Kontrol Listesi

Sisteminizin yaptığı her tahmin için şu soruları yanıtlayın:

1. Bir eylem bir saniye içinde tahmine bağlı mı? Evetse, uç.
2. Sistem internet olmadan çalışmaya devam etmeli mi? Evetse, uç.
3. Ham veri hassas mı veya mevzuata tabi mi? Evetse uç tercih edin, türetilmiş sonuçları yayınlayın.
4. Ham veri hızı yüksek mi (video, ses, kHz sensörler)? Evetse uç tercih edin.
5. Tahmin birçok cihazdan veya uzun bir geçmişten veri gerektiriyor mu? Evetse, bulut.
6. Model, cihaz sınıfınızın sahip olduğundan daha fazla bellek gerektiriyor mu? Evetse bulut ya da ağ geçidi katmanında bir edge cihaz.
7. Model her hafta değişecek mi? Bulutta yineleme daha kolaydır; uç sağlam bir güncelleme işlem hattı gerektirir.

Çoğu proje bir ayrımla sonuçlanır: algılama uçta, bağlam ve planlama bulutta.

Hibrit Desen: Edge Sonuçları MQTT Üzerinden Bulut Modellerine Akar

Hibrit mimarinin üç katmanı vardır:

1. Edge cihazlar algılama modellerini çalıştırır ve kompakt sonuçları site/area/line/device/inference gibi topic'lere yayınlar.
2. Bir broker bu sonuçları dağıtır. Cihazların onları kimin tükettiğini bilmesi gerekmez.
3. Bulut tüketicileri birçok cihazdan gelen sonuçlara abone olur ve ikinci aşama modeller çalıştırır: filo anomali tespiti, tahminleme, kök neden ilişkilendirmesi veya operatörler için olayları özetleyen bir LLM.

Bulut kararları geri de gönderebilir: yeni bir eşik, ham örnek talebi veya cihazın abone olduğu bir komut topic'ine yayınlanan bir model güncelleme bildirimi.

MQTT buna uygundur, çünkü edge sonuçları çok sayıda tüketicisi olan küçük ve sık olaylardır. Bir bulut MQTT broker katmanlar arasına doğal olarak oturur; böylece edge cihazlar TLS üzerinden dışarıya bağlanır ve tesis ağlarında hiçbir şey için gelen port açmak gerekmez.

Örnek: Bulut Tarafında Bir Toplayıcı

Bu Python çalışanı, bir önek altındaki tüm cihazlardan gelen çıkarım sonuçlarına abone olur ve filo genelinde basit bir ikinci aşama kuralı çalıştırır: aynı hattaki birkaç cihaz kısa bir zaman penceresi içinde anomali bildirirse, hat düzeyinde bir uyarı yayınlar. Bu tür bir ilişkilendirme, tek bir edge cihazın yapamayacağı bir şeydir.

import json
import time
import uuid
from collections import defaultdict, deque

import paho.mqtt.client as mqtt

PREFIX = "connectmq/demo/3f9c1a7e"          # kendi benzersiz önekinizi kullanın
SUB = f"{PREFIX}/+/+/+/inference"           # site/area/device/inference
WINDOW_S, MIN_DEVICES = 120, 2

recent = defaultdict(deque)                 # hat anahtarı -> (ts, device) deque'u


def on_connect(client, userdata, flags, reason_code, properties):
    print("connected:", reason_code)
    client.subscribe(SUB, qos=1)


def on_message(client, userdata, msg):
    _, _, _, site, area, device, _ = msg.topic.split("/")
    result = json.loads(msg.payload)
    if result.get("label") == "normal":
        return
    key = f"{site}/{area}"
    now = time.time()
    q = recent[key]
    q.append((now, device))
    while q and now - q[0][0] > WINDOW_S:
        q.popleft()
    devices = {d for _, d in q}
    if len(devices) >= MIN_DEVICES:
        alert = {"scope": key, "devices": sorted(devices), "window_s": WINDOW_S,
                 "reason": "correlated anomalies"}
        client.publish(f"{PREFIX}/{site}/{area}/alerts", json.dumps(alert), qos=1)
        print("ALERT", alert)
        q.clear()


client = mqtt.Client(mqtt.CallbackAPIVersion.VERSION2, client_id=f"cloud-agg-{uuid.uuid4().hex[:6]}")
client.on_connect = on_connect
client.on_message = on_message
client.connect("broker.connectmq.com", 1883, keepalive=60)
client.loop_forever()

Anomali bildiren iki edge cihazı simüle edin:

P=connectmq/demo/3f9c1a7e
mosquitto_pub -h broker.connectmq.com -p 1883 -i dev-a-81 -q 1 \
  -t "$P/site1/pumps/pump-01/inference" -m '{"label":"bearing_wear","score":0.81}'
mosquitto_pub -h broker.connectmq.com -p 1883 -i dev-b-82 -q 1 \
  -t "$P/site1/pumps/pump-02/inference" -m '{"label":"cavitation","score":0.77}'

Toplayıcı bir hat uyarısı yazdırır ve yayınlar. Tek bir çalışan yetmediğinde, broker'ın mesajları aralarında yük dengelemesi için $share/agg/connectmq/... gibi bir MQTT 5 paylaşımlı aboneliğiyle birkaç kopya çalıştırın; ConnectMQ'da paylaşımlı abonelikler Serverless (Paid) planından itibaren kullanılabilir. Bunun gibi durum tutan bir ilişkilendiricinin, aynı hatta ait mesajların aynı çalışana ulaşmasına ihtiyaç duyduğunu unutmayın; bu yüzden körü körüne paylaşmak yerine topic'e göre bölümleyin.

Yaygın Hibrit Hatalar

1. Ham veriyi "her ihtimale karşı" akıtmak. Ham örnekleri yalnızca talep üzerine veya anomali durumunda, ayrı bir topic üzerinden gönderin.
2. Zaman açısından kritik kararları buluta bırakmak. Refleksi uçta tutun, bulutu politika için kullanın.
3. Sürüm alanlarının olmaması. Bulut modellerinin değişiklikleri hesaba katabilmesi için her sonuç, onu üreten model sürümünü belirtmelidir.
4. Mesaj boyutu sınırlarını yok saymak. Sonuçlar broker'ınızın sınırının epey altında olmalıdır; herkese açık test alanında bu sınır 64 KB'tır.
5. Kimlik doğrulamasız komut topic'leri. Cihaz davranışını değiştirebilecek her şey, kimlik bilgileri ve TLS ile özel bir broker üzerinden geçmelidir.

Bu katmanların eksiksiz bir AIoT sistemine nasıl yerleştiği hakkında daha fazlası için yapay zeka ve IoT rehberini okuyun; donanım seçimine geldiğinizde kartları edge AI donanımı karşılaştırması yazısında kıyaslayın.

ConnectMQ ile Uç ve Bulutu Bağlayın

Hibrit desen yalnızca uç ile bulut arasındaki bağlantı güvenilir ve güvenli olduğunda işe yarar. ConnectMQ, MQTT 5, 8883 portunda TLS ve ücretli planlarda paylaşımlı abonelikler sunan tam yönetilen bir MQTT hizmeti sağlar; böylece broker operasyonları yerine modellere odaklanabilirsiniz. app.connectmq.com adresinde ücretsiz Serverless planında kredi kartı gerektirmeden bir broker oluşturun.

Sık Sorulan Sorular

Edge AI, bulut yapay zekadan daha mı iyi?

Genel olarak hiçbiri daha iyi değildir. Edge AI gecikme, çevrimdışı çalışma ve gizlilikte; bulut yapay zeka ise model boyutu, cihazlar arası bağlam ve yineleme kolaylığında öne çıkar. Çoğu IoT sistemi ikisini birlikte kullanır.

Bulutta başlayıp daha sonra uca geçebilir miyim?

Evet, bu yaygın bir yoldur. Önce sonuç mesajı formatını tasarlayın; böylece çıkarım cihaza taşındığında bulut tüketicileri aynı topic'lerde aynı mesajları almaya devam eder.

Bir edge cihaz buluta ne göndermeli?

Zaman damgası, güven değeri ve model sürümü içeren çıkarım sonuçlarını, periyodik bir kalp atışını ve yalnızca talep edildiğinde veya bir anomali algılandığında ham örnekleri.

Hibrit edge-bulut yapay zeka bir mesaj broker'ı gerektirir mi?

Kesin olarak gerektirmez, ancak bir broker cihazları tüketicilerden ayırır, QoS ve oturumlarla kesintili bağlantıyı yönetir ve cihazlara dokunmadan yeni bulut tüketicileri eklemenize olanak tanır.