Edge kutu, satıcı dinamik batching açtıktan sonra %92 GPU kullanımına çıktı. Hurda yükseldi. Kök neden: çıkarım p99, soft sensor’ün varsaydığı 200 ms özellik penceresini aştı. PLC kontrol etmeye devam etti; model geçmişi yorumlamaya devam etti.
Fabrika katı edge AI demoları sıkça “on-prem çıkarım” satar. Bu brief daha dardır: kontrol çevrimi deadline’ını ihlal eden batching ve kuyruklama.
Kullanımdan önce deadline
Özellik zamanı vs sonuç zamanı. Özellikler t0’da zaman damgalıysa ve sonuç PLC hareketinden sonra t1’de geliyorsa kapalı döngü yardımınız yok—günlüğünüz var.
Jitter olarak batching. Daha büyük batch throughput artırır, kuyruk gecikmesini bozar. Çevrime çarpan kuyruk gecikmesidir.
Backpressure dürüstlüğü. Çıkarımı düşürmek veya tutmak açık olmalı. Sessiz kuyruk büyümesi operatör güveni üzerinden geç setpoint uydurur.
Traveler’a konacaklar
- Döngünün örnekleme süresine bağlı sert gecikme SLO’su (p50/p95/p99)—“gerçek zamanlı hissediyor” değil.
- Batch boyutu ve max kuyruk derinliği MoC kontrollü parametreler.
- “Bayat sonuç” atma kuralı yalnızca ML servis logunda değil PLC/OPC yolunda.
- Atma oranı yükselince alarm; yalnızca GPU sıcaklığında alarm verme.
Bu genel edge deployment folkloru veya vision ışık drift’i değildir. Döngünün yanında oturduğunu iddia eden AI için zamanlama bütünlüğüdür.
p99 zaten çevrimi yiyorsa GPU panelini yeşile boyamak için batch boyutunu yükseltme.