Vaka dosyası LS-4
Varlık: Filtre skid F-220, yıllık kartuş değişimi
Permit tipi: Elektronik LOTO / confined-space bitişik
Tetikleyici: Planlayıcı, onaylı izolasyon planı PDF’inden “zanaat brief’i için izolasyon adımlarını özetle” diye on-prem bakım asistanına sordu
Sonuç: İki bleed vanası zanaat kartından düştü; crack-open’da artık basınç bulundu; stop-work çağrıldı; yaralanma yok
Bu CMMS prompt injection’ı tool call’lara değildir, HITL timeout auto-approve değildir, MES free-text hijyeni değildir ve elektronik permit platform genel bakışı değildir. İzolasyon gerçeğinin üretken sıkıştırılmasıdır—enerji-kontrol adımlarını düşürürken profesyonel ses çıkaran özetler.
Asistanın yaptığı
Kaynak plan birincil block vanalarını, bleed’leri, kilit noktalarını ve doğrulama sırasını listeliyordu. Model daha kısa bir “sahaya uyumlu” liste döndü: majör block’lar, bir drain, PPE hatırlatması, “sıfır enerjiyi doğrula.” İkincil header’daki bleed çifti—birincil yolun tek başına hapsolmuş hacim bırakması nedeniyle gerekli—hiç görünmedi. Brief’e klasörden fazla güvenen bir zanaat lideri neredeyse doğrulama yöntemi olacaktı.
Tekrarlayan arıza modları
Uzunluk yanlılığı. Yardımcı olmak üzere eğitilmiş modeller listeleri sıkıştırır. İzolasyon planları blog taslağı değildir; her etiketli nokta yük taşır.
Eşanlam çöküşü. “Beslemeyi izole et”, P&ID her ikisini de gerektirirken iki vanayı sessizce tek ifadede birleştirebilir.
Doğrulama silme. Göstergeleri, crack-open noktalarını ve beklenen okumaları adlandırmadan “sıfır enerjiyi kanıtla” bir slogan, bir adım değildir.
Yetki karışıklığı. Bir ePTW kimliğinin yanında oturan sohbet cevabı resmi görünür. Kontrollü plana karşı hash veya adım-sayısı kapısı olmadan iyi gramerli fan fiction’dır.
İş akışına ait kontroller
- Serbest biçimli özetlemeyi zanaat kayıt belgesi olarak yasaklayın. AI’ya yalnızca kontrollü izolasyon planı sürümünü getirip gösterme—veya bir taslağı ona karşı diff etme—izni verin.
- Sert kapı: zanaat kartı adım sayısı ve kilit kimlikleri onaylı planla eşleşmelidir; uyuşmazlık permit çıkışını engeller.
- Üretilen herhangi bir metinde adlandırılmış doğrulama noktaları (gösterge ID’leri, bleed etiketleri) zorunlu kılın; genel “sıfır enerjiyi doğrula” kapanışlarını çıkarın.
- Prompt’u, kaynak belge revizyonunu ve çıktı hash’ini permit’in yanına kaydedin—prosedür MoC izi gibi.
- AI izolasyon diline dokunduğunda çift insan kontrolü: planlayıcı + alan yetkilisi, “bir kişi ve kendinden emin bir paragraf” değil.
Tesislerin yine de buna uzanmasının nedeni
İzolasyon PDF’leri uzundur. Vardiyalar kısadır. “Okunabilir yapan” asistanlar güvenlik kültürü gibi hisseder. Yalnızca okunabilir sürüm tam ise kültürdür. Bir bleed’i atan daha kısa liste sadeleştirme değildir. Görünmez mürekkeple çizilmiş yeni bir enerji kaynağıdır.
Elektronik permit-to-work sistemleri iş akışı durumunu ve imzaları sahiplenir. Interlock bypass denetimleri geçici olup altyapıya dönüşeni sahiplenir. RCA hipotezi taslağı çizen bakım copilots’ları hâlâ mühendis kanıtı ister. Bu vaka konu izolasyon olduğunda bir tehlike olarak LLM özetlemesini sahiplenir.
Asistanın permit anlatısını kapatmasına izin vermeyin. Zaten onayladığınız planı getirsin—ve o planı insanları hayatta tutan vanalardan daha kısa yapmayı reddetsin.