Endüstriyel RAG sistemleri "kılavuzlarınızla sohbet edin" olarak satılır. Kılavuzlar değişir. Bir valf tork tablosu güncellenir. Bir LOTO sekansı bir blind kazanır. Bir tedarikçi PDF'i, dosya adını değiştirmeden sayfaları değiştirir. Asistanın index'i hâlâ geçen çeyreğin metnini embed ediyorsa, operatörler emekliye ayrılmış gerçeği alıntılayan akıcı yanıtlar alır. Citation ledger'ları, olay sonrası tek bir kötü alıntıyı yakalar. Bu brief, upstream arızayı sahiplenir: retrieval invalidasyonu olmadan SOP değişikliği.
Neden bir diff bir AI olayıdır
Kontrollü bir doküman revize edildiğinde, üç sistem birlikte hareket etmelidir:
- Yetkili depo (authoritative store) — yeni revizyon ID'si, geçerlilik tarihi, emeklilik watermark'ı.
- Chunk/index yenilemesi — eski embedding'ler kaldırılır veya non-retrievable olarak işaretlenir.
- Runtime citation'ları — yanıtlar yalnızca başlığı değil, revizyonu pin'lemeli.
Bunlardan herhangi birini kaçırırsanız, doküman kontrol memurunuzdan daha kendinden emin görünen bir chatbot'a sahip olursunuz.
Diff hiçbir zaman index'e ulaşmıyorsa, model memoyu almamıştır.
Revizyon listeleri dekoratif değildir—retrieval allowlist'leridir.
Şimdiden sevkiyata çıkan arıza modları
| Arıza | Operatörlerin deneyimlediği | | --- | --- | | Dosya-adı-sabit değişim | Asistan "SOP-441"i dünün adımlarıyla alıntılar | | Kısmi yeniden-embed | Bir yanıtta rev C ve rev E'den karışık chunk'lar | | Geçerlilik tarihi yok | Gelecek-tarihli SOP'lar erken—ya da geç—alınır | | Shadow PDF paylaşımları | Kontrolsüz kopyalar kontrollü kütüphaneyi geride bırakır |
Search time'ı "azaltan", anonimleştirilmiş bir bakım copilot'u, share drive'da aynı nesne adını koruyan bir PDF değişiminden sonra sessizce yanlış bir tork öğretti. İnsanlar footer'ı kontrol ederdi. Model benzerliği kontrol etti.
Bilgiyi tesis seviyesinde tutan kontroller
- Doküman revizyonu yayınını bir pipeline olayı olarak ele alın—etkilenen chunk'ları yeniden inşa edin veya cerrahi olarak silin.
- Citation UI'ının yalnızca başlığı değil, revizyon + geçerlilik tarihini göstermesini zorunlu kılın.
- Asistan-okunabilir corpus'lar için kontrolsüz share'lerin indekslenmesini yasaklayın.
- Büyük emniyet SOP'larını diff-gate'leyin: revizyon AI için geçerli olarak işaretlenmeden önce RAG yenilemesinin tamamlandığına dair insan onayı.
- Haftalık denetleyin: yanıtları güncel footer'lara karşı örnekleyin.
Komşu çitler
Citation ledger'ları tekil-yanıt provenance tiyatrosunu sahiplenir. MES free-text hijyeni comment injection'ı sahiplenir. Override telemetrisi insan force etiketlerini sahiplenir. Soft-sensor kartları model kapılarını sahiplenir. Bu sayfa doküman değişikliğini RAG MoC'u olarak sahiplenir. Bir asistan go-live'ını kutlayıp SOP delta'larının sessiz yalanlar olarak birikmesine izin vermeyin.