산업용 RAG 시스템은 “매뉴얼과 대화하세요”로 팔립니다. 매뉴얼은 변합니다. 밸브 토크 테이블이 업데이트됩니다. LOTO 시퀀스에 블라인드가 추가됩니다. 벤더 PDF가 파일명은 바꾸지 않은 채 페이지를 교체합니다. 어시스턴트의 인덱스가 여전히 지난 분기의 텍스트를 임베드하고 있다면, 운전원은 폐지된 진실을 인용하는 유창한 답변을 받게 됩니다. 인용 원장(citation ledger)은 사후에 하나의 잘못된 인용을 잡아낼 뿐입니다. 이 브리프는 업스트림 실패—검색 무효화 없는 SOP 변경—을 소유합니다.
왜 diff가 AI 이벤트인가
통제문서가 개정될 때, 세 시스템이 함께 움직여야 합니다:
- 권위 저장소(authoritative store) — 새 리비전 ID, 유효일자, 은퇴 워터마크.
- 청크/인덱스 리프레시 — 오래된 임베딩 제거 또는 비검색 표시.
- 런타임 인용 — 답변은 제목만이 아니라 리비전을 핀해야 함.
이 중 하나라도 놓치면 문서관리 담당자보다 더 자신 있게 말하는 챗봇을 갖게 됩니다.
diff가 인덱스에 도달하지 않으면 모델은 메모를 받지 못한 것입니다.
리비전 목록은 장식이 아니라 검색 허용목록(allowlist)입니다.
이미 출하되고 있는 실패 모드
| 실패 | 운전원이 경험하는 것 | | --- | --- | | 파일명은 그대로인 교체 | 어시스턴트가 “SOP-441”을 어제 절차로 인용 | | 부분 재임베딩 | 한 답변에 rev C와 rev E의 혼합 청크 | | 유효일자 없음 | 미래일자 SOP가 너무 일찍—또는 너무 늦게—검색됨 | | 섀도 PDF 공유 | 통제되지 않은 복사본이 통제 라이브러리보다 우선순위 |
“검색 시간을 줄였다”던 익명의 정비 코파일럿은, PDF 교체가 공유 드라이브에서 같은 객체명을 유지한 뒤 조용히 잘못된 토크를 가르쳤습니다. 인간이라면 하단 각주를 확인했을 것입니다. 모델은 유사도를 확인했습니다.
지식을 플랜트급으로 유지하는 통제
- 문서 리비전 발행을 파이프라인 이벤트로 취급합니다—영향받은 청크를 재구축하거나 정밀하게 삭제합니다.
- 인용 UI가 제목만이 아니라 리비전+유효일자를 표시하도록 요구합니다.
- 어시스턴트가 읽는 코퍼스에 통제되지 않은 공유 자료 색인을 금지합니다.
- 주요 안전 SOP는 diff-게이트를 둡니다: 리비전이 AI에 유효로 표시되기 전 RAG 리프레시 완료에 대한 인간 확인.
- 매주 감사합니다: 답변을 현재 각주와 대조하여 샘플링합니다.
인접 경계
인용 원장은 단일답변 출처 연극을 소유합니다. MES 자유텍스트 위생은 코멘트 인젝션을 소유합니다. 오버라이드 텔레메트리는 인간 강제 라벨을 소유합니다. 소프트센서 카드는 모델 게이트를 소유합니다. 이 페이지는 문서 변경을 RAG MoC로서 소유합니다. 어시스턴트 출시를 자축하고서 SOP 델타가 조용한 거짓으로 쌓이도록 두지 마십시오.