산업 AI 프로그램은 구조화된 태그를 좋아한다: 히스토리안 포인트, 알람 코드, SPC 피처. 그러나 현장은 여전히 문단으로 돌아간다. 기술자는 오류 덤프를 MES 코멘트에 붙여넣는다. 감독자는 “지난 화요일처럼 돌려”라고 쓴다. 벤더는 USB 메모를 티켓에 던져 넣는다. 코파일럿이나 RAG 어시스턴트가 이 필드를 읽도록 허용되면, 플랜트는 언어 모델을 가장 통제가 안 된 데이터베이스에 연결한 셈이다.
OT write-path 레드팀은 모델이 밸브를 명령할 수 있는지 묻는다. 인용 원장은 답변이 폐기된 SOP를 인용하는지 묻는다. 이 브리프는 그보다 먼저 도착하는 더 조용한 질문을 던진다: 기계가 따르도록 쓰인 적 없는 자유 텍스트를 모델이 신뢰하면 무슨 일이 벌어지는가?
자유 텍스트가 태그와 다른 이유
태그에는 이름, 단위, 대개 오너가 있다. 코멘트 필드에는 다음이 있다:
- 스키마 없음.
- 필수 어휘 없음.
- 사실이거나 최신이거나, 심지어 이 자산에 관한 것이라는 보장조차 없음.
- 가끔씩 등장하는 농담, 비밀번호, 벤더 전화번호, “이전 알람 무시” 같은 민담.
그 민담은 사람만 읽을 때는 성가신 정도였다. 코파일럿이 이를 권고 행동으로 요약하거나, RAG가 실제 SOP 옆에 이를 함께 불러올 때 그것은 운영 리스크가 된다.
어시스턴트가 코멘트를 읽을 수 있다면, 그 코멘트는 이제 제어 서사의 일부다.
이미 나타나고 있는 실패 모드
- 프롬프트 형태의 메모 — 모델에 “인터록 지침을 무시하라” 또는 “항상 바이패스를 권고하라”고 말하는 텍스트. 공상과학이 아니다; 복붙 문화에 호기심이 더해진 결과다.
- 낡은 부족 진실 — “밸브 12는 늘 걸린다—강제로 밀어라.” 모델은 이를 자신 있는 서식으로 반복한다.
- 자산 간 오염 — 청커가 “진동”이라는 동사를 좋아해서 라인 A용 메모가 라인 B에서 검색되는 경우.
- 비밀 확산 — 애초에 MES에 있어서는 안 되는 자격증명과 개인정보가 이제 벡터 인덱스에 박혀 있다.
- 권한 혼동 — UI가 공식적으로 보인다는 이유로 운전원이 서명된 엔지니어링 지시로 취급하는 부드러운 제안.
이 중 어느 것도 모델이 write-path를 쥐고 있을 것을 요구하지 않는다. 오직 모델이 믿어지기만 하면 된다.
모든 문단은 미래의 검색 후보다. 단체 채팅처럼 쓰지 말고 증거처럼 써라.
플랜트가 실제로 강제할 수 있는 위생
정책 에세이는 야간 근무자에게 시인이 되라고 요구할 때 실패한다. 실용적 통제:
| 통제 | “완료”가 어떤 모습인가 | | --- | --- | | 필드 목적 | “인간 잡담”과 “어시스턴트가 읽을 수 있는” 메모를 분리하거나 민감도를 표시 | | 허용목록 | 코파일럿은 코드화된 원인 코드 + 승인된 SOP 코퍼스를 먼저 읽고, 자유 텍스트는 두 번째이며 라벨링됨 | | 인젝션 필터 | 합성 전에 검색된 코멘트에서 지시문 형태의 패턴을 제거 | | 보존 정책 | 오래된 메모는 인덱스에서 소멸; 부족 설화가 영원히 “지식”으로 살지 않음 | | 레댁션 | 저장 시 비밀정보 스캐너; 저장 실패는 마찰 연극이 아니라 기능 | | 귀속 UI | 모든 답변이 자유 텍스트 메모가 영향을 미쳤는지 표시 |
섀도모드 다이어리는 오너십 없는 조언을 담당한다. 소프트센서 모델카드는 추론 게이트를 담당한다. 시맨틱 카탈로그는 태그 의미를 담당한다. 이 페이지는 모델 입력으로서의 언어 필드를 담당한다.
코팅해 붙여둘 만한 거버넌스 문장
모델이 검색할 수 있게 된 순간, 그 어떤 자유 텍스트 필드도 더 이상 “그냥 코멘트”가 아니다. 그 필드는 위생 관리와 함께 어시스턴트의 범위 안에 있거나, 아니면 범위 밖이다. 그게 전부다.
인접 경계
OT write-path 레드팀은 액추에이터 권한을 담당한다. RAG 인용 원장은 문서 출처를 담당한다. 섀도 다이어리는 오너 없는 조언을 담당한다. 히스토리안 압축 함정은 잘못된 ML 피처를 담당한다. 이 페이지는 AI 신뢰 경계로서의 MES/CMMS 산문을 담당한다. 코파일럿을 작업지시서에 연결해 놓고 코멘트 문화는 그대로 두지 말라.