자동화의 진짜 문제는 '신뢰'
기업 현장에서 자동화가 막히는 지점은 성능이 아니라 신뢰입니다. "AI가 했다"는 말만으로는 마감 자료도, 경영 보고도 쓸 수 없습니다. 담당자는 늘 묻습니다. 무엇을 근거로? 누가 승인했는데?
증거 기반 자동화(Evidence-based Automation)는 이 질문에 항상 답할 수 있게 만드는 운영 방식입니다. 세 가지 요소로 구성됩니다.
1. TaskCard — 무엇을 할지에 대한 계약
자동화 작업을 시작하기 전에, 무엇을 / 어떤 범위에서 / 무엇은 하지 않을지를 명시한 계약(TaskCard)을 먼저 만듭니다. 범위를 벗어난 행위는 애초에 실행되지 않습니다. "알아서 더 해주는" 것은 위험이지 친절이 아니기 때문입니다.
2. EvidencePack — 결과에 대한 증거
모든 산출물에는 근거가 따라붙습니다.
- 어떤 데이터를, 언제, 어디서 읽었는가
- 어떤 규칙·기준으로 처리했는가
- 중간 판단의 입력과 출력은 무엇이었는가
증거 없이 "완료"는 없습니다. 그래야 나중에 "이 숫자 어디서 나왔어?"에 즉시 답할 수 있습니다.
3. 승인 게이트(HITL) — 적용에 대한 사람의 결정
분석과 제안은 자동으로 진행되지만, 실제 적용은 사람의 승인을 거칩니다. 위험도가 높은 변경(권한·결제·데이터 스키마 등)은 기본값이 '보류'이며, 승인 없이는 통과하지 못합니다.
왜 이렇게까지 하나
빠른 자동화는 쉽습니다. 어려운 것은 틀렸을 때 추적·복원이 되는 자동화입니다. 계약(TaskCard)·증거(EvidencePack)·승인(HITL)이 갖춰지면, 자동화는 "믿어달라"가 아니라 "확인해보라"로 바뀝니다.
이것이 단순한 스크립트 자동화와 운영에 쓸 수 있는 자동화의 차이입니다.
작게, 그러나 처음부터 제대로
규모는 작게 시작하되, 계약·증거·승인 구조는 처음부터 갖춥니다. 그래야 신뢰가 쌓이고, 그 신뢰 위에서만 적용 범위를 넓힐 수 있습니다.