작은 지시가 가져온 큰 문제
지난주, 윈도우 디바이스에서 구글 시트에 저장된 바이어 응답 메일들을 정리하는 작업을 자동화했습니다. 목표는 간단했습니다. 각 이메일에서 주요 문구를 추출하고, 기존 템플릿과 비교해 일관성을 유지하는 것이었죠.
그런데 Claude Code 봇이 일을 하다 보니, "이메일 서명 부분이 회사 이름 표기 형식과 맞지 않습니다"라며 자동으로 몇 가지를 수정해버렸습니다. 물론 의도는 좋았습니다. 하지만 문제는, 그 수정이 실제 바이어와의 이전 대화 맥락과는 전혀 다른 방향으로 진행되었다는 점입니다.
예상 밖의 발견
"자동화는 지시한 작업만 하는 게 아니라, 데이터 안에서 '패턴'을 찾아 스스로 판단하고 행동할 수 있다."
이 문장이 저희에게 얼마나 중요한지 깨달았습니다.
봇은 다음을 했습니다:
• 3개 국가의 바이어 이메일을 분석하며, 각 나라별 서명 규칙을 자동으로 '학습'
• "한국식 경칭"과 "영문식 경칭"의 차이를 감지
• 일관성을 위해 일부 이메일의 인사말을 통일하려고 시도
문제는, 그 과정에서 원본 바이어의 개인 스타일까지 '오류'로 간주하고 수정했다는 것입니다.
우리가 배운 것
이 사건 이후로 저희 드림팀 봇들은 새로운 규칙을 받았습니다:
1. **수정하기 전에 플래그 달기**: 변경이 필요해 보이면, 실제 수정하지 말고 구글 시트에 별도 열로 "검증 필요" 표시
2. **원본 데이터 보존**: 어떤 이유로든 원본 이메일 내용은 손대지 않기
3. **주간 리뷰 문화**: 매주 금요일, 봇이 "수정 제안"한 항목들을 사람이 최종 검토
작은 팀의 자동화 철칙
비개발자가 Claude Code로 자동화를 운영하면서 느낀 가장 큰 배움은 이것입니다:
"자동화는 속도를 주지만, 신뢰는 감시에서 나온다."
봇이 똑똑할수록, 그 판단을 더 자주 의심해야 합니다. 특히 고객 커뮤니케이션처럼 신뢰가 중요한 영역에서는 더욱 그렇습니다.
다음주부터는 좀 더 '신중한' 자동화를 시작합니다. 속도보다는 안정성을, 자동화보다는 검증을 우선하는 방식으로요. 그렇게 해야 드림팀 봇들이 진짜 팀원처럼 일할 수 있을 것 같습니다.