고객 이메일을 AI에 붙여 넣고 요청합니다. “답장을 정중한 영어로 써 줘.” 긴 이메일은 “핵심만 요약해 줘”라고 합니다.
회계사무소의 AI 사용은 이렇게 간단한 작업에서 시작됩니다. 그런데 이메일에 고객의 이름, 소득, 미납 세금, 사업 상황까지 들어 있다면 어떨까요? 답장 작성은 편해졌지만, 고객의 비공개 정보도 외부 서비스로 전달된 것입니다.
회사의 승인과 관리 없이 업무에 사용하는 AI를 ‘Shadow AI’라고 합니다. 개인 챗봇뿐 아니라 번역, 문서 요약, 회의록 작성 도구도 포함됩니다. 직원에게 나쁜 의도가 없어도, 사무실이 사용 현황을 모르면 고객 정보를 관리하기 어려워집니다.
“번역만 하려고 넣었어요.”
고객의 한국어 이메일을 영어로 바꾸려고 이전 대화까지 통째로 복사합니다. 아래쪽에 남아 있는 연락처와 재무정보도 함께 전달됩니다.
AI에 입력한 정보가 무조건 공개되는 것은 아닙니다. 하지만 서비스가 자료를 얼마나 보관하고 누가 접근할 수 있는지 모른다면, 고객에게 정보가 어떻게 보호되는지 설명하기 어렵습니다.
“엑셀 정리 좀 하려고요.”
수식을 만들거나 거래 내역을 분류하려고 실제 파일을 올립니다. 그 안에는 고객명, 직원별 급여, 계좌정보가 포함되어 있을 수 있습니다.
가상의 데이터 몇 줄이면 충분한 질문에 고객 자료 전체를 제공한 셈입니다. 필요한 부분만 사용하고 실제 이름과 숫자를 가상의 정보로 바꾸는 습관이 필요합니다.
“우리는 회사에서 승인한 AI를 쓰는데요?”
정식 도입도 사용 기준이 없으면 위험합니다. 이메일 작성용으로 승인한 AI에 급여 파일을 올리거나, 검토 없이 메일과 공유 폴더를 연결할 수 있습니다.
“학습에 사용하지 않는다”는 조건도 “자료를 보관하지 않는다”는 뜻은 아닙니다. 입력 가능한 자료, 보관 조건, 접근 권한을 따로 확인하셔야 합니다.
우선 직원들이 어떤 AI에 무엇을 입력하는지 확인하셔야 합니다. 승인된 도구와 허용 업무를 정하고, 미승인 AI에는 고객의 비공개 정보를 넣지 않도록 안내하셔야 합니다. 자료를 잘못 올렸을 때 즉시 알릴 담당자도 필요합니다. 이 기준은 대표에게도 똑같이 적용되어야 합니다.
고객 정보 유출은 잘못된 AI 사용으로 생길 수 있는 문제 중 하나입니다. 과도한 접근 권한, 잘못된 결과에 대한 의존, 검토 없는 자동화는 업무 중단과 고객 분쟁으로 이어져 사업 전체에 영향을 줄 수 있습니다. 이메일 작성 도구로 시작한 AI가 어디까지 연결되어 있는지, 문제가 생기면 어떤 책임이 남는지는 놓치기 쉽습니다.
우리 사무실의 AI 사용은 어디까지 안전할까요? WMSNova 컨설팅을 통해 현재 사용 방식을 점검하고, 사업 규모와 업무에 맞는 AI 활용 기준을 마련해 보세요. 편리함이 사업의 위험으로 바뀌기 전에, 지금 확인할 때입니다.