회사 AI 상담원은 회사 편이다
왓츠앱 도움말 80개 페이지에서 화면에 보이지 않는 AI용 지시 102개가 나왔고, 그중에는 규제기관에 연락하라고 권하지 말라는 문장도 있었습니다. 이것은 놀랄 일이라기보다 구조의 문제로 봐야 합니다. 앞으로 소비자는 회사 AI의 답을 다른 AI로 검증하는 습관을 들이게 될 것입니다.
리댁트(Redact)는 왓츠앱 도움말 545개 페이지를 조사해, 그중 80곳에서 화면에 표시되지 않는 AI용 문구 102개 블록을 찾았습니다. 여기에는 데이터 보호 당국에 연락하라고 권하지 말라는 지시와, 변호사가 언급되면 개인정보 법을 인용하지 말라는 지시가 들어 있었습니다. 공개 직후인 10월 18일 02시 08분(UTC)에 102개 블록은 모두 사라졌습니다.
왜 이렇게 보나
회사가 만든 AI 상담원은 회사가 정한 범위 안에서 답합니다. 그 범위를 정하는 문장이 이번처럼 웹페이지에 숨어 있으면 누군가 찾아낼 수 있지만, 서버 쪽 시스템 지시로 옮겨 가면 밖에서는 볼 방법이 없습니다. 이번 일이 남긴 교훈은 '숨은 지시를 없애라'보다 '회사 AI의 답은 회사의 답'이라는 사실입니다. 소비자가 할 수 있는 일은 근거·권리·민원 경로를 되묻고, 회사와 관계없는 AI에게 한 번 더 묻는 것입니다. 이 매거진의 튜토리얼 '크로스체크 프롬프트 10개'가 그 목적으로 만든 것입니다.
- 2027년 6월까지, 미국이나 유럽에서 고객 상담 AI의 지시문 또는 응대 원칙 공개를 요구하는 법안·규제 지침이 하나 이상 나옵니다.
- 대형 플랫폼 가운데 'AI 상담원 응대 원칙'을 별도 공개 페이지로 두는 곳이 생깁니다.
- 같은 질문을 회사 AI와 범용 AI에 모두 묻는 '교차 확인'이 소비자 단체의 공식 권고 문구에 들어갑니다.
틀릴 수 있는 지점
기업들은 투명성 대신 조용히 지시를 서버로 옮기는 쪽을 택할 수 있습니다. 그러면 규제 논의도 '증거가 없다'는 이유로 늦어집니다. 이번 사례가 드러난 것도 지시가 웹페이지에 남아 있었기 때문입니다.
영상으로 보고, 기사로 자세히 읽기
30초 영상은 인스타그램과 유튜브 쇼츠에, 짧은 글과 토론은 쓰레드에 올립니다. 새 소식은 그쪽에 가장 먼저 올라옵니다.
