AI에 대한 고객 신뢰는 조건부입니다. 2025년 Twilio 조사에 따르면 소비자의 51%가 AI 에이전트에 개인·금융 정보를 공유하는 것을 불편해하고, 66%가 AI가 자신의 거래 이력 전체에 접근하는 것을 꺼립니다. Salesforce의 2024년 연구에서는 기업의 윤리적 AI 사용을 신뢰하는 고객이 42%뿐으로, 2023년 58%에서 떨어졌습니다.
동시에 소비자는 AI가 주는 편의를 원합니다. BCG는 구매 과정에서 60% 이상이 생성형 AI 결과를 높게 신뢰한다고 밝혔습니다. 패턴은 분명합니다 — 편의와 효율엔 AI를 받아들이지만, 개인정보에 관해서는 투명성·절제·통제를 원합니다.
AI 고객 상담을 도입하는 작은 사업에 이건 현실적 과제를 던집니다 — AI의 이점을 누리면서 어떻게 개인정보를 존중하고 신뢰를 지킬까요? 이 글은 법률이 아니라 실무 관점에서 답합니다(구체적 법률 자문은 전문가에게 확인하세요).
AI 고객 상담은 보통 어떤 데이터를 수집하나요?
AI 상담 에이전트는 대화 중에 몇 가지 범주의 데이터를 처리합니다.
고객 식별 정보: 이름, 전화번호, 이메일 — 리드를 받거나 예약을 잡을 때 수집됩니다.
주문·계정 데이터: 주문 번호, 예약 번호, 계정 상태 — 주문·배송·예약 문의에 답할 때 씁니다.
대화 기록: 고객 메시지와 AI 응답의 전체 텍스트 — 품질 검토, 개선, 인계 맥락을 위해 저장됩니다.
지식 베이스 내용: 사업 정보(가격·정책·상품) — AI가 답을 생성하는 근거입니다.
메타데이터: 시각, 사용 채널(WhatsApp·웹·Telegram), 대화 길이, 해결 여부 — 분석과 성능 모니터링에 씁니다.
중요한 구분: 대부분의 중소기업용 AI 플랫폼은 고객이 대화에서 제공한 것 이상을 수집하지 않습니다. 따로 설정하지 않는 한 AI가 SNS 프로필을 긁거나, 브라우징 기록에 접근하거나, 외부 DB에 연결하지 않습니다.
고객에게 무엇을 알려야 하나요?
투명성은 가장 효과적인 단 하나의 신뢰 구축 수단입니다. SurveyMonkey의 2026년 데이터에 따르면 소비자의 14%가 AI임을 명확히 밝히지 않은 상담을 겪으면 그 사업에 대한 신뢰를 잃습니다.
모범 사례: 세 번의 고지.
대화 시작 시: "안녕하세요, [상호]의 AI 상담입니다. [주제]를 도와드릴 수 있어요. 그 밖의 일은 담당자에게 연결해 드릴게요." 기대치를 맞추고 신뢰를 세웁니다.
개인정보 수집 시: "담당자가 회신드릴 수 있도록 성함과 연락처를 받을게요. 이 정보는 문의 처리에만 사용됩니다." 목적을 한정해 — 왜 묻는지 고객이 알게 합니다.
접근 가능한 개인정보 처리방침: 채팅 진입점이나 웹사이트에 알기 쉬운 처리방침을 링크하세요. 20쪽짜리 법률 문서일 필요는 없습니다 — 무엇을 수집하고, 왜, 얼마나 보관하며, 어떻게 삭제를 요청하는지 담은 명확한 한 단락이면 대부분의 작은 사업에 충분합니다.
중소기업을 위한 핵심 준수 사항
개인정보보호법(PIPA, 한국)
한국에서 사업하는 곳은 개인정보보호법(PIPA)의 적용을 받습니다. AI 고객 상담의 실무 요건은 이렇습니다 — 수집·이용 목적을 명확히 고지하고 동의를 받습니다(또는 계약 이행 등 적법한 처리 근거를 확보). 최소한의 정보만 수집합니다(개인정보 최소 수집 원칙). 보유·이용 기간을 정하고 목적 달성 후 파기합니다. 정보주체의 열람·정정·삭제·처리정지 요구권을 보장합니다. 제3자 제공·위탁 시 그 사실과 위탁처를 고지합니다.
AI 플랫폼은 보통 개인정보 처리를 위탁받는 수탁자에 해당합니다. 위탁 사실을 처리방침에 공개하고, 위탁계약(처리 목적·보안 조치 포함)을 갖추세요. 민감정보(건강·생체 등)와 고유식별정보(주민등록번호 등)는 별도 동의·법적 근거가 없으면 처리하지 마세요.
해외 고객을 받는다면 — GDPR(EU/영국)
EU·영국 고객을 응대하면 GDPR도 적용됩니다. 적법 처리 근거 확보(고객 상담은 보통 정당한 이익), 고위험 처리 시 영향평가(DPIA), AI 사용에 대한 투명성, 정보주체 권리(접근·정정·삭제) 보장, 처리 활동 문서화가 핵심입니다.
중소기업 실무 체크리스트
AI와 대화 중임을 알리세요. AI가 할 수 있는 일과 없는 일을 설명하세요. 업무에 꼭 필요한 정보만 받으세요. 민감정보(건강·금융·신분증)는 AI 채팅으로 받지 마세요. 결제·신분 정보는 가능하면 마스킹하거나 안전한 별도 경로로 우회하세요. 민감한 사안엔 쉬운 사람 연결을 제공하세요. 알기 쉬운 처리방침을 채팅 진입점에 링크하세요. 삭제 요청 처리 방법을 숙지하세요. AI 공급사의 데이터 처리 정책을 검토하세요.
개인정보를 고려해 AI 공급사를 고르는 법
어떤 플랫폼을 정하기 전에 다음을 물어보세요.
고객 데이터는 어디에 저장되나요? 신뢰할 만한 공급사는 데이터센터 위치와 관할을 명시합니다. 국가별로 데이터 보호법이 다르기 때문에 중요합니다.
내 고객 데이터를 AI 모델 학습에 쓰나요? 대부분의 중소기업용 플랫폼은 쓰지 않습니다. 서면 확인을 요청하세요.
요청 시 고객 데이터를 삭제할 수 있나요? PIPA·GDPR상 권리이자 어디서나 좋은 관행입니다. 계정 및 개별 고객 단위 삭제를 지원해야 합니다.
대화 로그는 누가 볼 수 있나요? 공급사 내부에서 누가 내 고객 대화를 보는지 파악하세요. 역할 기반 접근 통제가 있는 곳을 고르세요.
구독을 해지하면 데이터는 어떻게 되나요? 떠날 때 고객 데이터가 삭제되거나 반환되어야 합니다. 서면으로 받으세요.
WhatsApp·Telegram·웹 채팅에서 중소기업의 고객 대화를 자동화하는 AI 에이전트 플랫폼 Omago는 개인정보 준수를 검토하는 고객을 위해 명확한 데이터 처리 문서를 제공합니다. PIPA 적용을 받는 한국 사업에는 이런 투명성이 특히 중요합니다.
자주 묻는 질문
AI 고객 상담용 별도 개인정보 처리방침이 필요한가요?
별도 방침은 필요 없지만, 기존 처리방침이 AI 보조 소통을 포함해야 합니다. 고객 문의가 AI 상담으로 처리될 수 있다는 점, 그 대화에서 수집되는 데이터, 사람하고만 소통하는 선택지를 짧게 추가하세요.
AI 고객 상담이 개인정보보호법을 지킬 수 있나요?
네. PIPA·GDPR 모두 고객 상담에서 AI를 금지하지 않습니다 — 투명성, 적법 근거, 최소 수집, 정보주체 권리 존중을 요구할 뿐입니다. 자신이 AI임을 밝히고, 필요한 정보만 받고, 복잡한 사안엔 사람 대안을 제공하는 AI 에이전트는 두 법과 양립합니다.
고객이 데이터 삭제를 요청하면요?
요청에 응할 수 있어야 합니다. AI 플랫폼이 개별 대화·고객 데이터 삭제를 지원하는지 확인하세요. PIPA상 정보주체의 삭제·정정 요구에 지체 없이 응해야 하며, GDPR상으로는 삭제 요청에 30일 내 응답해야 합니다.
AI 채팅으로 전화번호를 받아도 안전한가요?
후속 연락 목적이라면 네. 전화번호는 개인정보이므로 안전하게 저장하고, 고지한 목적에만 쓰고, 요청 시 삭제할 수 있어야 합니다. 꼭 필요하지 않으면 받지 마세요 — 채팅 안에서 답이 끝나는 질문이라면 번호 수집은 불필요합니다.
개선을 위해 대화를 기록하는 건요?
대화 기록을 지식 베이스 개선에 쓴다면 고객에게 알리세요. PIPA상 수집한 목적 외 이용은 별도 동의가 원칙이고, GDPR상으로도 별도 적법 근거나 동의가 필요할 수 있습니다. AI 거버넌스 전반은 중소기업 AI 거버넌스 8대 정책 가이드를, AI와 사람의 역할 분담은 AI냐 채용이냐 비교를 함께 보세요.
출처: Twilio "Inside the Conversational AI Revolution"(2025), Salesforce "State of the AI Connected Customer"(2024), SurveyMonkey "Customer Service Trends"(2026), BCG Consumer Trust Research, 개인정보보호법(PIPA)·개인정보보호위원회 안내, UK ICO AI Guidance.