당신은 속지 않을 자신 있나요?(AX 시대, 무엇을 믿고 따라갈까?)

월요일 아침 출근하여 전화를 받습니다. “S 카드사입니다.”, 사람이라기엔 아직은 조금 어색한, ARS같은 목소리로, 몇 가지 정보를 안내한뒤 “저는 AI 상담사였습니다”라는 멘트로 전화를 마칩니다. 본인 확인 질문에 ‘네.’ 라는 답을 건조하게 하였지만 AI 상담사의 목소리는 일관되게 밝고 친절합니다.

처음 AI 상담사로부터 먼저 걸려온 전화를 받았을때는 무언가 새로웠던 느낌이 있었던 것 같은데 지금은 AI가 요구하는 정보에 필요한 정보를 제공하는 나 자신을 발견하곤 합니다. 스스로 AI와 비슷한 것 같다는 느낌마저 드는 것 같습니다.

여기서 한 가지 중요한 사실은, AI 상담사와의 통화에서 AI를 믿고, 나의 개인정보를 거리낌없이 제공했다는 점입니다. 같은 상황에서 보이스피싱 조직이 카드사의 번호로 위장하여 전화를 하고 현금 인출같은 행동을 요구했다면 이는 곧바로 범죄로 이어졌을 것입니다.

물리적 한계도, 한치 흐트러짐도 없는 AI는 어쩌면 사람보다도 사람을 더 잘 속일 수 있을지도 모릅니다. 우리는 AI를 신뢰할 수 있을까요? 이번 맥사이트픽에서는 AI의 신뢰 문제와 이를 현명하게 다루는 법에 대해 다뤄보겠습니다.

AI 광고: 올라가는 효율, 떨어지는 신뢰

2025년 현재 전세계 마케터의 절반 이상이 AI를 활용한 콘텐츠를 생성하고 운영하고 있다 하여도 과언이 아닙니다. ‘비디오 광고 전략 보고서’를 발표한 IAB(글로벌 미디어 마케팅 시장 조사업체)에서 진행한 설문조사에 따르면 광고 시장에서의 광고주 절반은 디지털 비디오 광고 제작에 생성형 AI를 적극 사용 중이라고 응답했습니다. 가장 큰 이유는 단연, 시간과 비용의 효율입니다.

하지만 KPMG 조사에 따르면 소비자의 50% 이상은 여전히 AI를 신뢰하지 않는다고 합니다. 전세계 기업, 기관, 크리에이터, 일반 소비자까지 앞다퉈 AI를 활용한 콘텐츠를 생성하고 있는 지금, 이 수치가 시사하는 바는 결코 가볍지 않습니다.

더 큰 사실은, 소비자가 제품 설명란에 ‘AI’라는 단어를 확인했을 때 소비자의 감정적 신뢰도가 떨어지고 구매 의도가 감소한다는 연구 결과를 미국 워싱턴주립대학교 발표했다는 사실입니다. 여러분도 즐겁게 감상한 콘텐츠나 감동을 받은 작품이 사실 AI에 의해 만들어졌다면 뭔가 흥분이 식는 느낌이 들지 않나요?

소비자가 AI 콘텐츠를 시청하며 허구와 사실을 쉽게 혼동하게 되는 문제에 대해 시장의 근심은 커져가고 있습니다. 이는 곧 가까운 미래에 Human-Certified 라는 마크가 등장하고 “이 콘텐츠는 인간이 직접 작성했습니다” 라는 문구가 일반화될 것이란 확신마저 들게 합니다.

사례1. 윌리의 초콜릿 체험

이미지 출처: Willy’s Chocolate Experience | 페이스북 홍보 이미지

2024년 스코틀랜드의 한 지역에서는 ‘윌리의 초콜릿 체험’ 이라는 이벤트가 열렸습니다. ‘윌리의 초콜릿 체험’은 영화 <웡카>를 본떠 만든 몰입형 체험 이벤트였는데요. 홍보 자료 일체를 AI 가 생성했고 이를 그대로 활용했습니다. 소비자는 환상적인 이미지에 매료되어 큰 기대를 안고 체험장에 방문했습니다.

하지만 방문객들이 실제로 마주한 것은 마케팅 자료와는 정반대되는 싸구려 소품으로 채워진 허름한 창고에서 열리는 이벤트였습니다. 원작 소설과는 완벽히 반대의 모습이었던 이벤트 참사에 소셜 미디어는 소비자들의 황당함과 분노로 가득했고, 아무런 의심없이 AI가 생성한 콘텐츠를 받아들인 결과에 허무함을 느꼈습니다. 결국 주최사가 미흡한 행사 운영에 대해 사과하고 행사에 참여한 고객들에게 전액 환불을 해주며 마무리되었습니다.

사례2. 출판사의 AI번역

서울대 도서관에서 열람가능한 전자책 중 A 출판사의 책에서는 ‘눈국’에서는… 이란 문장이 등장합니다. 엄연히 출판된 책이니 내가 알지 못하는 단어인가 갸우뚱하게 되지만 사실 AI가 가와바타 야스나리의 유명 소설 ‘설국’을 번역하며 눈국이란 표현을 사용한 것이었습니다.

또 다른 철학 관련 서적에서는 ‘서로 다른 생각을 가진 사람들이 부딪히는 일은 우리 삐라에서 매우 흔한 일입니다’ 라는 문장이 발견됩니다. 아무리 앞뒤 문장을 다시 읽어도 우리가 알고 있는 삐라 라는 단어가 왜 저 문장에 들어 있는지 전혀 이해가 되지 않습니다. 마케팅 뿐만 아니라 학계와 출판계에서도 AI 활용 범위와 빈도가 늘어나고 있는데 자료 조사와 퇴고 과정 등에서 역시 AI 활용이 빠지지 않습니다.

여기서 문제는 이처럼 허술하게 번역된 AI 생성 기반 콘텐츠와 도서들의 많이 발견되고 있으며, 심지어 계속 증가하고 있다는 것 입니다. 기본적인 국어 문법도 맞지 않는 전자책들이 버젓이 유입되고 학업을 위해 정보를 열람하는 학생들이 이를 그대로 받아들일 가능성도 있습니다. 특히 도서관이라는 장소가 가지는 특성은 다수의 학생들이 학술적 목적으로 정보를 탐색하기 때문에 도서관에서 확인되는 정보들에 오류가 있을것이란 의심을 먼저 하기란 쉽지 않습니다.

AI 마케팅의 미래는?

비싼 등록금을 지불하고 대학에서 수학하는 학생들뿐만 아니라 일반 소비자들도 계속해 오류와 가짜 정보로 뒤섞인 시대로 들어가고 있습니다.

여전히 AI가 거짓으로 생성한 정보에는 사실과 다른 오류가 가득하고, 잘못된 문맥들이 선별되지 못하는 것은 AI 생성물과 관련된 검증 기준과 규제가 없어서라는 도돌이표가 반복되고 있습니다. 그렇기 때문에 규제가 생겨나기전까지는 자발적이고 자체적인 셀프 큐레이션이 필요하게 될 수 밖에 없을 것입니다.

2026년을 앞둔 소비자들은 계속해서 내가 본 광고가 가짜인지, 진짜인지 딥페이크로 생성된 AI 인간이 아니라 실제 사람이 맞는지를 계속 의심하게 되었습니다.

딜로이트 리포트에 의하면 소비자의 62%는 자신이 AI 콘텐츠와 인간 콘텐츠를 구분 가능하다고 확신하고 있습니다. 일론 머스크같은 유명인을 사칭한 투자 권유, 유명 연예인이 어색하게 등장하는 가짜 광고 등을 우리는 자연스럽게 걸러내고 있긴 하지만, 앞으로 더욱 정교해질 AI 앞에서도 과연 그럴 수 있을까요? 어떤 찰나에 진짜처럼 보인다면 의심없이 믿어버리기 마련입니다.

AI가 생성하는 콘텐츠를 대상으로 일부 워터마크가 도입되긴 하지만, 그 워터마크를 지워버리는 것은 너무나 쉬운 일입니다. 워터마크 기술만으론 AI 콘텐츠 제어가 쉽지 않습니다. 무엇이 원본이고 복사본인지, 어떤게 사실이고 거짓인지 콘텐츠를 수용하는 소비자에게는 더 친절한 안내가 필요해 보입니다.

신뢰있는 AI 마케팅을 하는 법

그렇다면 신뢰가 흔들리는 지금의 상황에서, 브랜드와 마케터는 어떻게 AI를 활용해야 할까요? 무조건적인 기술 배척보다는 소비자가 안심할 수 있는 '안전장치'를 마련하고, 기술을 대하는 태도를 재점검하는 것이 우선되어야 합니다.

첫째, '투명성'을 브랜드의 새로운 가치로 삼아야 합니다. 고객에게 솔직해지는 것이 신뢰 회복의 첫 걸음입니다. 이 콘텐츠가 AI의 도움을 받아 작성되었다면, 이를 명확히 표기하고 출처를 밝히는 태도가 필요합니다. 숨기기보다는 솔직하게 공개하여 고객의 알 권리를 존중할 때, 소비자는 해당 브랜드를 정직한 파트너로 인식하게 됩니다.

둘째, 사람이 반드시 검수하는 '휴먼 인 더 루프(Human-in-the-loop)' 과정을 지켜야 합니다. AI는 효율적인 도구이지만, 결과물에 대한 최종 책임은 결국 사람에게 있습니다. 앞서 본 오번역 사례처럼 AI가 놓친 미묘한 맥락과 사실 관계를 전문가가 꼼꼼히 확인하고 다듬어야 합니다.

셋째, AI의 잠재력과 실제 시장 사이의 '경험 격차'를 줄여야 합니다. AI의 잠재력은 분명 엄청나고, 기업은 이 AI를 활용하는 법을 미리 연습하고 탐색해야 합니다. 하지만 우리 바로 앞에 있는 시장이 정말 그것을 원하는지는 다른 이야기입니다. 아직 오지 않은 미래를 준비하다가 바로 앞에 있는 시장을 놓치지 마세요. 비용을 아끼기 위해 영혼 없는 콘텐츠를 쏟아내는 대신, 고객이 진짜 필요로 하는 정보를 고민하고, 이 과정에서 AI를 활용하세요. 가령, 여행 플랫폼 익스피디아는 ChatGPT 플러그인을 앱에 통합하여 ;복잡한 여행 동선을 짜는 문제;를 해결했습니다. "아이와 함께 가기 좋은 3박 4일 도쿄 일정 짜줘"라고 하면 실제 예약 가능한 호텔/항공권과 연동된 구체적인 정보를 제공하죠.

이미지 출처: Expedia | ChatGPT로 여행 계획을 짜는 모습

마지막으로, 기술이 흉내 낼 수 없는 '브랜드만의 서사'에 집중하세요. 누구나 1초 만에 그럴듯한 결과물을 만들어내는 시대입니다. 하지만 결국 소비자의 마음을 움직이는 건 진심이 담긴 이야기입니다. AI라는 기술 위에 브랜드 고유의 철학을 입히고 사람의 온기를 더할 때, 그것이 가장 강력한 차별화 포인트가 될 것입니다.

마치며

아직까지 소비자들은 인간에게 배신 당하는 것보다 AI에게 배신 당하는 것에 조금 더 관대한 것 같습니다. 하지만 AI가 지금보다 더 많은 생활 범위로 확장되는 순간 AI에 대한 배신도 용납될 수 없고 결국 이는 AI를 활용한 브랜드의 가치 문제와 직결되게 됩니다. 소비자들이 AI를 쉽게 믿지 못한다는 사실을 기업과 브랜드 그리고 마케터들이 조금더 인지하고 AI 기반 마케팅 전략을 펼쳐야 합니다.

지금까지도 그랬고 앞으로도 비즈니스에서 가장 중요한 것은 신뢰입니다. AI가 브랜드와 고객을 더 잘 연결시켜줄 열쇠가 될 수 있지만, 반대로 둘 사이를 갈라 놓는 균열이 될 수도 있습니다. 여러분이 활용하고 싶은 AI는 어떤 모습인가요? 효율과 신뢰의 균형에 대해 다시 한번 생각해보는 시간이 되었으면 좋겠습니다. 다음 맥사이트픽에서는 이번 주제에 이어서 브랜드가 가져야하는 신뢰에 대해 더 깊게 다뤄보겠습니다. 오늘도 읽어주셔서 감사합니다.