더맥소노미2024 세션 스케치 일곱 번째 포스트입니다.

이번 세션 스케치는 배달의민족을 서비스하는 '우아한형제들'이 AI를 어떻게 활용해서 시스템에 녹이고 고객경험을 개선하였는지 자세히 알아보도록 하겠습니다.

The MAXONOMY 2024 는 지난 11월 28일, 롯데호텔월드 크리스탈볼룸에서 개최된, 데이터 마케팅 솔루션 전문가 팀 맥소노미가 주최하는 연례 마테크 컨퍼런스로, 국내외 마테크, 애드테크 솔루션사 및 국내 최정상 기업의 마케팅, 데이터 담당자 분들과 함께 데이터를 활용한 마케팅 성공 사례와 인사이트, 트렌드 등을 공유하는 자리입니다.

금번 컨퍼런스에는 1천여 명의 마케터, 비즈니스 리더, 프로덕트 매니저 분들께서 참석해 주셨으며, 총 21명의 연사분들께서 'Further Steps of Data Marketing'을 주제로 생생한 데이터 활용 전략과 사례, 노하우를 공유해 주셨습니다.

생성 AI 시대에 고객경험 제고를 위한 AI프로덕트 활용법 가이드

우아한형제들 | 이봉호 데이터사이언티스트

AI & CX(Customer Experience)

먼저, 이봉호님은 우아한형제들의 데이터 과학자로서 마케팅 성과분석, KPI 수립, 수요예측, 인과추론 등의 업무를 수행하고 있으십니다. 그리고 최근에는 AI를 비즈니스에 적용하는 방법을 찾는 업무를 수행했다고 합니다. AI와 CX는 서로 뗄래야 뗄 수 없는 관계인데요. CX의 프레임워크에는 고객, 전략, 마케팅, 프로세스 등 여러가지 요소가 있고 그중 시스템은 CX의 핵심 요소이자 AI와도 관련된 부분이기 때문입니다.

Data Centric Approach

AI 트렌드

최근 많은 빅테크 기업이 앞다투어 LLM(대규모 언어 모델)을 출시하고 데이터센터를 건설하는 등 AI 분야에 많은 투자를 하고 있습니다. 왜 많은 테크 기업이 AI에 투자하고 이에 유저들이 환호하고 있는 것일까요? 이봉호님께서는 '활용처를 고민할 필요가 없기 때문'이라고 말합니다. 다른 서비스와 다르게 LLM은 다양한 명령어를 통해 다양한 목적에 활용할 수 있기 때문인데요. 그렇다면 모든 회사는 경쟁력을 위해 생성형 AI를 만들어야할까라는 생각이 들 수도 있지만, 사실 쉽지 않은 일입니다. 우선 초기 훈련 비용만 100만달러, 한화 약 1,300억 원이 들어가며 이후 관리하고 개선하는데 훨씬 더 많은 비용이 발생합니다.

그래서 많은 기업에서 산업별 특화된 AI를 개발하는 전략을 취하고 있습니다. 대형 모델을 개발하는 것보단 비용이 저렴하며, 특정 사용 목적에 훨씬 용의할 수 있기 때문이죠. 여기까지 듣다보면, 나도 앞으로 변화하는 AI시대에 적응하기 위해 AI 개발을 배워야하는 생각이 들 수도 있지만, 전혀 그럴 필요가 없습니다. 그 이유는 포스팅 끝 부분에서 확인할 수 있습니다!

우리는 데이터를 제대로 활용하고 있는가

우리는 BPS, 리텐션, 이탈률 등의 지표를 사용해서 마케팅 성과를 측정하고 있습니다. 이런 지표가 의미없는 것은 아니지만, 최근 연구에 의하면 이 보다 더 강력한 방법이 있습니다. 그것은 바로 데이터를 여러 측면에서 반복해서 관찰하고 측정하는 것입니다. 이 방법을 사용하면 기존에 발견하지 못했던 개선점을 발견할 수 있을뿐만 아니라, 심지어 브랜딩 성과까지도 측정 가능하다고 합니다. 브랜딩은 성격상 그 성과를 측정할 수 없다는 것이 지금까지 마케팅에서의 통용되던 생각이었지만, 해당 브랜드가 온오프라인에 반복해서 관찰 가능한지 측정하여 그 성과를 측정할 수 있다고 합니다.

KDD 2021 스포티파이 세션에서는 스포티파이가 고객 경험을 개선할 수 있었던 방법을 공유되었는데요. 여기서도 마찬가지로 고객이 반복적으로 보여주는 태도를 측정하고 고민하여 KPI를 찾고 그 KPI를 달성하니 고객 경험이 실제로 개선되었다고 설명합니다.

Data Centric Approach

AI 컴포넌트는 크게 3가지로 나눌 수 있는데요. Data(데이터), Model(모델), Operation(오퍼레이션)입니다. 데이터, 모델, 오퍼레이션의 각 관점에서 고객경험을 어떻게 정의하고 어떻게 매칭 시키냐에 따라서 AI프로덕트를 활용한 고객 경험 개선과 변화 정도가 달라지는데요. 사실 지금까지는 이 중 모델에 대한 투자가 활발했던 경향이 있습니다. 빅테크만큼 투자여력이 있다면 모델에 투자하는 것은 합리적일 수 있습니다. 투자한 만큼 성능을 보여주니까요. 하지만 시간이 지나면 개발에 필요한 시간이 기하급수적으로 증가하고 성능 개선에 한계가 발생합니다.

그래서 이봉호님이 제안하는 것은 데이터에 대한 투자입니다. 이를 두고 앤드류 응 고수는 'Data Centric Approach'라고 명명했는데요. 데이터를 중심으로 접근하는 것을 말합니다. 더 자세히는 데이터의 양과 질에 집중해서 문제를 개선하는 것을 말합니다. 많은 기업이 자사에는 많은 데이터가 있다고 자부하는 경향이 있는데요. 하지만 이는 보통 운영 데이터를 두고 말하는 경우가 많습니다. 운영데이터와 학습 데이터는 질적인 측면에서 다르다고 할 수 있습니다. 같은 목적인 데이터끼리 묶어주거나 오답이 있는지 확인해보는 절차 즉, 관점이 포함되는지가 중요합니다. 물론 많은 비용을 들여서 데이터의 질을 무시하고 많은 양의 데이터를 중심으로 AI를 개발할 수도 있습니다. 하지만 그만큼 많은 비용이 들어갈 것이고, 그 비용대비 유의미한 효과를 거두는 것은 상당이 어려운 일입니다.

마라순두부는 한식일까 중식일까

배민 검색창 개선하기

이봉호님은 어느날 배달의민족 검색 기능이 굉장히 약하다는 것을 인지하였다고 합니다. 예를들어 짜장면을 먹고 싶어서 검색창에 '짜장면'이라고 검색을 하였는데 짬짜면, 불타는 쫘장, 달달짭짤면 등과 같이 가게 사장님이 설정한 자유로운 명칭의 짜장면이 검색되지 않았던 것이죠. 이에 이봉호님은 배민에서 판매되는 모든 종류의 메뉴를 카테고라이징해보자고 제안하였습니다. 정말 특이한 음식을 제외한다면 어느 정도 큰 틀 안에서 분류가 가능할 것이고 검색기능 개선, 메뉴별 통계 등 여러가지 유의미한 성과를 달성할 수 있을 것이라고 생각했습니다.

하지만 이 작업을 사람이 수동으로 한다고 계산하면 10명이서 2년 정도 걸리는 일이었다고 합니다. 시간과 비용이 엄청나게 소모되는 일이었는데요. 이에 NLP(Natural Language Processing)를 적용한 머신러닝 기술을 활용하여 카테고리 분류 작업을 하였고, 그 결과 MM(Man Month) 기준으로 93.65% 나 절감할 수 있었다고 합니다.

관점이 중요하다

해당 프로젝트 초기에는 고객에게 나가는 데이터인데 AI가 판단한 결과를 어떻게 믿고 사용하냐는 이야기를 많이 들었다고 합니다. 그래서 프로젝트 초기에는 AI가 판단했을 떄 정답일 확률 99%인 것만 반영하고 나머지는 사람이 검사하는 방식으로 진행하였다고 합니다. 이후 사람의 오류 확률과 AI의 오류 확률을 비교해서 설득력을 얻고 자동화 레벨을 점차 올릴 수 있었고 해당 성과를 만들 수 있었다고 합니다.

물론 AI가 만능은 아닙니다. 돼지김치찌개를 돼지고기랑 김치찌개 중 어떤 것으로 분류할지에 대해 사람은 '둘다 하면되지'라고 쉽게 결론 지을 수 있지만 AI는 그렇지 않습니다. 여러가지 결론을 도출하라는 관점을 주입받지 못했기 때문입니다. 관점이라는 것은 AI를 통해 해결하고자하는 답의 방향을 말합니다. 그 답은 경영에서 MECE의 조건을 갖추면서, 복잡하지 않아서 AI에게 쉽게 전달해줄 수 있어야 합니다. 그런 관점을 명확하게 갖추면 AI 개발에 많은 돈을 투자할 필요가 없다고 합니다.

실제로 검색창 개선을 프로젝트 시간의 70% 가량은 돼지김치찌개가 돼지고기인지 김치찌개인지 싸우는 것으로 보냈다고 합니다. 모델 개발에 투자하는 것보다 이런 근본적인 데이터 관점을 먼저 해결하는 것이 효율적 일 수 있습니다.

결국 인간이다

Chat GPT의 오픈 AI가 캐냐의 노동자에게 2달러 미만의 시급을 주고 RLHF(Reinforcement Learning with Human Feedback)를 활용하고 있다는 기사를 보신 적 있나요? RLHF는 '인간 피드백을 통한 강화 학습'이라는 뜻으로 쉽게 말해 사람이 반복해서 AI 생성물에 피드백을 줌으로써 AI 성능을 개선하는 것을 말하는데요.

윤리적 논란 등을 뒤로 하고 여기서 얻을 수 있는 사실은 오픈AI처럼 앞서나가는 AI기업에도 결국 사람이 필요하다는 것입니다. 데이터를 가지고 어떤 답이 나오기를 바라고 어떤 비즈니스 임펙트를 만들고 싶은지 고민하고 데이터 거버넌스를 수립할 필요가 있습니다. 데이터를 생성하는 것도 소비하는 것도 활용하는 것도 인간이기 때문에 굳이 만능 AI를 사용하지 않고 최소한의 모델을 활용해서 문제를 해결할 수 있습니다. 고객으로부터 발생한 데이터를 통해 고객 경험을 개선하는 것도 마찬가지겠지요.

📺 우아한형제들의 데이터 마케팅 이야기 전체 영상 보러가기

팀 맥소노미와 글로벌 마테크 & 애드테크 솔루션사, 그리고 국내 최정상 기업이 함께했던 The MAXONOMY 2024의 모든 세션은 더맥소노미2024 다시보기에서 확인하실 수 있습니다. 더맥소노미2024를 통해 그동안의 고민이 조금은 가벼워지셨기를 바라며, 더맥소노미는 더욱 유익한 인사이트와 정보로 다시 찾아뵙겠습니다.