앰플리튜드
Amplitude는 Google Analytics와 어떤 점이 다른가?
Team MAXONOMY ・ 2020.11.25

오늘은 Amplitude의 Growth Designer인 Lex Roman가 정리해 본 Amplitude와 Google Analytics의 주요 차이점 및 Product Team에 미치는 영향에 대해 소개 드리고자 합니다. 동영상을 통해 주요 차이점에 대해 알려드리고자 하오니, 어떤 솔루션이 여러분에게 적합한지 선택하시는데 도움이 되시기를 바랍니다.
동영상으로 소개된, Lex Roman가 자신이 바라본 각 솔루션 간의 차이를 소개하자면 아래와 같습니다.
- 저는 고객들이 분석 솔루션을 쉽게 이용하고, 이를 통해 다양한 분석 정보를 실용적으로 만들 수 있도록 많은 노력을 해왔으며, 여러 해 동안 여러 고객사를 만나면서 분석솔루션 선택을 고민하는 분들께 조언을 드리며, 그들이 선택한 분석 솔루션을 이용하여 서비스 내의 다양한 분석 정보를 얻으실 수 있도록 도움을 드렸습니다.
많은 고객사에서 사용할 수 없는 데이터를 대량으로 수집하시어 이로인해 혼란을 겪는 것을 여러 번 보았습니다. 데이터에 기반하여 무언가를 결정하고 행동하기 위해서는 수집하는 정보를, 그것을 다루는 본인 스스로 쉽게 이해할 수 있어야 합니다.
여기에서 Amplitude와 GA 사이에 결정적인 차이가 있습니다. 제가 분석 솔루션을 선택하려는 분들께 제가 가장 먼저 말씀드리는 항목은 "접근성"입니다.
"솔루션을 직접 사용할 팀원들이 이 툴을 쉽게 이해하고 사용할 수 있는가?"
툴을 사용하기 어렵다면, 기껏 수집한 정보를 활용할 수 없으며, 그에 따른 어떠한 후행 조치도 취할 수 없을 것입니다. Amplitude와 Google Analytics의 네 가지 항목을 비교해 보면서 이에 대해 좀 더 자세히 알아보도록 하지요.
1. Amplitude는 어떤 정보가 중요한 것인지를 사용자가 정하도록 합니다. GA는 이를 직접 정하여 사용자에게 제공합니다.
2. Amplitude는 제품(서비스)의 전반을 매니징하는 product team을 위해 만들어졌습니다. GA는 웹사이트 관리를 위해 만들어졌습니다.
3. Amplitude는 데이터를 보는 방법을 누구나 이해할 수 있도록 각 영역마다 가이드가 제공됩니다. GA는 개별 문서를 통해 가이드가 제공됩니다.
4. Amplitude는 팀원들 간의 협업을 우선시 합니다. GA는 팀원들에게 의견을 공유하기 어려운 구조를 지닙니다.
우리가 운영하는 서비스에서 중요하게 보는 정보는 무엇일까요?
GA는 세션, 바운스 비율, 고객이 사이트를 방문한 시간대 같은 트래픽 정보를 모든 사용자에게 기본 뷰로 제공하고 있습니다.
이것이 운영 중이신 서비스를 보고자 할 때 가장 중요한 지표라고 생각 되시나요? 단순한 콘텐츠를 제공하는 웹사이트를 운영하지 않는 한, "고객들이 우리 서비스를 실제로 어떻게 이용하고 있는가?"에 대한 답이 되기는 어려울 것입니다. 메인 메뉴를 좀 더 자세히 살펴보도록 하지요.
GA에서는 여러분이 어떤 정보를 보고 싶어할지 Google에서 미리 뷰 정의하여 제공합니다.
세션, 페이지뷰 및 채널은 기본적으로 표시되지만, 페이지 방문이나 유입 정보 이상을 보기 위해서는 복잡한 필터링을 사용하거나 커스텀 이벤트를 추가해야 합니다. 커스텀 이벤트를 추가하는 부분은 처음 이용하는 사용자가 바로 이해할 수 있을 정도로 직관적으로 구성되어 있지 않기 때문에, 직접 가이드 문서를 찾고 추가 방법을 정확히 공부하기 위해 많은 시간을 소모하게 됩니다.
Amplitude는 서비스에 따라 서로 다른 목적을 지닌다는 가정하에, 서비스를 운영하는 조직에서 운영중인 서비스에 중요한 점을 직접 결정해야 한다는 생각으로 만들어졌으며, 아래와 같은 간단한 방법을 통해 중요 지표 확인이 가능합니다.
우선, 정보를 보고자 하는 담당자가 무엇을 알고 싶은지 정의하는 것 부터 시작합니다. 정의한 정보를 얻기 위해, 개발팀에서 간단한 트랙킹함수를 서비스에 추가하여 당신이 알고 싶은 정보만을 Amplitude로 보내게 됩니다.
그 후, 무엇을 중점적으로 볼 것인지를 정해야 합니다. Amplitude에서 제공되는 차트는 모두 표준화된 형식으로 제공되므로, 단순히 보고 싶은 정보를 보는 것부터 시작하여, 도출된 결과 정보로부터 고객들을 그룹화(Cohort)하여 그들을 대상으로 더 심도있는 정보 확인이 가능합니다.
이와 같이, Amplitude에서는 서비스 운영자가 필요한 데이터만 선택적으로 전달할 수 있고, 이를 통해 보고자 하는 뷰를 직접 선택할 수 있습니다.
운영 중인 서비스에서 "우리가 보아야 할 중요한 것이 무엇인지" 직접 결정할 수 있는 툴을 선택하는 것으로써, 불필요한 정보 수집으로 인해 발생할 수 있는 노이즈나 혼란을 피할 수 있습니다.
두번째로, Amplitude는 서비스에 집중된 툴이라면, GA는 웹사이트에 집중된 툴이라고 볼 수 있습니다.
GA가 세션, 페이지뷰, 트래픽 정보를 주요하게 제공하는 이유는 GA가 콘텐츠를 제공하는 웹사이트를 위해 만들어졌기 때문입니다. 콘텐츠 자체가 상품인 웹사이트에서는 이러한 것들이 중요한 요소였습니다.
GA는 각 페이지 URL에 대한 고유 방문자수(unique visits)를 추적합니다. 하지만 운영 중인 서비스는 앱으로 운영되어 별도의 URL이 없다면? 보고싶은 것이 "버튼 클릭", "트랜잭션", "고객이 입력한 값" 또는 기본으로 제공되는 페이지뷰 이외의 다른 것이라면? GA로 이런 정보들을 볼 수 있을까요? 물론 GA에서도 이와 같은 정보들을 볼 수 있습니다. 하지만 이제부터 복잡해지기 시작합니다.
얼마나 많은 고객이 특정 버튼을 클릭했는지 보고자 한다면, "Goal"을 설정해야 합니다. 다만, GA에서 Goal을 설정하는 것은 간단하지 않습니다. GA는 태생부터 고객 행동을 이해하고 고객들이 서비스를 어떻게 사용하는지를 추적하도록 설계되지 않았기 때문입니다. 이러한 이유로 GA에서는 태생적 한계가 있던 모바일 앱 리포트 기능을 2019년부터 더 이상 지원하지 않기도 하였습니다.
Amplitude로 돌아와보죠. Amplitude는 사용자들이 페이지뷰 이상의 것을 보고자 한다는 가정하에 만들어진 툴로써, 고객들이 우리 서비스를 어떻게 사용하는지 "이벤트"를 기반으로 보여줍니다.
Amplitude에서 Product Team을 지원하는 몇 가지 주요 기능:
- Amplitude는 작성된 차트로 제공되는 정보를 더 세분화할 수 있도록 다양한 방법을 지원합니다. 누가 전환되지 않았는지, 전환되지 않았다면 대신 어떤 행동으로 이어졌는지 몇 번의 차트 클릭만으로 쉽게 확인할 수 있습니다.
- Amplitude는 각각의 고객들이 서비스 내에서 어떤 행동을 행했는지, 고객별 전체 여정 정보를 제공합니다. 이벤트 스트림을 보고 앱 내에서 실제 수행되는 동작들을 확인해 보세요.
- Amplitude는 제품의 버전 별 대시보드를 지원합니다. 특정 버전에 추가된 기능이 주요 지표에 주는 영향 등 보고자 하는 지표를 설정하여 볼 수 있습니다.
세 번째로 비교해 볼 부분은 기능 안내에 대해서 입니다. 데이터가 가지는 의미를 이해하는 것이 항상 쉽기만 한 것은 아닙니다. 처음 접속한 사용자가 데이터의 의미를 파악하기 어렵다는 점이, 더 많은 팀에서, 더 많은 사용자가 데이터를 이용하기를 바라는 조직에게 큰 어려움으로 남아 있습니다.
Amplitude에는 팀이 같은 페이지를 더 쉽게 이해하고 협업할 수 있도록 해주는 몇 가지 기본 기능이 있습니다.
Amplitude에서는 데이터 전송뿐 아니라, 툴에서 데이터의 정의를 바로 추가할 수 있습니다.
팀원들은 Amplitude의 어떤 기능을 사용하든 모든 이벤트의 의미를 그 자리에서 확인할 수 있습니다. "Hero Button 클릭"이 무엇을 의미하는지 더 이상 궁금해할 필요없이 설명을 바로 확인해 볼 수 있습니다.
Amplitude는 또한 차트를 구성하는 요소들의 명칭을 팀원들이 이해하기 쉬운 문구로 변경할 수 있도록 변경 기능을 제공합니다. 명칭이 명확하지 않다면 차트를 팀원에게 전송하기 전에 클릭만으로 변경이 가능합니다.
Amplitude은 또한 분석에 더 많은 컨텍스트를 쉽게 추가할 수 있도록 해주며, 이것은 팀원들과 결과를 공유할 때 유용하게 활용됩니다. 예를 들어, 분석 결과에 대한 명확한 설명을 추가할 수 있을 뿐만 아니라 dashboards와 notebooks 기능을 사용하여 팀이 데이터로부터 무엇을 얻고자 하는 것인지에 대한 배경 정보를 추가할 수도 있습니다.
제 경험상, GA에서 커스텀 뷰를 만들고 그 결과를 팀원들과 공유하는 것은 훨씬 더 어렵습니다.
데이터를 이용하는 각 기능 내에서 요소요소 마다 기본 가이드가 포함되어 데이터를 좀 더 쉽게 이해하며 사용할 수 있도록 설계된 툴을 선택하면 팀의 역량을 보다 빠르게 강화할 수 있을 것입니다. 데이터를 모두가 사용함으로써, 소수의 인원만 접근하던 비밀스러운 데이터 조직이 아닌, 누구나 활용 가능한 정보력이 있는 막강한 기업으로 우리를 이끌 것입니다.
마지막으로, 데이터 기반의 협업을 이야기해 보지요. 여러분의 팀이 데이터를 중심으로 소통하고 협업할 수 있는 분석 솔루션을 원하시나요? Amplitude는 손쉽게 이용할 수 있는 다양한 협업 기능을 제공하고 있습니다. GA도 기능을 제공하고 있지만 복잡한 단계를 거쳐야 합니다. GA 내에서 커스텀 대시보드를 만들었다고 하더라도 이것을 팀원들과 공유할 수가 없습니다. 대신, 날짜 기반으로 작성한 뷰의 스크린샷에 의지해야 할 것입니다.
Amplitude에서는 작성된 차트의 브라우저 URL 링크를 복사하여 팀원들과 공유할 수 있습니다. Amplitude에서 팀원들과 링크를 공유할 때 특히 멋진 점은 공유받은 팀원도 차트를 변경할 수 있다는 것이며, 이렇게 변경된 차트는 신규 생성되어 새로운 링크를 자동으로 생성하기 때문에 원본과는 따로 공유하거나 저장할 수 있다는 것입니다. 링크를 이용한 차트 공유 뿐만이 아니라, 다른 방법으로도 팀원들과 차트를 공유할 수 있습니다.
예를 들어, 차트나 분석 정보를 Team space에 추가할 수 있으며, 거기에 접근할 수 있는 팀원을 제어할 수 있습니다. Amplitude는 팀원들과 함께 데이터를 보고 분석하며 나아갈 방향을 정하기를 원하는 이들을 위해 "협업"을 염두에 두고 솔루션을 만들었습니다. 실시간으로, 데이터를 중심으로 팀원들과 협업하고자 하는 꿈이 이제는 실현 가능합니다. 협업을 핵심으로 하는 솔루션을 선택하면, 여러분의 팀은 데이터를 중심으로 쉽게 협력할 수 있습니다.
Amplitude vs Google Analytics
요약하자면, Amplitude는 어떤 정보를 볼 것인지 직접 결정하고, 도출된 차트를 분석하거나, 앞으로의 방향에 대해 팀원들과 함께 협업하고자 하는 서비스 제공업체들을 위한 것 입니다. Google Analytics로는 보기에는 어려운 정보들이기에 GA를 사용하시면서 어려움 속에서 길을 찾으려다 포기하는 분들을 많이 보았습니다.
만약 여러분의 팀이 운영중인 서비스를 분석하여 성정을 위한 의사결정을 하기 위해 데이터를 파고들어 활용하고자 한다면, GA가 아닌 다른 솔루션을 선택하기를 강력히 추천 드립니다.
마케팅 단위의 분석과 제품 전체 분석 사이의 격차를 줄이고자 하는 분들을 위해서
물론 2가지 솔루션을 모두 활용하여도 좋습니다. 몇몇 마케팅 팀은 GA가 광고나 채널 추적에 매우 도움이 된다고 생각합니다. 광고와 채널 추적은 GA의 무료 티어로도 가능하므로 GA를 유용하게 활용하고 있었다면, GA의 무료 티어를 유지하고 마케팅 사이트를 거쳐온 모든 항목에 대한 분석은 Amplitude로 시작해 보세요.

팀맥소노미
YOUR DIGITAL MARKETING HERO
비즈니스 성장을 위한 최적의 솔루션과 무료 데모 시연, 활용 시나리오를 제안 받아보세요
24시간 프리미엄 열람권 받기
관련 글 보기

A/B테스트 개념과 데이터 분석 방법🔍
A/B 테스트는 두 가지 혹은 그 이상의 서로 다른 버전(Variant)을 비교하여 어느 쪽이 더 나은 성과를 내는지 판단하는 실험 기법입니다.

여러분의 고객 데이터는 안전한가요? (feat. DX·AX)
최근 여러 기업에서 개인정보 유출 사고가 발생 중인 상황에서 기업은 어떻게 대응해야 할까? DX와 AX의 흐름 속 개인정보 보호가 나아가야 할 방향.

B급 감성 마케팅이 온다
B급 감성이란?혜성처럼 등장한 B급 감성은 많은 산업과 분야에 영향을 미치고 있습니다. B급의 사전적 의미는 ‘완벽함을 추구하는 것보단, 투박하고 엉성한 스타일을 추구하는 것’입니다. 이런 B급 감성은 소비자가 손쉽게 친근감을 느낄 수 있어, 특히 마케팅 분야에서 많이 시도하는데요.한때 모두가 B급감성을 지향하던 시기가 있을 정도로 그 파급력이 강력했습니다. 하지만 B급 감성을 마케팅에 적절히 활용하기란 여간 까다로운 것이 아닙니다. 잘못된 B급 감성의 적용은 자칫 브랜드 자체를 B급으로 만들어 버릴 수도 있기 때문입니다.B급 감성 마케팅은 모두가 완벽해지고 싶어하는 가운데 일부러 허술함을 표현합니다. 이것은 비슷한 기성품들 사이 차별화를 부각시킴과 동시에, 독보적이고 특별함을 보여줄 수 있는 장점을 가지고 있습니다. 또한 완벽하지 않은 모습에 소비자들이 마음을 조금더 손쉽게 열 수 있는 친근한 접근 방식이죠.하지만 잊지마세요. 오늘 맥사이트픽에서 이야기해볼 ‘B급 감성 마케팅’은 결코 단어 그대로의 B급을 의미하지 않습니다. B급이란 이름표를 달고 있고, 그래서 어딘가 B급처럼 보이긴 하지만 사람들의 마음을 움직이는 힘을 가지고 있는 마케팅이 우리가 추구하는 진정한 B급 감성 마케팅입니다.실제로는 SS급 역할을 해주었을 때, 비로소 B급 감성 마케팅이라 부를 수 있다는 점을 명심하세요! 무조건 B급의 소재를 브랜드와 결합시켰다고 해서 B급 감성 마케팅으로 볼 수 없습니다.B급 감성을 살린 마케팅Dollar Shave Club: 우리 면도날은 끝내주게 좋습니다.출처: DollarShaveClub 유튜브 | Our Blades Are F***ing Great면도기 및 미용용품 구독 서비스를 제공하는 Dollar Shave Club은 저예산 B급 감성의 유튜브 광고 영상을 제작하여 큰 주목을 받았습니다.문을 통과할 때 종이가 엉성하게 뜯기고, 테이프는 제대로 잘리지 않고, 택배 상자 패스를 놓치는 등 실수를 의도적으로 활용하여 웃음을 주면서도 인간적인면을 부각시키는 광고였습니다.굉장히 단순한 촬영과, 현실적인 메시지에 곁들인 유머러스한 대사가 오히려 화려한 광고들보다 특별해보입니다. 이를 곧 친밀감으로 연결할 수 있다는게 B급 감성 마케팅의 힘입니다.이 광고가 그리 특별해보이지 않은 사람도 있을 것입니다. 이미 많이 본 컨셉이라고 하면서 말이죠. 하지만 이 광고가 13년 전인 2012년에 나왔다는 점을 감안했을 때, 당시 얼마나 신선하고 충격적이었을지 상상조차 안됩니다.해당 광고는 공개 후 약 48시간만에 12,000명 이상의 신규 가입자를 유치했고, 이후 영국의 생활 용품 기업 ‘유니레버’에 10억달러에 인수되는 성과를 만들었습니다.CJ 제일제당: 육수커플출처: CJ제일제당 육수커플 유튜브 | 우리 결혼했어요 육수커플최근 제일제당에서는 편의형 코인육수의 신제품인 ‘바지락멸치 맛 1분링’을 출시했습니다. 해당 제품 홍보를 위해 ‘1분링’ 캠페인을 진행 중인데요. 광고 스토리가 정말 재밌습니다.배우 변요한·차주영이 몰던 차량이 강에 빠지자 강물이 육수로 가득 우러나고, 잠시 후 폭발하는 자신의 집을 바라보며 미소를 짓는 두 사람의 모습으로 끝이납니다.B급이라는 표현으로도 부족한 황당한 전개에 과장된 슬로모션까지 더해 광고는 처음부터 끝까지 절대 B급이라는 프레임을 벗어나지 않기 위해 노력합니다. 또한 이런 B급광고에 어울리지 않는 정극 배우들을 모델로 선정하여, 부조화를 이루고 있죠.이런 부조화가 오히려 신선하고 재밌게 다가오며, 소비자로부터 뜨거운 반응을 이끌고 있습니다.우리가 B급 감성을 사랑하는 이유이런 B급 감성의 광고가 소비자의 마음을 움직이는 이유는 뭘까요?익숙하게 자리한 밈(meme) 문화가 밑바탕이 되어있기 때문이라고 설명할 수 있습니다. 밈은 반복과 자가복제 즉 패러디가 핵심인데 B급 콘텐츠는 이러한 이야기 형식에 딱 들어 맞습니다. 한 번 웃기면 빠르게 퍼지고, 재생산되며, 비슷하지만 어딘가 새로운 또 다른 유행을 만들어냅니다.여기에 전형적인 광고의 모습이 아닌 마치 TV드라마의 한 장면같은 구성은 광고에 대한 거부감을 줄이는데 효과적인이면서, ‘B급이니까 광고더라도 그냥 재미로 한번 봐줘’ 의 뉘양스로 소비자에게 더 쉽게 다가갈 수 있었습니다.다만, B급 감성 마케팅을 시도해보고 싶다면 다음 3가지는 절대 피해야만 합니다. 브랜드가 전달하려는 메시지를 방해한다면, B급 감성을 접목하지 말아야 합니다: 브랜드의 상품과 서비스가 B급으로 표현되면 안되는 분야가 있을 수 있습니다. 대표적으로, 사람의 생명을 다루는 의료 또는 의약 분야가 있죠. 이런 분야에서 B급 감성을 잘못 적용하면, 소비자에게 전달될 상품과 서비스의 메시지가 왜곡될 수 있고 이로인해 잘못된 소비자의 이해가 발생할 수 있습니다. 뿐만 아니라, 광고로 인한 사회적 논란이 생겨날 수 있습니다.과한 유머는 소비자의 불쾌감을 유발시킬 수 있습니다: 특정 집단을 대상으로 희화하거나, 적절한 정도를 넘어서는 유머는 대중을 대상으로 하는 광고에서 오히려 반감을 불러일으킬 수 있습니다.일관성있는 메시지와 브랜드의 가치 안에서 B급 감성이 들어있어야 합니다: 이전 포스트인 2025년 대통령 선거로 보는 마케팅 기술에서도 언급되었지만 브랜드의 일관성은 곧 소비자들의 신뢰도와 직결된 부분입니다. 우리의 메인 메시지와 정체성이 이어지지 않은 B급 감성 마케팅은 그저 ‘B급 감성을 위한 마케팅’이 될 것입니다.🚩맥소노미가 PICK한 이유대부분의 광고와 마케팅의 목적은 소비자에게 브랜드의 가치를 진정성있고 친근하게 전달하여 브랜드로 들어오는 유입 장벽을 낮추기 위함입니다. 그러나 이때, 브랜드와 어울리지 못한, 그리고 정도를 지나친 B급 감성 마케팅은 되려 소비자 마음의 문을 닫아버릴 수 있으니 다른 마케팅 전략보다 더욱 신중할 필요가 있습니다. 브랜드가 소비자에게 이야기하고 싶은 메시지를 잃지 않고서 B급 감성이 활용되어야 마케팅을 통한 진정한 B급을 만들어낼 수 있습니다. B급 감성은 처음에는 소비자들에게 어설퍼 보일 수 있지만, 실제로 이는 계산된 어설픔이라 결과적으로는 완벽하다는 메시지로 이어집니다. 그리고 장난처럼 보이지만 누구보다 진지하다는 것을 소비자들이 알수 있습니다. 소비자가 처음에는 가벼운 마음으로 B급 감성 마케팅을 받아들이지만 궁극적으로는 누구보다 진지하게 자신들의 가치를 전달하고 있는 브랜드의 감성을 제대로 이해해주었을 때 B급 감성이 제대로 성공했다고 볼 수 있을 것 입니다.

Amplitude Feature Experiment: 데이터 기반 실험의 시작
실험이 중요한 이유디지털 서비스를 운영하다 보면 다음과 같은 질문과 마주하게 됩니다. “이 버튼을 바꾸면 클릭률이 더 높아질까?” “새로운 기능을 모든 사용자에게 바로 공개해도 될까?” “프리미엄 사용자에게만 실험적으로 먼저 공개해보고 싶은데, 어떻게 관리하지?”대부분 경우 직감이나 내부 회의로 결정을 내리지만, 그 결과가 실제로 사용자 경험과 KPI에 긍정적인 영향을 주는지 알기 어렵습니다. 이로 인해 향후에 추가적인 실험 테스트를 수행하기 어려운 환경이 조성되어 버리기도 합니다.또한, 서비스를 운영하다보면, 서비스의 성장을 위해 여러 고민과 의사결정이 필요한 순간이 옵니다.✅ 새로운 기능을 모든 사용자에게 배포하기엔 위험할 때✅ 디자인이나 UI를 바꾸고 그 효과를 정확히 측정하고 싶을 때✅ 특정 사용자 그룹에게만 실험적으로 기능을 보여주고 싶을 때✅ 실험 결과를 클릭률, 전환율, 리텐션율 등의 지표로 분석하고 싶을 때따라서, 개발단의 리소스를 최소화하면서, 실제 사용자 데이터 기반의 결과 분석이 가능한 실험 체계를 도입할 필요가 있습니다. Amplitude Experiment는 고객에게 제공하는 기능 on/off 토글링부터 A/B 테스트, 점진적 릴리즈, 결과 분석까지 하나의 워크플로우 안에서 지원함으로써 "기능 실험 → 결과 측정 → 의사결정"을 오차없이 빠르게 수행할 수 있도록 도와줍니다.Amplitude Experiment에서는 다음 두 가지 방식으로 실험을 구성할 수 있습니다.Feature ExperimentWeb Experiment이름만 보아서는 비슷해 보이지만, 실제 사용 목적과 운영 방식에는 뚜렷한 차이가 있습니다. 이번 포스팅에서는 이중 Feature Experiment에 대해 집중적으로 알아보겠습니다.Feature Experiment: 기능 중심 실험Feature Experiment는 코드 기반으로 운영되는 실험 방식입니다. 개발자가 직접 고객에게 보여줄 화면을 만들거나 신규 기능을 구현한 후에 이것을 일부 고객들에게만 노출하고 원하는 효과를 보았는지 확인하고자 할 때 활용합니다.개발단에서는 변경된 화면이나 기능을 적용하고 예외 처리를 추가하여 특정 사용자에게만 노출될 수 있도록 구현하고, 실무자는 원하는 고객군과 모수 비율을 Amplitude 콘솔에서 언제든 수정하여 테스트를 수행 해 볼 수 있습니다.개발단 기능- 화면 구성- 조건 처리실무단 기능- 모수집단 선정, 비율 선택- 전환 목표 지정, 분석 방식 선정- 테스트 시작, 종료, 기간 선정- 실험 분석 결과 확인- Analytics로 추가 심화 분석 수행예시로 이해하는 Feature Experiment 활용1) 신규 기능 가설 세우기어느 날, 개발자가 추천 알고리즘 로직 개선 작업을 완료 하였습니다. 이 알고리즘을 서비스에 적용하면 굉장한 효과를 보여줄 것이라 기대하고 있지만, 바로 운영계에 적용하기에는 어떤 사이드 이펙트가 있을지 예상할 수 없었습니다. 가령 잘못된 상품 추천으로 고객에게 안 좋은 경험을 제공하면 이탈로 이어질 수 있죠.따라서, 전체 고객이 아닌, VIP 고객 중 10%에게만 새 알고리즘을 적용하고 클릭률, 구매율을 측정하기로 하였습니다. 결과 데이터가 나머지 고객들에 비해 5%이상 증가한다면 전체 사용자에게 확대 배포하는 거죠.2) 개발단 작업처음 실험을 진행하는 것이라면 Amplitude Experiment SDK를 적용하는 작업이 필요합니다. 신규 추천 알고리즘은 이미 개발 완료된 상황이고 SDK 적용은 큰 시간이 소모되지 않기 때문에 거의 바로 실험 진행이 가능합니다.(Amplitude Experiment SDK 라이브러리 탑재 및 초기화 후 고객마다 서로 다르게 제공하고자 하는 위치에서 조건문(if)을 구성)Android 적용법1. 라이브러리 추가 (build.gradle에 dependencies 추가)2. 초기화 (Application단에서 초기화)3. 현재 사용자의 experiment 관련 정보 수신4. 고객이 보유한 flag 값에 따라 제공 여부 결정( 새로운 추천 알고리즘이 제공될 10%의 VIP 고객은 "on"으로, 그 외 고객들은 모두 "off"로 적용)3) Amplitude 설정(Experiment UI 구성)3-1) Deployment 생성하기운영하는 서비스는 여러 환경으로 구분되어 있습니다.개발계(development) / 내부 QA 테스트 수행 환경(staging) / 운영 환경(production)Android, iOS, Web 등 제공 플랫폼 환경실험을 진행하고자 할 때, 특정한 환경에서만 진행하실 수도 있고, 여러 환경에서 동시에 진행해 보실 수도 있을 겁니다. 이 때, 어떤 환경에 실험을 배포할 것인지를 정의할 수 있도록 "Deployment"라는 작업이 필요합니다.하나의 프로젝트 내에서 배포할 환경마다 각각의 Deployment를 생성해주시면, 실험을 진행할 때, 이 실험을 어떤 환경에만 배포할지 지정할 수 있습니다.Experiment > Deployments 화면에서 제공하는 “Create Deployment”를 클릭하고 배포할 환경의 이름과 프로젝트를 선택하면 바로 Deployment 생성이 가능합니다.3-2) Experiment 생성하기이제 기본적인 세팅은 모두 완료 되었으니 실험을 만들어 볼 수 있습니다!Experiment > Experiments 메뉴에서 새로운 실험명과 사용할 키 값을 정하신 후 생성(Create)합니다.4) 실험 설계4-1) 목표 설정하기실험을 만들 때 가장 먼저 생각해야 할 부분은 "목표" 설정 입니다. 실험을 한다는 것은 결국, 무언가를 더 좋게 만들기 위해서이기 때문에, 반드시 “이 실험을 통해 무엇이 좋아지기를 기대하는가?”에 대한 기준이 필요하며, 그것이 바로 목표 설정입니다. 우리가 설정한 목표를 달성했는지 여부를 가지고 이번 실험의 성공 여부를 파악해 보실 수 있겠지요.목표는 기존에 만들어 두었던 지표를 선택하실 수도 있고, 원하는 목표를 새롭게 생성하실 수도 있습니다.Unique, Event Total, Conversion 등 분석에서 활용해 보셨던 다양한 지표 옵션을 기반으로 목표 설정이 가능한데, 이번 실험에서는 클릭율이 5% 이상 증가하는 것을 목표로 잡았기 때문에, "화면 진입 > 버튼 클릭"으로의 전환율이 5% 이상 상승하는 것을 목표로 설정했습니다.4-2) 대안(Variant) 등록하기비교 테스트를 진행할 때, 대안은 하나일 수 있지만 여러 개가 있을 수도 있습니다. "내가 테스트하고 싶은 기능의 버전은 몇 가지이며, 각각 어떤 차이가 있을까?" 테스트 하고자 하는 대안의 수 만큼 Add a Variant 옵션으로 추가하여 정의할 수 있습니다. (단, 너무 많은 Variant는 분석을 어렵게 하므로 2~4개 이내를 권장합니다.)각 Variant의 Value 값은 SDK에서 분기 처리에 사용(e.g. variant.value)되므로 개발단에서 미리 지정하신 값이 있을 경우, 해당 값으로 기입되어야 하며, 미리 정의되어 있지 않았다면 여기에서 정의하시는 값으로 개발단의 코드 작업이 수행되어야 합니다.※Value 값이 수정될 경우, 앱의 재배포가 필요하므로 처음 생성 시 Amplitude에서 허용하는 명명규칙(숫자, 영문, 언더스코어, 하이픈만 허용)을 참고하시어 향후 변경하지 않을 값으로 지정이 필요합니다.4-3) 고객 그룹(Targeting) 정의하기[Audience]실험에 활용할 대안을 등록했다면, 누구를 대상으로 실험을 진행할 것인지 모수 집단을 선택하실 수 있습니다. All Users를 선택하여 전체 고객을 모수 집단으로 선정할 수 있으며, Target Users를 선택하여 특정 모수집단을 Segment로 정의할 수 있습니다.[Distribution]선정한 모수 집단을 각 대안에 어느 정도 비율로 할당 할것인지 지정할 수 있습니다. 기본 옵션인 evenly distribute로 동일한 비율로 지정하는 것을 권장 드리며, 원하실 경우 Customize 옵션으로 수동 설정이 가능합니다.(control로 할당되는 고객들은 실험에 참여는 하지만 실제로는 변경된 대안 UI가 노출되지 않는 그룹으로써, 대조군의 역할을 수행합니다.)[Rollout]지정하신 모수 집단 전체를 대상으로 실험을 수행하실 수도 있으나 그 중 일부를 대상으로만 진행하는 것도 가능합니다. Rollout 설정을 통해 전체 모수 집단 중 몇 %에 해당하는 고객들을 대상으로 실험을 진행할 것인지 범위를 지정할 수 있습니다.(Control vs. Rollout: control에 포함된 고객은 실험에 포함되어 향후 결과 분석 시 대조군 역할을 하지만, Rollout에서 제외된 고객은 실험 자체에 포함되지 않으므로 결과 또한 추적되지 않습니다.)5) 전달 구성5-1) Flag & Evaluation 정의Flag는 실험을 식별하는 고유 식별자로써, 실험을 생성하시는 시점에 key 항목으로 기입한 정보를 확인하실 수 있으며, 실험 시작 전까지는 변경이 가능합니다. 이 값은 SDK에서 실험 정보 요청에 사용(e.g.FLAG_KEY) 되므로 개발단에서 미리 정하신 값이 있다면 그 값으로, 없다면 여기에서 정의된 값으로 개발단의 코드 작업이 수행되어야 합니다.Evaluation Mode는 고객이 어떤 대안에 해당 되는지를 어디에서 계산할 것인지 선택하는 항목입니다. 일반적으로는 Amplitude에 수집된 정보를 실시간으로 확인하여 결정되나, 실시간 검토 방식은 통신 상의 약간의 딜레이(0.1~1초)가 발생하므로, 고객에게 즉각적으로 노출되어야 하는 UI에 대해서는 로컬에서 계산하는 방식을 선택하실 수도 있습니다.5-2) 배포 환경(Deployment) 선택지금까지 작성한 실험을 어떤 환경에 배포 할 것인지를 선택합니다. 특정 플랫폼이나 개발환경에만 적용하고자 하실 경우, 해당하는 deployment만 선택하여 배포가 가능합니다.6) 실험 시작모든 세팅을 완료했다면, 우측 상단 버튼을 이용하여 각 플랫폼 별로 적용할 수 있는 샘플 코드를 확인할 수 있습니다. 개발 담당자에게 해당 정보를 전달하여 적용을 요청할 수 있습니다.실험을 고객들에게 배포하기 전, 미리 등록해 둔 테스터만을 대상으로 선행적으로 배포가 가능하며, 예약 실행이나 feature flag만 활성화하고 실험 분석은 수행하지 않는 등 여러 옵션을 정의해 보실 수 있습니다.모든 사항의 확인이 완료되었다면, 최종적으로 Start Experiment를 클릭하여 실험 시작이 가능합니다. 실험을 종료할 때에는 초기 버전으로 롤백을 할 것인지, 아니면 특정 대안( Variant )으로 적용할 것인지 선정하여 실험을 마칠 수 있습니다.실험이 진행되는 동안 발생한 실험 참여(Assigentment), 실험 노출(Expouse) 및 목표로 잡은 정보들은 모두 고객별 프로필에 저장되므로 이를 기반으로 심층 분석(Analytics)을 바로 수행해 볼 수 있습니다. 또한, 처음 목표로 잡았던 것 이외에도 각 그룹별로 어떠한 변화가 있었는지 수집된 데이터를 기반으로 분석이 가능합니다.실험과 분석을 하나의 플랫폼 안에서실험과 데이터 분석은 이제 더 이상 따로 작업할 필요가 없습니다. 기존 A/B 테스트 도구들이 단순히 실험을 “실행”하는 데 집중했다면, Amplitude Feature Experiment는 실험 설계부터 분석, 최종 반영까지 추가적인 개발단 작업없이 한 번에 처리할 수 있는 실험 플랫폼 체계를 제공합니다.CUPED, Sequential Testing, Bonferroni 등 실험의 정확도를 높이는 기능이 기본으로 탑재되어 있어, 적은 트래픽으로도 빠르게 유의미한 결론을 얻을 수 있으며, Amplitude Analytics와 완벽히 연결되어 언제든 전환율,리텐션, 코호트 분석 등 심층적인 결과 분석을 바로 이어나갈 수 있습니다.또한 클라이언트 배포 없이, 서버-사이드 실험 연동을 지원하므로 고객들에게 끊김없는 실험 환경 제공이 가능합니다. 제품의 성과를 빠르게 검증하고, 그 결과를 정확히 해석해 다음 의사결정으로 이어가고 싶다면, Amplitude Feature Experiment는 더없이 강력한 선택이 될 것입니다.Feature Experiment 활용에 도움이 필요하나요?팀 맥소노미 Amplitude 도입문의 바로가기