제품 분석은 크게 기술적 분석과 진단적 분석으로 나뉩니다. 기술적 분석은 '무엇이 일어났는지'를 보여줍니다. 예를 들어 "전환율이 15% 하락했다"는 전형적인 기술적 분석입니다. 반면 진단적 분석은 '왜 그런 일이 일어났는지' 원인을 설명합니다. "최근 릴리스에서 발생한 입력 폼 버그 때문에 Safari 모바일 사용자들이 이탈했다"라고 짚어주는 식입니다.
안타깝게도 현재 대부분의 데이터 분석 도구는 현상을 보여주는 '기술적 분석'에 머물러 있습니다. “이번 달 MAU가 2% 증가했습니다”, “지난 6개월 간 신규 사용자의 60%가 이탈했습니다”와 같은 식이죠. 하지만 실무에 진짜 필요한 것은 단순 수치 변화가 아니라 그 이면에 있는 명확한 인과관계입니다. 수치의 원인이 무엇인지, 유의미한 변화를 줄만한 수치인지, 어떤 수치를 더 살펴보아야 할지, 어떤 조치를 취해야 할지 등 실질적인 개선으로 연결할 수 있는 인사이트가 필요합니다.
Amplitude의 자동화 인사이트(Automated Insights)는 '진단적 분석'을 중심으로 인사이트를 제공합니다. 실험, 릴리스, 주석, 세그먼트 데이터를 종합적으로 읽어들인 뒤, 이 모든 맥락을 바탕으로 지표 변화의 유력한 원인에 대한 가설을 세웁니다.
물론 우려도 있습니다. 진단적 분석에는 복잡한 맥락 이해와 실제 세상에 대한 직관 등 아직 AI가 수행하기 어려운 여러가지 능력이 필요하기 때문입니다. 이번 포스팅에서는 Amplitude 자동화 인사이트가 무엇인지, 어떻게 AI의 한계를 극복하여 실무적 유용성을 입증했는지 알아보도록 하겠습니다.
Amplitude 자동화 인사이트란?
Amplitude는 홈 화면, 차트 생성 화면, 세션 리플레이 등 어디에서나 Amplitude AI를 접근할 수 있도록 설계했습니다. Amplitude를 사용하면서 궁금하게 생길 때, 아이디어가 떠오를 때, 무언가를 시도하고 싶을 때 언제든 Amplitude AI에게 물어볼 수 있도록 말이죠. Amplitude 자동화 인사이트 이런 Amplitude AI 안에서 찾을 수 있습니다. 사용자가 질문하면 질문에 대해 단순 수치 결과만 나열하는 것이 아닌, 모든 데이터를 종합적으로 분석하여 현상의 원인을 추정하여 지표와 함께 제공합니다.
Amplitude를 사용하고 있다면 지금 Amplitude AI에게 질문 해보세요. 가령 “지난 1개월 간 지표 중 눈여겨볼 만한 정량적 변화 Top3를 찾아줘”라고 질문한다면 단순 이상 수치만 진단하는 것이 아닌 그 원인까지 추정하는 모습을 볼 수 있을 것입니다.
Amplitude 자동화 인사이트 개발 여정
1️⃣데이터 분석과 신뢰
데이터 분석에서 가장 중요한 것은 신뢰입니다. 분석에서 신뢰가 깨지면 치명적인 결과가 따릅니다. 만약 Amplitude가 잘못된 분석 결과를 내놓는다면, 사용자는 비즈니스에서 크고 작은 피해를 입게 되고, Amplitude는 고객의 신뢰를 잃게 됩니다. 그야말로 '모두에게 손해'인 상황이 벌어지죠.
신뢰를 주기 위해 필요한 것은 정확도입니다. Amplitude는 자동화 인사이트 기능을 만들기 위해 우선 '정확도'의 기준을 명확히 정의하고, 실무자들이 매일 인사이트를 활용하는 실제 방식에 맞춰 이를 측정했습니다. 그러면서도 자칫 불가능한 목표를 설정하지는 않았습니다. "진단적 AI가 가치를 제공하기 위해 완벽할 필요는 없다. 그저 일관되게 유의미한 도움을 주면 된다"를 기본 방향으로 잡고 개발을 시작했습니다.
2️⃣인사이트의 '정확도'를 측정하기
Amplitude 자동화 인사이트의 결과물은 다음 두 가지 기준으로 엄격하게 평가했습니다.
- 실제 사례 기반 검증: 인간 분석가가 이미 분석을 마쳐 정확한 근본 원인을 알고 있는 실제 과거 사례인가?
- 독립적인 판별 모델 활용: AI가 정확한 원인을 찾아냈는가? (해당 판별 모델은 분석 시스템과 완전히 분리되어 작동하며, 실제 인간 리뷰어와 유사한 수준의 평가 성능을 보입니다.)
이를 바탕으로 재현율, 정밀도, 통찰력(시스템이 최소 하나 이상의 정확한 인사이트를 도출했는지 여부) 지표를 추적했습니다. 흥미롭게도 이 중에서 가장 유의미한 지표는 바로 '통찰력'이었습니다.
실무에서 처음부터 완벽하게 다듬어진 한 편의 보고서가 필요한 경우는 드뭅니다. 대신 '명확한 분석의 출발점'만 주어지면 아주 빠르게 해답을 찾을 수 있습니다. 시스템이 80%의 확률로 정확한 인사이트를 도출하는 수준에 도달했을 때, 이 기능이 분석가들의 이슈 리서치 시간을 획기적으로 줄여줄 수 있을 것이라 판단했습니다.
3️⃣모르는 것을 아는 척하지 않는 AI
사실 실무에서 마주하는 데이터 문제는 하나의 원인으로 딱 잘라 설명하기 어려운 경우가 많습니다. 대표적인 예가 봇 트래픽입니다. 봇과 유사한 비정상 패턴을 감지할 수는 있어도, 그것이 전체 지표에 미친 정확한 영향력을 숫자로 정량화하는 것은 불가능에 가깝습니다.
Amplitude는 자동화 인사이트는 AI가 아는 것 이상으로 결과를 포장하지 않도록, 신뢰도 수준을 함께 리포팅하도록 설계했습니다. 정밀도를 과장하지 않으면서 "봇 트래픽이 유력한 요인일 수 있습니다"라고 플래그를 띄워주는 식입니다.
또한 자동화 인사이트는 단 하나의 정답만 강요하는 대신 타당해 보이는 여러 개의 가설을 동시에 제시하고, 최종 판단은 분석가에게 맡깁니다. 실무에서도 특정 현상에 대해 결론을 내리기 전에 여러 가설을 두고 저울질하는 경우가 많습니다. 여러 가설을 제시하는 방식은 섣부른 결론을 내리는 것보다 훨씬 더 현실적이며 우리에게 익숙합니다.
이런 부분적인 인사이트만으로도 업무 속도가 훨씬 빨라집니다. 올바른 방향을 가리키는 작은 힌트 하나가 다음 분석 단계로 넘어가는 열쇠가 되기 때문입니다. 심지어 특정 가설이 틀렸음을 확인하는 것조차도 조사 범위를 좁혀주므로 가치가 있습니다.
4️⃣투명성과 신뢰
결과 이면에 있는 논리 구조를 직접 눈으로 확인할 수 있을 때 인사이트를 더 깊이 신뢰할 수 있습니다. 이를 위해 Amplitude AI는 두 가지 투명성 장치를 제공합니다.
- 실시간 추론 과정: AI가 어떤 도구를 호출하고 어떤 데이터를 확인하며 결론에 도달하는지 사용자가 실시간으로 지켜볼 수 있습니다.
- 인라인 인용: AI가 세운 모든 가정과 발견 사항을 실제 참조한 원본 데이터 소스에 직접 링크로 연결해 줍니다.
관찰 결과, 대부분의 사용자는 처음 몇 번은 AI가 내놓은 근거를 하나하나 꼼꼼하게 검증합니다. 하지만 결과가 타당하다는 것을 몇 차례 직접 확인하고 나면, 점차 의심을 거두고 AI의 분석을 신뢰하게 됩니다.
기술적 분석에서 진단적 분석, 예측 분석으로의 진화
Amplitude AI의 진화 과정은 거대언어모델(LLM)의 발전 방향과 맞닿아 있습니다.
- 기술적 분석 (Descriptive): 자연어 질문만으로 차트를 그려주는 'Ask Amplitude'를 통해 현상을 빠르게 파악합니다.
- 진단적 분석 (Diagnostic): '자동화 인사이트'를 통해 지표가 왜 변했는지 근본 원인을 신속하게 진단합니다.
- 예측 분석 (Predictive): 이제 우리가 나아갈 다음 단계는 앞으로 어떤 일이 일어날지 미리 내다보는 예측 분석입니다.
제대로 된 예측 분석을 수행하려면 강력한 진단 도구가 반드시 뒷받침되어야 합니다. 과거의 변화를 이끌어낸 원동력을 이해하지 못한다면, 미래를 효과적으로 예측하는 것은 불가능하기 때문입니다. 현재 Amplitude가 제공하는 진단적 분석의 토대는 앞으로 등장할 예측 분석 도구의 핵심 엔진이 될 것입니다.
마치며: 신뢰로 시작하는 분석 여정
단순히 AI가 더 똑똑해 보이도록 시스템 프롬프트를 조절하는 것만으로는 신뢰할 수 있는 AI를 만들 수 없습니다. 신뢰할 수 있는 AI는 실무자들이 실제로 믿고 의지할 수 있는 인사이트를 제공할 수 있어야 합니다.
작업 과정을 투명하게 보여주고, 불확실성을 솔직하게 표현하며, 실패로부터 지속적으로 학습하고, 실제 분석가의 사고방식을 닮은 패턴에 추론의 근거를 두는 것. 이것이 Amplitude AI가 고객의 신뢰를 얻는 방식이며, Amplitude 안에서 AI 시스템을 구축할 때 동일하게 적용하는 원칙입니다.
Amplitude 자동화 인사이트의 궁극적인 목표는 분석가를 대체하는 것이 아니라, 실무자가 가장 잘할 수 있는 일에 집중하도록 돕는 것입니다. AI가 방대한 데이터 속에서 유의미한 가설과 추론의 출발점을 빠르게 좁혀주면, 그 위에서 비즈니스 맥락을 읽고 최종 의사결정을 내리는 것은 결국 실무자의 몫입니다. 투명하고 정직한 AI를 든든한 분석 파트너로 삼아, 가설 검증과 의사결정의 속도를 한 차원 높여보시길 바랍니다.
< 함께 보면 좋은 콘텐츠 >
🔗비즈니스 성장을 이끄는 AI 데이터 관리 팁 5가지: AI를 활용한 데이터 관리
🔗Amplitude 활용 점검: AI 마케팅 워크시트
🔗Amplitude AI 에이전트와 Amplitude MCP의 차이점
앰플리튜드, 자동화, 행동분석, 데이터 시각화, 인공지능(AI), 데이터 분석, Amplitude AI