효과적인 AI 전략 (How to build an effective AI strategy)

선도적인 조직들은 AI의 임팩트를 극대화하기 위해 명확한 비전을 설정하고, 전략적으로 유스케이스(Use Case)의 우선순위를 정하며, 결과를 엄격하게 측정하고 있습니다.

 

1년 전만 해도 생성형 AI(Generative AI)는 실현 가능성보다는 꿈에 가까웠고, 대부분의 조직은 그 잠재력을 조심스럽게 살피는 수준이었습니다. 하지만 오늘날 풍경은 완전히 달라졌습니다. 구글 클라우드(Google Cloud)의 의뢰로 내셔널 리서치 그룹(National Research Group)이 실시한 최근 연구에 따르면, 조직의 60% 이상(지난 12개월 동안 4배 이상 증가)이 현재 생성형 AI 유스케이스를 실제 운영 환경에 도입했습니다. 그뿐만 아니라, 조직 3곳 중 2곳은 향후 AI 예산의 50% 이상을 생성형 AI 이니셔티브에 할당할 계획을 세우고 있습니다.

생성형 AI의 잠재력을 선점하기 위한 경쟁은 공식적으로 시작되었습니다. 일부 기업은 이미 생성형 AI를 실제 애플리케이션에 적용하여 놀라운 돌파구를 마련하고 있는 반면, 다른 기업들은 아직 투자를 주저하고 있습니다. 전 세계 2,500명의 대기업 경영진(C-suite)을 대상으로 한 이번 연구는 조직이 어떻게 생성형 AI를 활용하여 실질적인 투자 자본 수익률(ROI, Return on Investment)을 달성하고 있는지, 그리고 무엇보다 이러한 성공을 돕는 구체적인 요소가 무엇인지 깊이 있게 다룹니다.

특히, 이 연구는 종합적인 AI 전략이 비즈니스 가치를 더 빠르게 창출하거나, 최소한 경쟁사보다 앞서 나가는 데 필수적임을 강조했습니다. 현재 AI 전략을 갖추고 있다고 답한 기업은 35%에 불과하지만, 전략을 갖춘 기업들은 더 빠르게 극적인 효과를 보고 있으며, 대다수(78%)가 이미 생성형 AI를 통해 ROI를 거두고 있습니다.

그렇다면 효과적인 AI 전략은 실제로 어떤 모습일까요?

구글은 자체적인 AI 혁신 개척 경험과 고객 지원 사례를 바탕으로, 승리하는 AI 전략이 명확한 AI 비전, 적절한 유스케이스에 대한 집중적인 실행, 그리고 지속적인 결과 추적이라는 세 가지 핵심 요소에 기반을 두고 있음을 발견했습니다. 현재 AI 전략을 개발 중인 경영진에게 이 세 가지 기본 원칙을 통합하는 것은 장기적이고 지속 가능한 성공으로 가는 명확한 경로를 설계하는 데 도움이 될 것입니다.

 

---

1. 명확하고 설득력 있는 AI 비전 수립 (Create a clear and compelling vision for AI)

탄탄한 AI 전략의 토대는 조직의 맥락 내에서 AI에 대한 통합적인 관점을 생성하는 능력에 있습니다. AI 이니셔티브는 독립적인 프로젝트로 취급되어서는 안 되며, 전체 기업 전략의 일부로 긴밀하게 통합되어야 합니다. 이러한 관점을 달성하려면 IT와 비즈니스 부문이 더 긴밀하게 협력하는 차별화된 운영 모델이 필요합니다.

구글 클라우드에서는 종종 '하향식(Top-down)'과 '상향식(Bottom-up)' 접근 방식을 병행하는데, 이를 통해 높은 수준의 전략과 전술적인 기술 유스케이스를 결합할 수 있습니다. 이 이중 접근 방식은 생성형 AI 구현을 더 넓은 전략적 목표와 일치시키는 동시에, AI로부터 가장 큰 혜택을 받을 팀과 이해관계자들로부터 실제 당면 과제에 대한 인사이트를 얻는 것을 용이하게 합니다.

하향식 관점에서는 전체 비즈니스 전략의 전략적 우선순위를 특정 AI 도메인(AI Domains, 투자를 집중할 수 있는 주요 영역)과 연결하는 것부터 시작합니다. 이러한 도메인은 특정 부서, 핵심 제품, 또는 고객 여정이나 컨택 센터 워크플로와 같은 엔드투엔드(End-to-end) 프로세스가 될 수 있습니다.

동시에 경영진은 현장 팀으로부터 피드백을 수집하여 아이디어를 크라우드소싱하고, 직원들이 업무 중에 겪는 구체적인 문제와 장애물을 더 잘 이해할 것을 권장합니다. 많은 조직이 사내 투표 양식을 발송하거나, 구글 클라우드와 함께 해커톤(Hackathons)을 개최하거나, AI 클라우드 브리핑 세션에 참석하여 업계 전반의 최신 유스케이스와 아이디어를 수집하고 구글이 내부적으로 AI를 어떻게 활용하는지 확인하고 있습니다. 거시적 전략은 일상적인 운영의 세밀한 부분을 간과하기 쉬운데, 이는 적절한 AI 기회를 식별하고 변화를 관리하는 데 매우 중요합니다.

구글이 '도메인'을 강조하는 이유는 단일 AI 구현만으로는 재무적 성과를 크게 바꾸기 어렵기 때문입니다. 특히 고립된 상태로 도입될 경우 더욱 그렇습니다. 가장 의미 있는 임팩트는 패스트푸드 주문 방식부터 야구 팬들의 경기 관람 방식, 과학자들의 신규 화합물 탐색 방식에 이르기까지 가치 사슬 전체를 재구성하기 위해 협업하는 여러 유스케이스에서 발생합니다.

 

---

2. 올바른 유스케이스의 우선순위 지정 (Prioritize the right use cases)

AI 전략을 구축할 때 가장 자주 듣는 과제 중 하나는 가장 큰 잠재력을 가진 유스케이스를 파악하고, 최대의 임팩트를 낼 수 있도록 우선순위를 정하는 방법입니다.

대부분의 조직이 생성형 AI에 대해 강력한 재무적 의지를 보이고 있지만, 어디에 먼저 투자해야 할지 결정하는 데 어려움을 겪는 경우가 많습니다. 생성형 AI의 다재다능함은 축복이자 저주입니다. 응용 분야가 방대하지만, 어떤 것이 가장 큰 가치를 제공하는지 판단하기 어려울 수 있기 때문입니다. 또한 조직은 기술적 복잡성, 데이터 준비도, 이해관계자의 지지, 광범위한 전략적 목표와의 일치 여부 등 다양한 요소를 평가해야 합니다.

유스케이스의 우선순위를 정할 때, 예상 가치 창출(Value generation)과 추정 실행 가능성 및 타당성(Actionability and feasibility)을 기준으로 각 잠재적 유스케이스를 배치하는 간단한 매트릭스를 활용하는 것이 도움이 됩니다.

A simple matrix to plot out each potential use case based on the expected value generation vs. the estimated actionability and feasibility of that use case.

다음은 유스케이스를 매핑하기 위해 자문해 볼 수 있는 질문들입니다:

비즈니스 가치(Business Value)

• 임팩트(Impact): 이것이 고객과 직원의 니즈를 실질적으로 변화시킬 것인가?
• 정렬(Alignment): 이것이 우리의 핵심 사업 목표를 어떻게 지원하는가?
• 재사용성/확장성(Reuse / extensibility): 미래의 유스케이스를 위해 이를 재사용하거나 기반으로 삼을 수 있는가?

실행 가능성(Actionability)

• 사용성(Usability): 이것이 진정으로 유용하려면 AI가 얼마나 정확해야 하는가?
• 채택(Adoption): 기존 프로세스에 얼마나 쉽게 적용할 수 있는가?
• 속도(Speed): 조직을 위해 얼마나 빨리 가치를 창출할 수 있는가?

타당성(Feasibility)

• 기술적 적합성(Technical fit): 이 유스케이스에 AI가 정말 적합한 해결책인가?
• 데이터 준비도(Data readiness): 이 유스케이스를 위한 데이터는 얼마나 접근 가능하고 신뢰할 수 있는가?
• 리스크 허용도(Risk tolerance): 부정확성이나 오용에 따른 영향은 무엇인가?

종합적으로 이러한 매트릭스를 사용하면 AI의 모든 가능성을 이해하는 프로세스를 단순화하고, 서로 다른 유스케이스 간의 트레이드오프(Trade-offs, 절충 관계)를 명확하게 시각화할 수 있습니다.

예를 들어, 이러한 우선순위 지정 프로세스는 한 글로벌 금융 서비스 고객을 위한 명확하고 실행 가능한 AI 로드맵을 정의하는 데 도움이 되었습니다. 이 기업은 리테일 및 상업 고객 모두를 보유하고 있었기에 프런트 오피스의 고객 경험 개선부터 백 오피스의 데이터 및 문서 처리 간소화까지 수많은 잠재적 유스케이스가 있었습니다.

매트릭스를 통해 구글은 이 회사가 매일 엄청난 양의 전화를 처리하는 '고객 컨택 센터' 영역에 집중하도록 도왔습니다. 자주 묻는 질문에 답하고 고객을 안내하는 가상 AI 에이전트(Virtual AI agents)를 도입하는 것은 수천 명의 상담원 전체에 걸쳐 컨택 센터 운영 비용을 절감함으로써 높은 비즈니스 가치를 제공했습니다. 동시에 구글 클라우드 AI를 사용하여 이러한 가상 에이전트를 구축하는 것은 마찰이 적고 실현 가능성이 높은 교체 방안이었기에 도입과 가치 실현 시간을 단축할 수 있었습니다.

두 번째 우선순위로, 이 회사는 데이터베이스 쿼리 기술 없이도 금융 데이터에 접근하고, 안전장치가 마련된 개인화된 금융 조언을 받으며, 문서 처리를 간소화하는 유스케이스를 선정했습니다. 이들은 가치는 높았지만 더 많은 데이터 통합, 운영 워크플로 변경, 리스크 관리 프로세스 및 이해관계자 조율이 필요하여 가치를 빠르게 실현하는 데 시간이 더 걸리는 복잡한 사례들이었습니다.

 

---

3. 생성형 AI 진척도 측정 (Measure your gen AI progress)

유스케이스를 파일럿으로 운영하든 실제 프로덕션에 출시하든, 조직은 AI 전략이 실제로 약속된 결과를 내고 있는지 확인해야 합니다. 다른 이니셔티브와 마찬가지로 생성형 AI의 성과를 평가하는 것은 성공의 필수 요소입니다.

생성형 AI의 비즈니스 가치를 완전히 이해하려면 파일럿부터 출시 및 그 이후까지 각 유스케이스의 전체 라이프사이클을 측정하고 지속적으로 최적화 및 개선해야 합니다. 여기서 핵심 성과 지표(KPIs, Key Performance Indicators)는 성과를 객관적으로 평가하고, 전략을 비즈니스 목표와 일치시키며, 가시적인 수익을 증명하고, 데이터에 기반한 조정을 내리는 데 중요합니다. 임팩트를 엄격하게 측정하는 것은 조직 내 리더십의 책무를 강화하고 향후 유스케이스의 우선순위를 정하는 데 귀중한 인사이트를 제공합니다.

구글 클라우드는 AI를 다음 5가지 주요 영역에서 측정할 것을 권장합니다:

1. 모델 품질 지표(Model quality metrics): AI 모델의 정확성, 사실성, 신뢰성 및 보안을 평가하고 모니터링합니다. 이는 책임감 있는 AI 원칙과 관행을 지원하는 동시에 최종 목표와 관련하여 현실적인 기대치를 설정하는 데 도움이 됩니다.
2. 시스템 지표(System metrics): AI 시스템이 조직의 요구 사항을 지원하기 위해 효율적이고 안정적이며 대규모로 실행되는지 확인하는 것이 중요합니다. 이 지표는 AI 플랫폼 및 인프라의 상태와 성능을 모니터링하며, 병목 현상을 밝혀내고 컴퓨팅 비용 및 성능 최적화 영역을 찾아낼 수 있게 합니다.
3. 채택 지표(Adoption metrics): AI 채택은 하룻밤 사이에 이루어지는 프로세스가 아니므로 사용자가 새로운 생성형 AI 도구와 어떻게 상호작용하는지 깊이 이해해야 합니다. 이 지표는 채택률, 사용 빈도 및 기타 정성적인 사용자 피드백에 대한 인사이트를 제공합니다.
4. 운영 지표(Operational metrics): AI 투자의 ROI를 판단하려면 AI가 비즈니스 프로세스에 어떤 영향을 미치는지 이해해야 합니다. 이 지표는 AI 기능이 클릭률(Click-throughs)이나 상담 완결률(Call containments)과 같은 하류(Downstream) 성과를 내고 있는지 측정하는 데 도움이 됩니다.
5. 비즈니스 임팩트(Business Impact): 마지막으로, 이러한 재무 지표는 수익 증대, 비용 절감, 리스크 완화, 또는 투자 대비 주요 영역에서의 혁신 가속화와 같은 전략적 목표를 달성하고 있는지에 대한 가시성을 제공합니다.

KPI를 이 5가지 영역으로 세분화함으로써 생성형 AI 가치에 대한 종합적인 이해를 얻는 동시에 투자에 따른 기술적 및 비즈니스적 임팩트에 대한 깊은 인사이트를 얻을 수 있습니다.

마지막으로, AI가 출시된 후 결과를 비교할 수 있도록 현재 시점의 기준 지표(Baseline)를 설정하는 것이 중요합니다. 이를 위해서는 출시 전 측정 기간을 갖거나, AI를 도입한 프로세스의 결과와 AI가 없는 동일한 프로세스의 결과를 비교하는 A/B 테스트 전략이 필요할 수 있습니다.

많은 고객과의 협력 과정에서 경영진의 가장 큰 고민 중 하나는 측정에 쏟는 일관된 관행과 노력이었습니다. 가장 좋은 방법은 유스케이스의 설계 단계에서 이러한 측정 계획을 수립하는 것이며, 구현 도중에 덧붙이는 사후 고려 사항으로 취급하지 않는 것입니다.

 

---

생성형 AI 투자의 잠재력을 최대한 실현하세요 (Unlock the full potential of your gen AI investments)

AI 전략은 이러한 새로운 역량이 전략적 목표 및 비즈니스 요구 사항과 일치하도록 보장해야 합니다. 또한 AI 전략은 단순히 AI 기술과 인프라를 배포하고 확장하는 것 이상을 의미합니다. 사람, 프로세스, 조직적 요인도 함께 다루어야 합니다. 이러한 맥락이 없다면 생성형 AI 이니셔티브는 아무리 인상적이라 할지라도 기대치를 충족하고 잠재력을 최대한 발휘할 가능성이 거의 없습니다.

AI는 전례 없는 조직적 가치를 창출할 수 있는 독보적인 위치에 있는 혁신적인 기회이지만, 이를 최대한 활용하려면 적절한 전략을 짜는 것이 필요합니다. 이 순간을 포착하려는 리더와 경영진에게 위에 설명된 핵심 기본 원칙을 이해하는 것은 오늘과 미래 모두에서 AI 이니셔티브가 번창할 수 있는 토대인 사려 깊고 포괄적인 전략을 수립할 수 있게 해줄 것입니다.

 

(source : Google Blog, 2024)

https://cloud.google.com/transform/how-to-build-an-effective-ai-strategy?hl=en