The Day After AGI (AGI 그 이후의 세상) : 딥마인드 & 앤트로픽 CEO 대담

 

1. AGI는 언제 오는가? : "루프(Loop)"의 완성

두 CEO 모두 AGI 도래가 머지않았다는 점에는 동의하나, 결정적인 '속도'와 '병목 구간'을 보는 관점에 차이가 있음.

• 다리오 (Anthropic): 예상보다 더 빠를 수 있다.
  • 기존 예측(2026~2027년) 유지하거나 더 앞당겨질 가능성 언급.
  • 핵심 근거: AI가 코딩과 연구를 수행해 더 나은 AI를 만드는 **'자기 개선 루프(Self-improvement loop)'**가 닫히는 순간 속도가 폭발할 것임.
  • 현황: 앤트로픽 엔지니어들은 이미 직접 코딩하기보다 AI가 짠 코드를 수정하는 방식으로 일함. 6~12개월 내에 코딩 업무 대부분을 모델이 수행할 것으로 예측.

• 데미스 (DeepMind): 2020년대 말까지 50% 확률.
  • 코딩이나 수학처럼 검증 가능한(Verifiable) 영역은 빠르겠지만, **자연과학(실험과 가설 검증이 필요한 영역)**은 더딜 수 있음.
  • 단순 문제 해결이 아니라, '질문'과 '가설' 자체를 생성하는 능력은 아직 부족함.

 

2. 일자리와 경제: 적응 속도가 관건

• 단기 충격 (주니어 레벨):
  • 데미스는 인턴십이나 초급 업무(Junior level)가 가장 먼저 타격받을 것으로 봄.
  • 다리오는 이미 SW 코딩 분야에서 고용 둔화 조짐이 보이며, 향후 초/중급 인력 수요가 줄어들 것으로 예상.

• 희망 vs 우려:
  • 희망 (데미스): AI 도구를 잘 활용하면 개인이 과거보다 훨씬 빠르게 전문가 레벨로 도약할 수 있음(Leapfrogging). 경제적 문제보다 AGI 이후 인간의 '삶의 목적(Meaning)'을 찾는 것이 더 큰 숙제가 될 것.
  • 우려 (다리오): 농업→제조업 전환 때처럼 인간은 적응하겠지만, AI 발전의 지수적(Exponential) 속도가 인간의 적응 능력을 압도할까 봐 우려됨.

 

3. 리스크 관리: "기술적 사춘기"를 넘겨라

다리오는 현재 시기를 인류가 강력한 기술을 다루는 **'기술적 사춘기(Technological Adolescence)'**로 비유함 (영화 콘택트 인용).

• 위협 요인: 생물테러, 권위주의 국가의 악용, 자율적 AI의 통제 불능 등.
• 지정학적 해법 (칩 수출 규제):
  • 다리오는 중국 등 경쟁국과의 개발 속도를 늦추기 위해 첨단 칩 판매 금지가 가장 효과적이라고 주장.
  • 강력한 비판: 현재 미국이 중국에 칩을 파는 행태를 **"보잉이 이익을 위해 북한에 핵무기를 파는 것"**과 같다고 비유하며, 공급망 이익보다 안보를 우선해야 한다고 강조.
• 국제 협력: 데미스는 AI가 국경을 넘나드는 기술이므로 국제적인 안전 기준과 협력이 필수적이라고 언급.

 

4. 기업 성장과 현재 상황

• Anthropic의 폭발적 성장:
  • 매출 추이: 2023년 1억 달러 → 2024년 10억 달러 → 2025년 100억 달러(추정)로 매년 10배씩 성장 중.   
  • 모델의 인지 능력 향상이 곧바로 매출 증대로 이어지는 구조.
• DeepMind의 부활:
  • 데미스는 제미나이(Gemini) 등을 통해 구글이 다시 선두 경쟁력을 회복했다고 자신함.
  • 스타트업의 속도감과 구글의 거대한 리소스(컴퓨팅 파워 등)를 성공적으로 결합함.

 

5. 결론: 낙관하되 방심하지 말 것

두 리더 모두 AI가 질병 치료, 과학 발전 등 인류에게 가져올 엄청난 혜택(Upside)에 대해서는 확신함. 그러나 이 기술이 안전하게 정착될 때까지 시간을 벌고, 사회적 안전장치를 마련하는 것이 지금 가장 시급한 과제임

 

 

영상 요약 by Gemini

AGI 개발 타임라인 논의 (0:56):

• Dario Amodei : 2026-2027년까지 노벨상 수상자 수준의 지능을 가진 모델이 나올 것이라는 작년 예측을 여전히 지지하며, AI가 코드를 작성하고 AI 연구를 가속화하는 '루프'가 개발 속도를 훨씬 빠르게 할 것이라고 언급.
• Demis Hassabis : 2020년대 말까지 인간의 모든 인지 능력을 갖춘 시스템이 나올 가능성을 50%로 보며, 코딩이나 수학과 같은 영역은 자동화하기 쉽지만, 자연 과학 분야는 검증이 더 어렵기 때문에 시간이 더 걸릴 수 있다고 설명.

 

산업 경쟁 환경 변화 및 Anthropic의 성장 (4:15):

• Demis Hassabis : Google DeepMind가 지난 1년간 경쟁에서 다시 선두를 차지했으며, Gemini 3 모델과 Gemini 앱의 시장 점유율 증가에서 그 진전을 볼 수 있다고 언급.
• Dario Amodei : Anthropic의 매출이 지난 3년간 기하급수적으로 성장했다고 밝히며, 모델의 인지 능력이 향상됨에 따라 더 많은 수익을 창출할 수 있었다고 설명.

 

AI의 위험과 잠재적 해결책 (9:42):

• Dario Amodei : AI가 인류에게 엄청난 이점을 가져다줄 것이지만, 동시에 생물 테러, 국가 악용, 노동 시장의 변화와 같은 심각한 위험도 수반한다고 경고. 그는 이러한 위험을 극복하기 위한 '전투 계획'이 필요하다고 강조.
• Demis Hassabis : AGI가 도착하면 인류가 미지의 영역에 진입하게 될 것이며, 일자리가 창출될 수 있지만, 인류의 의미와 목적에 대한 더 큰 질문이 생길 것이라고 말합니다. 그는 AI의 이점을 보여주고 최소한의 안전 표준을 수립하는 국제적인 협력의 필요성을 강조.

 

정부의 역할과 지정학적 영향 (17:30):

• 두 리더 모두 정부가 AI의 잠재적 영향을 충분히 인지하고 있지 않으며, 일자리 변화 및 부의 공정한 분배에 대한 정책적 논의가 부족하다고 지적.
• Dario Amodei : 중국과 같은 지정학적 경쟁자들이 비슷한 속도로 기술을 개발하고 있기 때문에, 미국이 반도체 수출을 제한하는 것이 AI 개발 속도를 늦추고 위험을 관리할 시간을 벌 수 있는 가장 효과적인 방법이라고 주장합니다. 그는 AI 기술을 핵무기에 비유하며, 그 중요성을 강조.

 

AI의 안전 및 미래 전망 (24:50):

• 두 리더는 AI 모델의 오작동이나 악의적 행동에 대한 우려가 증가하고 있음을 인정.
• Dario Amodei : Anthropic이 모델 내부를 이해하려는 '기계론적 해석 가능성' 연구를 통해 이러한 위험을 해결하려 노력하고 있다고 설명.
• Demis Hassabis : 인류의 독창성을 믿지만, 기술적 위험을 해결하기 위해서는 충분한 시간과 자원, 그리고 최고의 인재들이 협력해야 한다고 강조.
• 이들은 AI 시스템이 AI 시스템을 구축하는 '루프'가 얼마나 빨리 닫히는지가 AI의 미래를 결정할 핵심 요소라고 언급.