한 줄 요약

샘 알트만은 AI 코딩 시대에는 작은 스타트업도 과거 100명급 엔지니어링 팀이 하던 일을 할 수 있고, 스케일은 사람들이 예상하지 못한 새 속성을 만들며, 앞으로의 병목은 더 똑똑한 모델만이 아니라 값싸고 풍부한 추론 컴퓨트라고 설명한다.

영상 메타

픽업

  • AI 코딩 시대에는 스타트업의 야심과 속도 상한이 달라졌다. 알트만은 감당 가능한 토큰 비용만으로도 과거에는 훌륭한 100명 엔지니어링 팀이 필요했던 일을 할 수 있게 됐다고 말한다. 그래서 창업자가 노릴 수 있는 문제의 크기, 동시에 진행할 수 있는 일의 양, 움직이는 속도가 이전과 완전히 달라졌다고 설명한다.
  • 좋은 스타트업 아이디어는 남이 배정해 줄 수 없고, 새로 가능해진 비자명한 영역에서 나온다. 그는 OpenAI를 시작할 때 전 세계 AGI 시도가 극히 적었다고 회상하며, 자동화된 코딩 시대 이후에만 가능해진 거대한 시장이 지금도 있을 것이라고 말한다. 다만 그런 아이디어는 강사가 지정해 주는 과제가 아니라 현장에 있는 창업자가 더 잘 발견한다고 본다.
  • 스케일은 합의된 예상보다 오래 수익을 내고, 새 emergent property를 만든다. 알트만은 AI scaling law뿐 아니라 YC 배치 규모, 연구 조직, 회사 운영에서도 규모를 키웠을 때 네트워크 효과나 경제 효과가 새로 나타났다고 말한다. 이미 작은 규모에서 작동하는 것을 전례 없는 규모로 밀어붙일 수 있다면 대체로 더 탐구할 가치가 있다고 본다.
  • 스케일을 밀어붙이는 일은 기술·자본·문화 문제를 각각 분해해 해결하는 시스템 설계다. 대규모 모델 학습에서는 1만~10만 GPU 실행 가능성, 막대한 자본 요구, 연구자들의 포트폴리오 분산 요구가 동시에 장애물이었다고 설명한다. 그는 명확한 목표와 계획, 의사결정 기준이 있어야 사람들이 큰 베팅에 정렬된다고 말한다.
  • ChatGPT는 사용자가 API를 채팅처럼 쓰는 행동에서 제품 신호를 얻었다. GPT-3 API는 초기에는 사업적으로 크게 먹힌 영역이 copywriting 정도였지만, 개발자들이 API 키로 모델과 채팅하는 모습을 보고 챗봇을 만들었다고 말한다. 출시 후 제품이 아직 좋지 않은데도 사용량이 계속 더 높은 피크를 만들자, 그는 “좋은 종류의 비상상황”으로 보고 회사와 제품을 동시에 키우는 모드로 전환했다고 설명한다.
  • AI는 전기나 인터넷처럼 새 유틸리티가 될 수 있지만, 팔아야 하는 언어는 아직 덜 찾았다. 알트만은 초기 전기 회사들이 “전기”보다 “밤의 빛”을 팔았던 것처럼, OpenAI도 “지능을 판다”는 표현만으로는 충분히 와닿지 않는다고 말한다. 사람들이 이해할 수 있는 방식으로 “지능 파이프”의 가치를 설명해야 한다고 본다.
  • 앞으로의 큰 병목은 값싸고 풍부한 inference와 compute 배분이다. 그는 프런티어 랩들이 상당 부분 inference 회사가 되어야 하며, 모델이 충분히 똑똑하고 싸지면 수요는 거의 무한에 가깝다고 말한다. 개인 에이전트를 10개가 아니라 100개씩 돌리고 싶어지는 세계에서는 컴퓨트 부족이 오래갈 수 있고, 사회적으로 이를 어떻게 배분할지도 중요한 갈림길이 된다고 설명한다.

용어

  • Emergent property [하니스 · 패턴]: 작은 규모에서는 보이지 않다가 규모를 키웠을 때 새로 나타나는 속성이나 효과. 영상에서는 YC 배치 네트워크 효과와 AI scaling law의 공통 패턴으로 설명된다.
  • Scaling law [모델 · 구독]: 모델 규모, 데이터, 컴퓨트가 커질수록 성능이 예측 가능한 방향으로 좋아지는 경험적 법칙. 알트만은 LLM scaling에 계속 베팅해야 한다는 근거로 든다.
  • Inference [빌링 · 운영]: 학습된 모델을 실제 사용자 요청에 실행하는 단계. 영상에서는 앞으로 싸고 풍부하게 공급해야 할 핵심 컴퓨트 영역으로 언급된다.
  • A100 equivalent GPU [빌링 · 운영]: 서로 다른 GPU 성능을 A100 기준으로 환산한 컴퓨트 단위. 알트만은 AI 연구 인턴 목표를 50만 A100 equivalent GPU 사용량으로 표현한다.
  • Post-training [모델 · 구독]: 사전학습 뒤 모델이 지시를 따르고 대화형으로 동작하도록 다듬는 학습 단계. ChatGPT 직전 3.5 모델을 채팅에 맞게 만든 핵심 변화로 나온다.
  • World model [모델 · 구독]: 모델이 세계의 구조와 동역학을 내부적으로 이해하는 능력 또는 구조. 알트만은 로보틱스 같은 영역에 중요하다고 말하지만, LLM scaling을 부정할 근거로 보지는 않는다.
  • Citizen’s wealth fund [커리어 · 조직]: 시민들이 국가나 세계의 자본 일부를 지분처럼 보유하는 방식의 분배 모델. 알트만은 고정 현금 배당보다 소유 지분 쪽이 인간 심리에 더 잘 맞는다고 말한다.
  • Utility model [워크플로우 · 문화]: AI를 일부 회사의 독점 기술이 아니라 전기·인터넷처럼 널리 접근 가능한 기반 서비스로 보는 관점. 알트만은 기술 집중과 정렬 실패를 줄이려면 이 방향이 중요하다고 설명한다.