AGI는 이미 왔다 — Anthropic이 증명했다 — Nate Herk | AI Automation

한 줄 요약

Anthropic의 “When AI builds itself” 리포트(출하 코드의 80%+를 자체 AI Claude가 작성)를 근거로, 발화자는 “답이 정해지지 않은 새 문제를 스스로 풀어내는 범용 AI”라는 실용적 정의로는 AGI가 이미 조용히 도래했다고 주장하며, 그로 인한 사회 격차·멈출 수 없는 AI 레이스·인간 가치의 이동을 짚는다.

영상 메타

• URL: https://youtu.be/NDeyhGnNECc
• 채널: Nate Herk | AI Automation
• 길이: 12분 37초
• 업로드: 2026-06-05
• 조회수: 5,648 / 좋아요 389
• 시청일: 2026-06-06 KST (🍎 본진이 자막 추출 후 요약)

픽업

• Anthropic이 공개한 “When AI builds itself” 리포트 — 지난달 기준 Anthropic이 출하하는 코드의 80% 이상을 자사 AI Claude가 직접 작성하고 있다.
• 실용적 AGI 정의: “답이 정해지지 않은, 처음 보는 문제를 던지면 스스로 연구하고 실험하고 여러 접근을 시도한 끝에 실제로 작동하는 결과를 가져오는 것”. 한 분야를 99% 잘해도 한 레인에 갇힌 narrow AI(체스·추천 알고리즘·인박스 분류)와 결정적으로 다르다.
• 발화자 주장: 그 정의로 보면 AGI는 이미, 조용히 도래했다. 아무도 AGI 정의에 투표하지 못했고, 그걸 만든 회사가 오히려 조심하라고 경고하는 상황이다.
• 사회 격차: AI를 한 팀처럼 부리는 사람·회사와 검색창처럼 쓰는 사람의 격차가 매달 벌어진다. 리포트는 100명 규모 회사가 10,000~100,000명 조직의 일을 할 수 있다고 말한다.
• 멈출 수 없는 레이스: 노트북 앞 1인 개발자부터 빌리언달러 랩·국가까지 “멈추면 진다”는 동일한 인센티브를 가진다. Anthropic도 “계속할 인센티브가 막대하다”고 자기 리포트에서 인정한다.
• Alignment 딜레마: Anthropic이 가장 확신하지 못하는 게 alignment(시스템을 인류에 유익한 방향으로 정렬). 슬로다운이 좋겠지만 모든 랩이 동시에 멈추고 그게 검증돼야 가능한데 — “training run은 미사일 사일로보다 숨기기 쉽다”. 냉전기 ‘trust but verify’ 핵 조약은 수십 년 걸렸고, “우리에겐 그만한 시간이 없다”.
• 가치의 이동: 타이핑·grunt work 같은 ‘실행’이 거의 공짜가 되면 가치는 judgment·taste·expertise로 옮겨간다 — 애초에 어떤 문제에 AI를 겨눌지 아는 능력. Anthropic도 “인간이 여전히 더 나은 건 큰 그림을 보고 당면 과제 너머를 사고하는 것”이라 말한다. 지금 키워야 할 근육이 그것이다.

용어

• AGI (Artificial General Intelligence) [모델 · 구독]: 답이 정해지지 않은 새 문제를 스스로 연구·실험해 해결하는 범용 지능. 영상은 의식·만능 여부 논쟁 대신 “알아서 풀어내는가”라는 실용적 정의를 채택.
• Narrow AI [모델 · 구독]: 특정 한 작업만 잘하도록 만들어진 AI(체스 엔진, 추천 알고리즘, 인박스 분류기 등). AGI와 대비되는 개념.
• Alignment [워크플로우 · 문화]: AI 시스템이 인류·사회에 유익한 방향을 계속 가리키도록 정렬하는 문제. Anthropic이 가장 불확실해하는 영역.
• When AI builds itself [지식 · 컨텍스트 자산]: Anthropic이 자사 내부에서 AI가 코드·업무를 스스로 생성·자동화하는 실태를 공개한 리포트.
• trust but verify [워크플로우 · 문화]: 냉전기 미·소 핵 감축 조약의 검증 원칙(상호 사찰). AI 랩들의 슬로다운을 검증할 수 있는가에 대한 비유로 인용 — training run은 미사일과 달리 위성으로 못 본다.