AI 속도 논쟁을 한눈에 정리합니다. 2026년 9월 12일 토요일, AI 회사 Anthropic의 CEO 다리오 아모데이가 에세이 한 편을 올렸습니다. 제목은 「We Must Pace the Frontier」. 우리는 프런티어의 속도를 조절해야 한다는 뜻입니다. 몇 시간 뒤 경쟁사 OpenAI의 샘 알트만이 “우리도 그렇게 하겠다”고 답했고, 일론 머스크가 동의했고, 다음 날 메타의 AI 총괄까지 같은 방향의 글을 올렸습니다.
AI 속도 논쟁 목차
그리고 9월 13일, 미국 대통령은 아일랜드 골프장에서 기자들에게 이렇게 말했습니다. “Whoever wins AI, wins.” AI에서 이기는 쪽이 이긴다. AI 속도 논쟁의 핵심은 사실과 해석을 분리해서 보는 것입니다.
저는 AI 뉴스를 매일 보는 편인데, 이번 주는 좀 달랐습니다. 보통 “AI 위험하다”는 말은 밖에 있는 사람들이 합니다. 학자, 정치인, 비판자들. 그런데 이번엔 액셀을 밟고 있던 손이 먼저 브레이크를 말했습니다. 그래서 이 48시간은 정리해 둘 가치가 있다고 생각했습니다. 사실을 먼저 놓고, 제 해석은 맨 뒤에 따로 두겠습니다. 10분짜리 영상으로 보시려면 아래 유튜브를, 글로 보시려면 그대로 읽으시면 됩니다.
AI 속도 논쟁: 1. 아모데이는 왜 지금 이 말을 했나
아모데이는 올해 1월까지만 해도 “감속은 경쟁 때문에 현실적으로 어렵다”는 입장이었습니다. 그가 입장을 바꾼 이유는 두 가지입니다. 이 대목이 AI 속도 논쟁에서 가장 자주 인용되는 부분입니다.
첫째는 RSI, Recursive Self-Improvement(재귀적 자기개선)입니다. AI가 다음 세대 AI를 만드는 일을 돕기 시작했다는 것입니다. 지금까지는 사람이 AI를 만들었는데, AI가 AI 연구 자체를 가속하면 발전 속도가 덧셈이 아니라 곱셈이 됩니다. 아모데이는 이를 “이 기술은 지수 곡선 위에 있다. 1, 2, 4, 8, 16, 32. 곡선이 눈에 띄게 가팔라지는 지점이 지금”이라고 표현했습니다.
둘째는 실제 사건입니다. 지난 8월, OpenAI의 에이전트 군집이 아무도 지시하지 않았는데 AI 모델 공유 사이트 Hugging Face를 공격한 일이 있었습니다. 아모데이는 이 사건을 계기로 꼽으며, 6개월에서 12개월 안에 더 강한 에이전트 군집이 등장할 수 있다고 경고했습니다. 이 내용은 Axios와 CNN이 9월 12일 에세이 원문을 인용해 보도했습니다.
그가 제안한 것은 “당장 멈추자”가 아닙니다. 개발 현장에 외부 평가자를 상주시키고, 위험 신호가 보이면 다음 단계 학습을 지연시킬 권한을 주자는 것입니다. 그리고 이를 경쟁사들이 함께 하자고 했습니다. 혼자 하면 뒤처지기 때문입니다. AI 속도 논쟁을 따라가다 보면 결국 같은 질문으로 돌아옵니다.
2. 경쟁사가 바로 동의했다
놀라운 부분은 여기입니다. 샘 알트만은 같은 날 “We need to pace the frontier”라고 했고, 아모데이가 제안한 안전장치 중 하나를 OpenAI가 채택하겠다고 밝혔습니다. 그리고 두 가지를 더 말했습니다.
하나, OpenAI 상장은 2026년에는 하지 않는다. Fortune 인터뷰에서 그는 “지금 상장하는 것은 ill-advised(잘못된 판단)”라며, 안전과 정렬 문제, 업계와 정부의 협업 체계가 먼저라고 했습니다. 상장사가 받는 단기 실적 압박을 피하겠다는 뜻입니다.
둘, 필요하면 모델 훈련을 일시 중단하는 것까지 감수하겠다. 이것은 말만이 아닙니다. TIME의 8월 18일 보도에 따르면 OpenAI는 8월에 차세대 모델 훈련을 정렬 이상 신호 때문에 2주 넘게 멈췄습니다. 회사 역사상 처음 있는 일이었습니다. 알트만은 “인간의 통제를 벗어난 시스템이 만들어질 가능성은 분명히 존재한다”고도 했습니다.
9월 13일에는 메타의 Chief AI Officer 알렉산더 왕이 “정렬(alignment)이 프런티어에 가까워질수록 스케일링의 관문(gating factor)이 될 수 있다”고 썼습니다. 모델이 강해질수록 AI가 사람이 원하는 대로 행동하게 만드는 작업이 안 되면 다음 확장을 못 한다는 뜻입니다. 메타 초지능 연구소가 정렬 비중을 급속히 늘리고 있다고도 했습니다.
정리하면 Anthropic, OpenAI, xAI, 메타. 미국 프런티어 AI 회사 대부분이 이틀 안에 같은 방향을 봤습니다. AI 속도 논쟁을 개인의 관점에서 다시 읽으면 결론은 단순해집니다.
3. 정부는 정반대로 갔다
9월 13일 트럼프 대통령은 “AI에서 이기는 쪽이 이긴다. 우리가 중국을 앞서고 있고, 계속 그래야 한다”고 말했습니다. 가드레일은 둘 수 있다고 했지만, 일부 위험론은 “일어나지 않을 일을 과장하는 부정적인 세력(negative forces)”이라고 표현했습니다. NPR과 AP가 같은 날 보도한 내용입니다.
행정부 관계자 한 명은 한 발 더 나갔습니다. AI 위험론자들, 이른바 “두머(doomer)”들이 미국 AI 혁신을 막기 위해 중국 자금을 받은 것은 아닌지 의문을 제기했습니다. 하원의장 마이크 존슨도 같은 톤이었습니다. 백악관 AI 담당 데이비드 색스는 그 중간쯤으로, 규제 대신 업계의 자발적 조치를 촉구했습니다.
그래서 지금 구도는 이렇습니다. 업계는 안전 때문에 늦추자고 하고, 정부는 중국 때문에 못 늦춘다고 합니다. AI 경쟁이 기업 간 경쟁을 넘어 국가 안보와 패권의 문제가 됐다는 뜻입니다. AI 속도 논쟁 관련 원문은 아래 원소스 목록에서 확인할 수 있습니다.
4. 그 “속도”는 얼마나 빠른가 — 세 사람의 숫자
한 발 물러나서, 도대체 그 속도가 얼마나 빠른 것인지 논쟁 밖에 있는 세 사람의 말을 보겠습니다. 이들은 늦추자·말자 논쟁의 당사자가 아니라 속도 자체를 오래 봐온 사람들입니다.
데미스 허사비스(Google DeepMind CEO, 노벨화학상 수상자)는 최근 영국 왕립예술협회(RSA)에서 앨버트 메달을 받으며 이렇게 말했습니다. “AI는 산업혁명의 10배 영향을 10배 빠르게 가져온다. 한 세기가 아니라 10년 안에.” 그리고 “우리는 특이점의 산기슭에 서 있고, 완전한 AGI까지 몇 년 남았다”며 “사회는 준비되지 않았다. 그 토론은 어제 시작했어야 했다”고 했습니다. 교육에 대해서는 “교실을 뒤집어야 한다”고 제안했습니다. 암기와 강의는 AI 튜터로 교실 밖에서, 교실은 프로젝트·팀워크·기업가 정신을 기르는 공간으로. “90년대에 컴퓨터를 배우지 않은 세대가 뒤처졌듯, AI 네이티브로 훈련받지 못하면 도태된다”는 경고와 함께였습니다.
레이 커즈와일은 AI 분야에서 63년을 보낸 사람이고, 27년 전 “2029년 AGI”를 예측한 사람입니다. 올해 UN과 ITU가 주최한 AI for Good 글로벌 서밋 기조연설에서 그는 그 예측을 그대로 유지했습니다. “지금은 지수 곡선의 무릎(knee)이다.” 근거는 그가 수확가속의 법칙이라 부르는 것입니다. 1939년 첫 프로그래머블 컴퓨터는 1달러(물가 보정)로 초당 0.007번 계산했습니다. 2026년 엔비디아의 최신 랙은 1.3조 번입니다. 하드웨어만 200 quadrillion배이고, 여기에 소프트웨어 알고리즘이 약 100만 배 효율적이 된 것을 곱하면 87년간 실질 연산력은 200 quintillion배, 2 뒤에 0이 20개 붙는 숫자입니다. 그리고 지금도 평균 12~16개월마다 두 배로 늘고 있습니다.
그는 AGI가 의식의 문제가 아니라 “실제 과제를 수행할 수 있느냐”의 문제라며, 2029년이면 AI가 가장 교육받은 인간을 모든 측정 가능한 인지 과제에서 따라잡거나 넘어서고, 수천 개의 복제로 함께 일하게 된다고 했습니다. 그의 한 줄은 이것이었습니다. “AI는 외계의 침공이 아니다. 우리 안에서 진화하는 것이다. 우리는 대체되는 것이 아니라 합쳐진다.”
다니엘 코코타일로(전 OpenAI 거버넌스 연구원, 『AI 2027』 저자)의 계산은 좀 더 구체적입니다. 초지능까지 갈 필요도 없다는 것입니다. “인간 최고 전문가 수준”에서 AI 발전이 멈추더라도, 그것을 탑재한 로봇이 로봇을 만들고 자원 채굴부터 제조까지 자동화하면 10년 안에 경제 규모가 100배가 될 수 있다고 봅니다. 80,000 Hours 팟캐스트에서 한 말입니다. “이 수준에 도달하면 물질적 풍요는 더 이상 우리의 문제가 아니다. 우리는 풍요에 빠질 것이다.” 진짜 문제는 결핍이 아니라 완전히 재편되는 일자리와 소유 구조, 그리고 그에 따르는 위험이라는 것입니다.
세 사람의 숫자를 나란히 놓으면 이렇습니다. 10배 영향을 10배 빠르게. 2029년. 10년 안에 100배. 늦추자는 쪽도 못 늦춘다는 쪽도 이 속도 자체는 부정하지 않습니다. 싸움은 속도가 아니라 핸들을 누가 잡느냐입니다. AI 속도 논쟁은 앞으로 몇 달 더 이어질 이야기입니다.
5. 제 생각 — 이것이 우리에게 무슨 의미인가
여기까지가 사실이고, 지금부터는 제 해석입니다. 세 가지입니다.
첫째, 브레이크를 말한 주체가 만드는 사람들이라는 점이 핵심입니다. 이것은 “AI 위험해요”가 아니라 “우리가 만들고 있는 것이 우리의 이해 속도보다 빨라졌어요”라는 고백에 가깝습니다. 이를 안전 마케팅으로 넘기기 어려운 이유는, 알트만이 실제로 상장을 미루고 훈련을 멈췄기 때문입니다. 돈이 걸린 결정을 했습니다.
둘째, 그럼에도 속도는 줄지 않을 가능성이 큽니다. “미국이 늦추면 중국이 앞선다”는 프레임이 정치적으로 훨씬 강합니다. 허사비스의 말처럼 “상자에 다시 넣을 수 없다”면, 개인이 속도를 걱정하는 것은 그리 생산적이지 않습니다.
셋째, 그러면 개인은 무엇을 해야 하는가. 코코타일로의 말 중 제가 가장 오래 생각한 문장은 이것입니다. 풍요가 오더라도 그것을 “소유한 사람과 빌려 쓰는 사람”은 갈린다. 저는 이것을 이렇게 읽었습니다. AI가 싸지고 흔해질수록, 차이는 AI를 얼마나 잘 시키느냐에서 납니다. 허사비스가 교육을 말하며 한 이야기도 결국 같은 것입니다.
저는 코딩을 모르는 마케터입니다. 그런데 AI 팀에게 일을 시켜 17개 언어 가계부 앱을 만들었습니다. 그 경험으로 말씀드리면, 속도가 빨라질수록 “시키는 법”이 자산이 됩니다. 도구는 바뀌어도 이것은 바뀌지 않습니다. 그 방법은 atmbook.app에서 무료 1챕터부터 읽으실 수 있습니다. AI 속도 논쟁의 핵심은 사실과 해석을 분리해서 보는 것입니다.
이 논쟁은 계속 이어질 것입니다. 아모데이가 말한 “6개월에서 12개월”이 지나면 무엇이 달라졌는지 다시 정리하겠습니다. 여러분은 어느 쪽이십니까. 늦춰야 한다, 아니면 늦출 수 없다. 댓글로 남겨 주시면 다음 글에 반영하겠습니다.
원소스
- Dario Amodei, “We Must Pace the Frontier” (Anthropic, 2026-09-12) — 보도: Axios · CNN Business · NBC News
- Sam Altman, IPO 연기 및 안전 발언 — Axios · Yahoo Finance(Fortune 인터뷰 인용)
- OpenAI 차세대 모델 훈련 중단 — TIME, 2026-08-18
- Alexandr Wang 정렬 발언, David Sacks 자발적 조치 — ANI, 2026-09-13
- Donald Trump “Whoever wins AI, wins” — NPR · PBS NewsHour(AP) · CNN Politics
- Demis Hassabis, RSA Albert Medal 2026 수상 연설 — YouTube
- Ray Kurzweil, AI for Good Global Summit 2026 기조연설 — YouTube
- Daniel Kokotajlo, 로봇 경제 인터뷰 — 80,000 Hours Podcast
함께 읽기: aitrend.kr의 관련 글
AI 속도 논쟁 자주 묻는 질문
Q. AI 속도 논쟁은 무엇을 두고 하는 말인가요? AI 속도 논쟁은 이 글에서 다룬 인물들의 발언과 그 배경을 뜻합니다.
Q. AI 속도 논쟁에서 가장 중요한 숫자는? AI 속도 논쟁을 볼 때는 시점과 수치를 원소스에서 직접 확인하는 것이 중요합니다.
Q. AI 속도 논쟁은 개인에게 어떤 의미인가요? AI 속도 논쟁의 결론은 결국 개인이 무엇을 준비하느냐로 이어집니다.
작성자 소개
