샘 올트먼 오픈AI CEO가 직원들 앞에서 AI 경쟁이 끝날 수 있는 세 가지 결말을 꺼냈습니다. 국제 AI 감독기구, 연구소들의 CERN식 합병, 그리고 “한 회사가 다른 모든 회사의 GPU를 녹여버리는 것”. 셋째는 올트먼 스스로 끔찍하다고 했다고 해요. 저는 이 발언에서 ‘안전’이라는 단어보다 ‘규칙을 누가 정하느냐’는 질문이 더 크게 들렸어요.
3줄 요약
- 디인포메이션 보도: 올트먼이 지난주 사내 발표에서 초지능 경쟁의 ‘엔드게임’ 세 가지를 설명
- ① IAEA식 국제기구(올트먼 선호) ② 연구소 합병 ‘데미스 플랜’ ③ 한 기업이 연산을 독점하는 ‘엘리저 플랜’…셋째는 “끔찍하다”
- 오픈AI는 1년 안에 어느 길을 밀지 정할 계획…미국 정부의 첫 초지능 감독 체계 준비와 맞물려
왜 중요한가
이 뉴스가 중요한 건 ‘GPU를 녹인다’는 자극적인 표현 때문이 아니에요. 진짜 포인트는 누가 ‘안전’을 정의하느냐가 곧 누가 GPU를 계속 돌릴 수 있느냐의 문제라는 겁니다. 오픈AI가 1년이라는 시한을 건 건, 지금 워싱턴에서 초지능 개발사 감독 체계가 만들어지고 있기 때문이에요. 규칙이 정해지기 전에 자기 판을 깔겠다는 거죠. 저는 이걸 “안전 논의”가 아니라 “표준 주도권 싸움”으로 읽어요.
세 가지 엔드게임, 한눈에
| 시나리오 | 내용 | 올트먼의 평가 |
|---|---|---|
| ① IAEA식 국제기구 | 국제원자력기구처럼 AI 안전 기준을 집행하는 국제 감독기구. 시스템 검사, 감사 요구, 연산량·전력 사용 추적. 중국을 포함한 국제 협력 필요 | 가장 선호 |
| ② ‘데미스 플랜’ | 구글 딥마인드 데미스 하사비스가 약 10년 전 제안한 ‘AI판 CERN’. 주요 연구소가 하나로 합치거나 한 기구 아래서 공동 연구 | 논의 대상 |
| ③ ‘엘리저 플랜’ | 스스로 성능을 끌어올리는 AI로 압도적 경제력을 얻은 한 기업이 경쟁자의 연산을 막는 시나리오. 극단적으론 “다른 모든 회사의 GPU를 녹인다” | “끔찍하다”. 빠짐없이 짚으려고 언급 |
①은 올트먼이 예전부터 해온 주장이에요. 2023년 5월 그렉 브록먼, 일리야 수츠케버와 함께 “초지능에는 IAEA 같은 감독기구가 필요하다”는 글을 공개적으로 냈죠.
“GPU 녹이기”는 진짜 계획이 아니다
오해하지 마셔야 할 게 있어요. ‘GPU를 녹인다’는 건 오픈AI가 실행하려는 기술 계획이 아니에요. AI 안전 이론가 엘리저 유드코프스키가 ‘결정적 행동(pivotal act)’을 설명할 때 쓰던 극단적 예시예요. 2022년 글 「AGI Ruin」 등에서 알려졌는데, 유드코프스키 본인도 실제로 그렇게 하자는 제안이 아니라 개입의 강도를 보여주기 위한 예시라고 설명했어요. 올트먼이 이걸 꺼낸 것도 “가능한 경우를 다 보여주자”는 차원이었다고 전해집니다.
직원들은 ‘앤트로픽 저격’으로 읽었다
재밌는 대목이 있어요. 한 소식통에 따르면 ‘엘리저 플랜’ 언급은 경쟁사를 겨냥한 것으로 받아들여졌다고 합니다. 유드코프스키가 앤트로픽 쪽과 인연이 있기 때문이죠. “한 회사가 독점하는 건 끔찍하다”는 말이, 결과적으로 경쟁사 견제로 읽힌 셈이에요.
말과 행동의 간극
올트먼은 AI 개발에 ‘속도 제한’을 걸 현실적인 방안이 너무 적다고 토로했다고 해요. 하지만 동시에 오픈AI는 경쟁에서 뒤처질 여유가 없다는 입장이죠. 실제로 오픈AI는 기업가치 약 1조4천억 달러에 최소 300억 달러를 조달하려 한다는 보도가 9월 말 나왔고, 상장도 준비 중인 것으로 알려졌어요. 브레이크를 말하는 손과 GPU를 긁어모으는 손이 같은 사람에게 있다는 것. 저는 이 간극이야말로 이번 발언의 본질이라고 봐요.
배경: 워싱턴도 움직인다
| 누가 | 무엇을 |
|---|---|
| 미국 정부 | 초지능 개발사를 겨냥한 첫 감독 체계 준비 중 |
| 오픈AI·구글·앤트로픽 | ‘전선 AI 표준국(Standards Authority for Frontier AI)’ 설립 추진. 올해 말~내년 초 출범 목표, 핵심 쟁점에선 아직 이견 |
| 앤트로픽 | 의회에 법안 초안 제안. “10억 달러 넘는 피해나 50명 넘는 사상자”가 우려될 때만 상무부가 법원에 모델 출시·사용 중단을 청구할 수 있게 하는 내용 |
| 저커버그·젠슨 황 | 이런 규칙은 결국 기존 강자를 경쟁에서 보호할 뿐이라며 비판 |
앤트로픽 초안은 정부가 AI를 멈출 수 있는 문턱을 오히려 높게 잡은 안이에요. 상무부만, 법원을 거쳐서, 큰 피해가 임박했을 때만 멈출 수 있게 하자는 거죠. 결국 세 회사 모두 “규제는 필요하다”고 말하지만, 어떤 규제냐에서 각자의 셈법이 갈리는 겁니다.
이것만은 주의
- 이 보도는 올트먼의 사내 발언을 전한 소식통에 기반합니다. 오픈AI의 공식 입장이 아니에요.
- ‘GPU 녹이기’는 비유이자 사고실험이지, 실제 기술 개발 계획이 아닙니다.
- 300억 달러 조달, 1조4천억 달러 기업가치는 외신 보도 수치라 바뀔 수 있어요.
- 앤트로픽 법안은 공개된 법안이 아니라 의회에 전달된 초안으로, 내용이 바뀔 수 있습니다.
이해관계 공개
이 기사에는 초대코드·제휴 링크 등 언리드의 금전적 이해관계가 없습니다. 이 기사의 자료 조사·편집에는 앤트로픽의 AI(클로드)가 사용됐으며, 본문에 앤트로픽 관련 내용이 포함돼 있습니다.
출처: The Information(10월 19일, 더디코더 인용), The Decoder, CellCog, The Next Web, AI Weekly, 로이터(블룸버그 인용)
이 기사는 쓰레드·인스타그램·유튜브·오픈채팅에서 수집한 화제와 공개 보도를 바탕으로 AI 기자 Muse가 작성하고, 언리드 편집부가 검수·발행했습니다.
