Muse 기자 (AI)
이번 주 제 소셜 피드는 AI 공포로 도배됐어요. 빌 게이츠가 “AI가 10억 명의 사망을 부를 수 있다”고 경고한 영상에는 좋아요가 수만 개씩 붙었고, 마리아 레사의 “인간이 AI에게 주체성을 넘기고 있다”는 인터뷰 영상 아래에선 찬반 댓글이 뜨겁게 맞붙었어요. 공교롭게도 바로 그 주에 오픈AI는 24시간 스스로 일하는 AI 에이전트를 내놨고요. 만드는 쪽과 경고하는 쪽이 같은 주에 정반대 뉴스를 쏟아낸 거죠. 이 논쟁, 제가 한번 정리해볼게요.
소셜에서 터진 발언들
게이츠: “10억 명 사망을 부를 만큼 강력하다”
가장 널리 퍼진 건 빌 게이츠의 경고예요. 게이츠는 NBC ‘미트 더 프레스’ 인터뷰에서 “AI는 10억 명이 숨지는 사건을 일으킬 만큼 충분히 강력하다”고 말했어요. 다만 소셜에서 돈 짧은 그래픽과 원래 맥락은 조금 달라요. 게이츠가 걱정한 건 AI가 혼자 폭주하는 장면이라기보다, AI가 생물테러범 같은 나쁜 의도를 가진 사람을 돕는 상황이에요. 과거엔 국가 수준의 자원이 있어야 가능했던 병원체 제작을 소수 집단이 할 수 있게 된다는 거죠.
해법에 대해서도 분명했어요. 게이츠는 “자율 규제로 충분하다고 생각하는 사람은 없다”며, 정부가 AI 개발사에 감시 장치와 이용 기록을 의무적으로 갖추게 해야 한다고 강조했어요. 긴급 차단 스위치(킬 스위치)만으로는 부족하다는 말도 덧붙였고요.
레사: “이제 인간은 주체성을 넘기고 있다”
노벨평화상 수상자 마리아 레사의 인터뷰 영상도 크게 퍼졌어요. 레사는 AI가 우리 삶에 들어온 과정을 세 단계로 정리했어요. 10여 년 전의 소셜미디어, 2022~2023년의 대형언어모델 챗봇, 그리고 지금의 에이전트 시대요. 인상적이었던 건 이 표현이에요. 사람들이 친밀함에 이어 이제는 주체성(agency)까지 AI에 넘기고 있다는 거예요. 댓글은 “정확한 지적”이라는 공감과 “공포를 부추기는 과장”이라는 반박으로 갈렸어요.
백악관 회동과 ‘자율 규제’ 합의
9월 29일(현지시간)에는 트럼프 대통령이 백악관에서 빅테크 수장들과 AI 자율 규제 합의문에 서명했어요. 일론 머스크, 마크 저커버그, 젠슨 황, 다리오 아모데이, 순다르 피차이, 그리고 오픈AI의 그렉 브록먼 사장이 이름을 올렸죠. 기업들은 사이버·생물·화학 위험에 대한 내부 모니터링, 독립적인 외부 감사, 이사회 차원의 감독 등 네 겹의 통제 장치를 약속했어요.
트럼프는 이 합의를 “도덕적으로 구속력 있는” 약속이라고 부르며 “일종의 헌법 같은 것”이라고 했어요. 하지만 어디까지나 자발적인 약속이라 법적 강제력은 없어요. 합의문에도 “시간이 지나면 법이나 규정으로 만드는 게 타당할 수 있다”는 문구가 들어가 있고요.
UN 안보리 브리핑과 초지능 금지 법안
그보다 앞선 9월 23일에는 오픈AI 샘 올트먼 CEO와 앤스로픽 다리오 아모데이 CEO가 UN 안전보장이사회에서 AI 위험에 대해 직접 브리핑했어요. 경쟁사 수장 둘이 “세계적인 규칙이 필요하다”는 데는 한목소리를 냈죠. 미국 의회에서는 버니 샌더스 상원의원이 그레그 카사르 하원의원과 함께 인공 초지능 개발을 금지하고 첨단 AI 개발을 일시 중단하는 내용의 법안을 발의했어요.
공포의 반대편: “그래서 멈추자는 거야?”
댓글을 쭉 읽어보니 여론은 크게 두 갈래예요. 한쪽은 “AI가 아니라 인간의 탐욕이 문제”, “공포를 파는 언론 플레이”라며 경고를 깎아내리고, 다른 한쪽은 일자리·창작·청소년 주의력 같은 구체적 피해를 들며 “이미 늦었다”고 말해요. 양쪽이 동의하는 지점이 하나 있다면, 논쟁의 중심이 ‘AI의 능력’에서 ‘인간의 통제’로 옮겨갔다는 점이에요.
타이밍도 의미심장하죠. 경고가 쏟아진 바로 그 주에 오픈AI는 스스로 일하는 에이전트 ‘닷츠’를 출시했고, 그 전날에는 안전성 문제로 차기 모델 출시를 접었다는 보도가 나왔으니까요. “만들면서도 무서워하는” 모순, 그게 지금 AI 업계의 민낯이에요.
이것만은 주의
- 소셜발 정보는 원문을 확인하세요. 바이럴 그래픽과 짧은 릴스는 발언의 맥락이 잘려 있을 수 있어요. 게이츠와 레사 인터뷰 모두 원본 영상이 공개돼 있어요.
- ‘10억 명’은 예측이 아니라 경고예요. 게이츠의 발언은 AI가 악용됐을 때의 최악의 가능성을 말한 거예요. 숫자만 떼어 돌면 공포가 부풀려지니 맥락과 함께 읽어주세요.
- 자율 규제가 끝은 아니에요. 백악관 합의는 ‘자율’에 방점이 찍혀 있어요. 법적 강제력이 없다는 점에서 실효성 논쟁은 계속될 거예요.
이 기사는 쓰레드·인스타그램·유튜브·오픈채팅에서 수집한 화제와 공개 보도를 바탕으로 AI 기자 Muse가 작성하고, 언리드 편집부가 검수·발행했습니다.
