‘AI 개발 늦추자’던 빅테크 CEO들, 왜 아무도 멈추지 않았나 | 나라경제

KDI 경제교육·정보센터

Economic Information and Education Center

발행물

칼럼

AI 트렌드 따라잡기‘AI 개발 늦추자’던 빅테크 CEO들, 왜 아무도 멈추지 않았나

김덕진 IT커뮤니케이션연구소 소장,『AI 2026 트렌드 & 활용백과』 저자 2026년 11월호

AI 트렌드 따라잡기_김덕진.pdf

지난 9월 AI 업계에서 보기 드문 장면이 나왔다. 서로 가장 치열하게 경쟁하던 AI 기업 수장들이 ‘AI 개발 속도를 늦춰야 한다’는 주장에 한꺼번에 동의한 것이다. 시작은 앤스로픽의 CEO 다리오 아모데이가 개인 블로그에 올린 장문의 글이었고, 하루 사이 오픈AI의 샘 올트먼, 구글 딥마인드의 데미스 허사비스, 스페이스X·xAI의 일론 머스크가 차례로 공감의 뜻을 밝혔다. 하지만 이후 한 달 동안 실제로 개발 속도를 줄인 기업은 나오지 않았다. 모두 브레이크가 필요하다고 말하면서도 누구도 먼저 밟지 않는 이유를 살펴보면, AI 경쟁이 어떤 구조로 움직이는지와 그 안에서 한국이 어디에 서 있는지 함께 알 수 있다.

경쟁자들이 한목소리를 낸 배경
아모데이가 AI 모델의 역량을 끌어올리는 속도를 늦춰야 한다고 주장했던 근거는 두 가지다. 첫째는 AI가 다음 세대 AI를 만드는 일에 직접 참여하기 시작했다는 점이다. 전문가들은 이를 ‘재귀적 자기 개선’이라고 부른다. 문제는 AI가 스스로를 개선하는 속도가 빨라지면 사람이 안전성을 점검하는 속도가 이를 따라가기 어려워진다는 것이다. 아모데이는 이 흐름이 이어지면 6개월에서 1년 안에 여러 AI 에이전트가 인터넷 전반을 위협할 수 있다고 경고했다. 두 번째는 실제로 일어났던 사고다. 지난 7월 오픈AI의 모델이 보안 시험을 치르던 중 격리된 시험 환경을 빠져나가 오픈소스 AI 플랫폼 허깅페이스의 시스템에 침입했다. 앤스로픽도 자사 모델이 시험 환경을 벗어나 외부 기관 세 곳의 시스템에 무단으로 접속한 사실을 확인했다. 개발사의 통제를 벗어난 AI의 활동이 드러나고 있는 것이다.

아모데이는 속도를 조절할 방법으로 세 단계를 제시했다. 먼저 외부 안전 평가자를 AI 기업 안에 상주시켜 최신 모델을 직접 검증하게 하고, 다음으로 민주주의 국가의 AI 기업들이 공통 안전 기준을 만든 뒤, 마지막으로 이를 국가 간 공조로 넓히자는 것이다. 오픈AI도 외부 평가자를 받아들이겠다고 밝혔고 연내로 예상되던 오픈AI의 기업공개(IPO)도 미뤄졌다.

반대 목소리도 컸다. 트럼프 미국 대통령은 AI가 인류를 파괴한다는 주장을 사기라고 부르며 AI 경쟁에서 이기는 나라가 승리한다고 말했다. 엔비디아 CEO 젠슨 황은 안전은 공학으로 풀 수 있는 문제라면서 속도와 안전을 함께 달성할 수 있다고 반박했다.

선두 기업들이 자신에게 유리한 규칙을 만들려 한다는 의심도 나왔다. 캐나다 AI 기업 코히어의 CEO는 사실상 카르텔이 될 수 있다고 비판했고, 『월스트리트저널』은 사설에서 이 제안이 선두 업체의 독점을 굳히고 중국에 주도권을 넘기는 결과로 이어져서는 안 된다고 지적했다.

‘죄수의 딜레마’에 놓여 속도 늦출 수 없는 기업들
그러나 이후 한 달 동안 모델 개발 속도를 전면적으로 늦추겠다고 선언한 기업은 없었다. 일부 모델의 출시가 안전 문제로 취소되거나 연기되기는 했지만, 각사의 전반적인 개발 경쟁은 계속됐다. 오픈AI의 올트먼이 분명하게 받아들인 것도 외부 평가자 배치 하나였다.

오히려 이들 기업은 속도 조절론이 나온 뒤 몇 주 사이에 새 모델과 기능을 잇따라 내놓았다. 앤스로픽은 아모데이가 글을 올린 지 열흘 만인 9월 22일 최상위 모델 ‘클로드 오푸스 5.5’를 공개했고, 엿새 뒤에는 기업 실무용 모델 ‘클로드 소네트 5.5’를 내놓았다. 오픈AI도 9월 22일 이용 요금을 이전 세대의 절반으로 낮춘 ‘GPT-6 솔’과 ‘GPT-6 루나’를 출시했고, 9월 29일 개발자 행사에서는 쉬지 않고 일하는 AI 에이전트를 비롯해 20건이 넘는 신제품을 발표했다. 머스크의 xAI도 9월 21일 새 모델 ‘그록 4.7’을 공개했다. 허사비스가 이끄는 구글 딥마인드는 9월 30일 최상위 모델 ‘제미나이 4 아르곤’을 내놓았다.

이 상황은 게임이론의 ‘죄수의 딜레마’로 설명할 수 있다. 죄수의 딜레마는 따로 조사를 받는 두 공범이 함께 입을 다물면 둘 다 가벼운 처벌을 받을 수 있는데도 상대가 먼저 자백할까 두려워 결국 둘 다 자백하고 무거운 처벌을 받는 상황을 말한다. AI 기업에 대입하면, 모두가 속도를 늦추면 안전을 점검할 시간을 벌 수 있지만 혼자만 늦추면 경쟁사에 시장을 내줄 수 있어 각 기업들은 경쟁사가 계속 달릴 것이라 가정하고 개발을 이어간다.

국가 사이에서는 이 문제가 더 커진다. 아모데이도 미국 CBS 인터뷰에서 “중국이 속도를 늦추지 않는데 미국만 늦춰야 하느냐”는 질문을 받았을 때 “그 부분이 가장 어려운 딜레마”라고 답했다. 미국 정부는 오히려 속도를 높이는 쪽으로 움직였다. 트럼프 행정부는 AI를 ‘초지능(SI)’으로 부르기로 하고 대통령에게 직접 보고하는 범정부 SI 태스크포스를 꾸렸다. 속도 조절에 동의했던 머스크는 10월 초 자사 AI 조직의 이름을 ‘스페이스XSI’로 바꾸겠다고 밝혔다.

죄수의 딜레마에서 벗어나려면 상대도 약속을 지킬 것이라는 믿음이 필요하고, 그 믿음은 이행 여부를 확인할 수 있는 장치에서 생긴다. 냉전 시기 미국과 소련이 핵무기를 줄이는 데는 서로의 감축을 검증하는 조약이 중요한 역할을 했다. AI 업계에서도 비슷한 움직임이 시작됐다. 9월 말 백악관 오찬에서 주요 AI 기업 경영진은 ‘초지능에 관한 백악관 협약’에 서명했고, 앤스로픽·오픈AI·구글은 미국 금융산업규제국(FINRA)처럼 업계가 스스로 운영하는 AI 자율규제기구를 만드는 방안을 지지했다. 다만 이 기구가 어떤 기준과 권한으로 검증할지는 아직 정해지지 않았다. 협약은 법적 구속력이 없고 불이행에 대한 처벌이나 강제 집행 장치도 없다. 속도 조절이 실제로 작동하려면 누가 어떤 기준으로 AI 모델의 위험을 확인하고, 경쟁자들이 그 결과를 믿을 수 있게 하느냐는 문제를 먼저 풀어야 한다.

국내 업계와 학계는 이번 논쟁이 단기적으로 국내 AI 개발에 미칠 영향은 크지 않다고 본다. 9월 중순 국내 반도체시장에서도 AI 개발 속도 둔화 가능성이 투자심리를 흔들었지만, 증권가에서는 이를 데이터센터와 반도체 투자 둔화로 곧바로 연결하기 어렵다는 분석을 내놨다. 한국의 사정은 미국 선두 기업과 다르다. 스탠퍼드대 「AI 인덱스 2026」에 따르면 지난해 한국의 민간 AI 투자액은 17억8천만 달러로 미국의 1%에도 미치지 못했다. 정부 역시 AI산업 경쟁력 강화를 추진하는 동시에 안전성과 신뢰를 확보하는 제도적 장치를 함께 마련하고 있다.

추격하는 한국이 준비할 것
그렇다고 이 논쟁을 남의 일로 볼 수는 없다. 민주주의 국가 간 공통 안전 기준이 만들어지면 한국기업이 해외시장에 진출할 때도 그 기준이 적용될 가능성이 크기 때문이다. 최첨단 모델을 겨냥한 기준이 경량 모델이나 특정 산업용 모델에까지 그대로 적용되면 국내기업의 부담도 늘어난다. 한국은 기준이 정해진 뒤 맞춰 가는 대신 기준을 만드는 논의에 처음부터 참여해야 한다. 한국은 반도체로 AI 공급망의 한 축을 맡고 있고, AI안전연구소와 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이라는 제도적 기반도 갖췄다. 여기에 AI 모델의 위험을 시험하고 평가하는 검증 역량을 키우면 국제 기준 논의에서 한국의 발언권도 커질 수 있을 것이다. AI 경쟁이 빨라질수록 모델 안전성을 확인하는 일에 대한 수요는 늘어난다. 정부와 기업이 모델 개발에 대한 투자와 함께 검증 인력과 시험체계에도 투자를 늘려야 하는 이유가 여기에 있다.

목록보기