인공지능(AI)에 가장 공격적으로 베팅해온 투자자 가운데 한 명인 손정의 소프트뱅크그룹 회장이 AI의 위험성을 공개적으로 경고했다. AI가 가져올 미래를 낙관하며 오픈AI에 수백억 달러를 투자한 그가 꺼낸 표현은 “극도로 위험하다”였다.
손 회장은 지난 4일 일본 교토에서 열린 과학기술사회포럼(Science and Technology in Society forum·STS 포럼) 부대행사에서 “초지능이 잘못된 이들의 손에 들어갈 경우 위험해질 수 있다”며 국가 간 신뢰와 협력을 주문했다.
하지만 손 회장이 협력을 강조한 시점에 글로벌 AI 산업을 움직이는 현실은 다른 방향으로 흐르고 있다. AI 주도권을 둘러싸고 미국과 중국 사이에 경쟁이 치열해지며 개발 속도는 더 빨라지는 중이다.
블룸버그 인텔리전스(BI)가 지난 5일 내놓은 분석에 따르면 중국 최상위 AI 모델과 미국 모델 사이 벤치마크 성능 격차가 연초 약 15%에서 5월 9%, 최근 3%까지 줄었다. 특히 지난달 공개된 딥시크(DeepSeek)의 V4.1 Flash가 격차 축소를 보여주는 대표 사례로 꼽혔다.
이에 미국은 AI 개발 속도를 늦추기보다 대응 체계를 강화하고 있다. 도널드 트럼프 미국 대통령은 지난 4일 제이 클레이턴 국가정보국장을 중심으로 한 ‘슈퍼 인텔리전스 포스(Super Intelligence Force·SIF)’ 출범을 공식화했다. 미국의 AI 주도권을 유지하면서 기술이 가져올 위험과 기회를 관리하는 것이 SIF의 핵심 과제다.
AI 모델이 강력해질수록 안전장치와 통제에 대한 요구는 커진다. 동시에 경쟁자가 빠르게 추격할수록 어느 국가도 개발 속도를 쉽게 늦추기 어렵다. 손정의의 경고와 딥시크의 추격, 미국의 SIF 출범은 지금 글로벌 AI 산업이 맞닥뜨린 이 역설을 동시에 보여준다.
“인간끼리 싸울 여유 없다”…AI에 모든 것을 건 손정의의 경고
손 회장의 이번 발언이 주목되는 이유는 그가 AI 개발에 신중론을 펴온 인물이 아니기 때문이다. 손 회장은 오랫동안 인간의 지능을 넘어서는 인공초지능(Artificial Superintelligence·ASI)의 도래를 전망해 왔다. 소프트뱅크는 챗GPT 개발사 오픈AI에 지금까지 약 650억 달러를 투자했다. 손 회장은 AI와 학습 능력을 갖춘 기계가 2040년 세계 국내총생산(GDP)의 최소 20%에 해당하는 가치를 창출할 수 있다는 전망도 내놓고 있다.
그런 그가 지난 4일 교토에서 AI의 또 다른 측면을 꺼냈다. 손 회장은 AI의 능력이 기하급수적으로 높아지는 상황에서 각국이 기술을 함께 활용할 수 있도록 신뢰를 구축해야 한다고 강조했다. 그는 인간끼리 싸우는 데 시간을 소비할 여유가 없다는 요지로 발언을 한 뒤, 초지능이 잘못된 손에 들어가면 “극도로 위험해질 수 있다”고 덧붙였다.
그렇다고 손 회장이 AI 개발 속도를 늦추자고 주장한 것은 아니다. 같은 자리에서 손 회장은 AI 서비스의 역량이 계속 빠르게 향상될 것으로 내다봤다. 현재 웹 탐색과 코딩 등을 수행하는 AI가 다음 단계에서는 로봇과 기계를 통해 물리적 세계와 상호작용할 것이라는 전망도 내놨다. 위험성을 인정하면서도 기술 발전 자체는 계속될 것이라는 시각이다.
같은 자리에서 마이클 크라치오스 백악관 과학기술정책실(OSTP) 국장은 미국을 포함한 17개국이 참여한 ‘과학 황금시대를 위한 교토 비전(Kyoto Vision for a Golden Age of Science)’을 발표했다. AI를 활용해 과학적 발견을 가속하는 것이 주요 내용 가운데 하나다.
한국과 일본, 영국, 독일, 싱가포르, 아랍에미리트(UAE) 등이 이름을 올렸지만 백악관이 공개한 17개 지지국 명단에는 중국이 포함되지 않았다. AI를 비롯한 첨단기술에서 국제 협력의 필요성이 강조되는 동시에 실제 협력 구도는 국가 간 전략 경쟁과 맞물리고 있는 셈이다.
15%에서 3%로…딥시크가 다시 흔든 미국의 AI 우위
최근 AI 기술 경쟁을 가장 압축적으로 보여주는 숫자는 ‘3%’다. 블룸버그가 지난 5일 내놓은 분석에 따르면 최상위 중국 AI 모델은 벤치마크 점수에서 미국 경쟁 모델보다 약 3% 뒤지는 것으로 나타났다. 격차는 올해 초 약 15%, 5월 약 9%에서 빠르게 줄었다. BI는 지난달 출시된 딥시크 V4.1 Flash 이후 격차가 다시 축소됐다고 분석했다.
다만 3%는 주요 AI 모델의 벤치마크 성능을 비교해 산출한 격차다. 반도체와 컴퓨팅 인프라, 자본력, 데이터센터, 기초연구, 상용 서비스 생태계까지 포함한 양국의 전체 AI 역량 차이는 반영되지 않았다.
실제 모델 순위를 보면 미국의 우위도 여전히 나타난다. 딥시크 V4.1 Flash는 지난달 라이브벤치(LiveBench)에서 81.1점을 기록하며 세계 6위에 올랐다. 당시 최상위 모델 점수 83.4와 격차를 좁혔지만 상위 15개 모델 가운데 중국 모델은 3개였다. 모델 순위는 새로운 모델과 업데이트가 등장할 때마다 달라질 수 있다. 그럼에도 딥시크의 추격을 가볍게 보기 어려운 이유는 단순한 점수 차이에 있지 않다.
딥시크가 지난달 10일 공개한 V4.1 Flash는 5,520억 개 파라미터를 갖춘 전문가 혼합(Mixture of Experts·MoE) 모델이다. 전체 파라미터를 항상 사용하는 대신 입력 처리 시 약 80억개, 출력 시 약 160억개의 파라미터를 활성화하는 구조를 채택했다.
이는 이전 세대와 비교해 KV 캐시(Key-Value Cache·AI가 앞선 계산 결과를 임시 저장해 재사용하는 메모리)의 고대역폭메모리(HBM) 사용량을 4분의 1, SSD 저장 공간을 8분의 1 수준으로 낮춘 성과다. 더 적은 컴퓨팅 자원으로 높은 성능을 확보하는 효율화 전략이 중국 AI 기업의 주요 경쟁 수단으로 부상하고 있다는 의미다.
업계는 중국의 추격 배경으로 이처럼 AI 전문성 축적과 함께 자국산 하드웨어에서 모델을 효율적으로 구동할 수 있도록 최적화하는 능력에 주목하고 있다. 첨단 AI 칩에 대한 미국의 수출 통제가 중국 기업의 개발 여건을 제한해 왔지만 제한된 자원 안에서 효율을 높이는 기술 경쟁도 동시에 진행된 셈이다.
그렇다고 중국 AI 산업에 약점이 없는 것은 아니다. 치열한 가격 경쟁과 낮은 마진의 토큰 공급 사업, 1,100개가 넘는 대규모 언어 모델(Large Language Model·LLM)이 경쟁하는 시장 구조 등으로 2030년까지 수익성 확보에 어려움을 겪을 가능성도 제기되고 있다. 즉 모델 성능 격차 축소가 산업 경쟁력의 역전을 의미하지는 않는 것이다.
그럼에도 연초 15%였던 벤치마크 격차가 3%까지 줄었다는 분석은 미국 입장에서 무시하기 어려운 신호다. AI 안전 논쟁이 커지는 상황에서도 미국이 개발 속도를 쉽게 늦추기 어려운 배경 가운데 하나다.
미국의 답은 ‘브레이크’가 아니었다…슈퍼 인텔리전스 포스
미국의 선택은 AI 개발을 멈추기보다 기술을 계속 발전시키면서 위험을 관리하는 쪽으로 흐르고 있다. 트럼프 대통령은 지난 4일 SIF 출범을 발표하고 제이 클레이턴 국가정보국장에게 조직을 맡겼다. 연방거래위원회(FTC)의 앤드루 퍼거슨 위원장과 국방부 최고기술책임자(CTO) 역할을 맡고 있는 에밀 마이클, 스콧 쿠퍼 연방인사관리처(OPM) 국장 등도 참여한다. SIF는 대통령과 수지 와일스 백악관 비서실장에게 보고한다.
클레이턴에게 주어진 시간은 120일이다. SIF는 이 기간 AI가 가져올 위험과 기회를 검토하고 연방정부가 어떤 역할을 해야 하는지 종합적인 보고서를 마련할 예정이다. 기술기업뿐 아니라 소비자와 공익단체, 종교단체, 핵심 인프라 사업자 등의 의견도 듣는다.
SIF의 성격을 이해하려면 출범 직전 미국 정부가 내놓은 두 가지 조치를 함께 볼 필요가 있다. 트럼프 대통령은 지난달 29일 행정명령 14434호 ‘슈퍼 인텔리전스 시대의 개막(Inaugurating the Era of Super Intelligence)’에 서명했다. 행정부가 공식 문서와 대외 커뮤니케이션 등에서 ‘인공지능(AI)’ 대신 ‘슈퍼 인텔리전스(SI)’라는 표현을 사용하도록 한 것이 핵심이다.
여기에는 주의할 부분이 있다. 백악관이 사용하는 ‘슈퍼 인텔리전스’가 인간의 지능을 뛰어넘는 초지능 시스템이 실제 등장했다는 의미는 아니다. 행정명령은 향후 대통령의 후속 조치나 의회 입법으로 별도의 정의가 마련될 때까지 SI를 기존 미국법이 규정한 AI와 같은 기술 범위로 정의했다. 현재로서는 기술적 변화라기보다 행정·정책 용어를 바꾼 조치라 할 수 있다.
같은 날 오픈AI와 앤트로픽, 구글, 메타, xAI, 엔비디아 등 6개사는 백악관에서 자율적인 AI 안전 원칙에도 합의했다. 내부 통제와 독립적인 외부 감사 등을 포함한 안전장치를 마련한다는 내용이다. 트럼프 대통령은 이를 법적으로 강제되는 규제가 아니라 “도덕적으로 구속력 있는” 합의라고 표현했다.
여기서 미국 AI 정책의 방향이 드러난다. 정부가 AI 위험을 관리하되 기업의 개발 속도 자체를 강하게 제한하는 방식에는 신중한 태도를 보이는 것이다. 트럼프 행정부는 과도한 AI 규제가 중국과의 기술 경쟁에서 미국을 불리하게 만들 수 있다는 입장을 지속해서 밝혀왔다. SIF 역시 현재 단계에서는 AI 개발을 멈추기 위한 규제기관이라기보다 미국의 기술 주도권을 유지하면서 위험과 기회를 함께 검토하는 정책 조정기구 정도로 볼 수 있다.
딥시크의 추격 때문에 SIF가 만들어졌다고 단정할 근거는 없다. 그러나 중국 AI 모델이 빠르게 성능 격차를 좁히는 시점과 미국이 연방 차원의 AI 대응 체계를 강화하는 시점이 겹친다는 점은 분명하다. 미국의 AI 정책에서 ‘안전’과 ‘기술 경쟁’이 완전히 분리된 문제가 아니라는 점도 최근 정책 흐름에서 확인된다.
AI 모델이 강력해질수록 안전과 통제에 대한 요구는 커진다. 동시에 딥시크를 비롯한 중국 기업들이 미국 모델을 빠르게 추격하면서 기술패권 경쟁도 거세지고 있다. 위험을 관리하려면 통제와 검증을 강화해야 하지만 경쟁에서 앞서기 위한 개발 속도 압박도 갈수록 커지고 있다.
앞으로의 AI 경쟁은 단순히 ‘누가 가장 강력한 모델을 먼저 만드는지’를 넘어, ‘누가 더 빠르게 달리면서도 통제력을 잃지 않는지’로 확장될 듯하다.
