[AI요약] 앤트로픽과 미 국방부 간의 대립은 기술 업계에 ‘제품이 전쟁에 어떻게 사용될 수 있는지, 그리고 넘어서는 안 될 선은 무엇인지’ 등에 대한 질문을 다시 한번 고민하게 만들었다. 최근 도널드 트럼프 행정부 하에서 실리콘 밸리 내 수익성 높은 국방 계약이 체결되는 가운데, 거대 기술기업들의 해답은 불과 10년 전과는 매우 다른 양상을 보이고 있다.

빅테크들의 AI 전쟁에 대한 스탠스가 여실히 드러났다.

미국국방부와 AI 기업 앤트로픽(Anthropic) 간 갈등이 이어지고 있는 가운데, 현재 빅테크들이 AI 기술과 전쟁에 취하고 있는 방향성에 대해 워싱턴포스트, 가디언 등 외신이 14일(현지시간) 보도했다.

앤트로픽과 트럼프 행정부의 갈등은 지난주, 앤트로픽이 미 국방부를 상대로 소송을 제기하면서 더욱 격화된 양상이다. 앤트로픽은 정부의 AI 모델 사용 금지 조치가 수정헌법 제1조를 위반했다고 주장하고 있다.

앤트로픽과 미 국방부가 수개월간 대치 상태를 이어오고 있는 가운데, 앤트로픽은 자사의 AI 모델이 국내 대규모 감시나 완전 자율 살상 무기에 사용되는 것을 금지하기 위해 전력을 쏟고 있다.

앤트로픽은 국방부의 ‘합법적인 모든 용도’ 기술 허용 요구에 굴복하는 것은 회사의 설립 원칙인 안전장치를 위반하고 기술의 오용 가능성을 열어주는 것이라고 주장하며, 업계의 다른 기업들이 넘어야 할지 말지를 결정해야 하는 윤리적 경계를 설정했다.

앤트로픽의 안전장치 제거 거부와 그에 따른 국방부의 보복 조치는 AI를 전쟁에 사용하는 것에 대한 오랜 우려를 다시금 부각시켰으며, 빅테크와 군사 관계에 대한 기준이 얼마나 변했는지를 보여주고 있다.

최근 빅테크들이 새롭게 군사주의를 수용하는 데에는 여러 가지 요인이 작용하고 있다. 트럼프 행정부와의 연계, 특히 주요 CEO들의 트럼프에 대한 충성심 표명은 기술기업들을 정부의 군사력 확장 욕구와 연결시켰다.

AI를 활용한 미 연방기관 개혁공약은 AI 기업들이 자사 제품을 정부 및 군사 작전에 통합해 향후 수년간 수익을 창출할 수 있는 기회를 구체적으로 제시한 것으로 나타났다. 그 배경에는 중국의 기술 발전과 전 세계적인 국방비 지출 급증에 대한 우려가 포함됐으며, 이는 업계 전반의 태도 변화를 불러일으키는 원인이 되고 있다.

불과 얼마 전까지만 해도 군대와 협력해 잠재적으로 해로운 기술을 개발하는 일은 많은 빅테크 종사자들에게 있어 결코 넘어서는 안 될 금지선 즉 ‘레드라인’으로 여겨졌다.

2018년 수천명의 구글 직원들은 미 국방부를 위해 드론 촬영 영상을 분석하는 프로그램인 ‘프로젝트 메이븐’(Project Maven)에 반대하는 시위를 벌이기도 했으며, 당시 3000명이 넘는 구글 직원들은 공개서한을 통해 “구글은 전쟁 사업에 관여해서는 안 된다”고 목소리를 높였다.

구글은 이러한 시위 사태 이후 프로젝트 메이븐 계약을 갱신하지 않기로 결정했으며, 사람들에게 해를 끼치거나 직접적으로 해를 입히는 데 일조할 수 있는 기술의 개발을 금지하는 사내 정책을 발표하기도 했다.

그러나 프로젝트 메이븐 반대 시위가 일어난지 수년이 흐른 지금, 구글은 직원들의 사내 시위 활동을 엄격히 단속하고 2018년 당시 무기 개발용 기술 제작을 금지했던 정책 문구를 삭제했으며, 군대가 자사의 제품을 활용할 수 있도록 허용하는 다수의 계약을 체결했다.

또한 구글은 2024년에 이스라엘 정부와의 군사적 연계에 반대하는 시위를 벌인 직원 50여명을 해고하기도 했다. 직원 해고 사태 직후, 순다르 피차이 구글 CEO는 직원들에게 보낸 사내 메모를 통해 “구글은 기업이지 분란의 소지가 있는 쟁점을 두고 다투거나 정치적 논쟁을 벌이는 장소가 아니다”고 못 박았다.

그리고 바로 지난주 구글은 자사의 AI 모델인 ‘제미나이’(Gemini)를 미군에 제공해, 군이 기밀 프로젝트 수행을 위한 AI 에이전트를 구축할 수 있는 플랫폼을 지원하겠다고 발표했다.

오픈AI는 2024년 이전까지는 군대가 자사의 AI 모델에 접근하는 것을 전면적으로 금지했지만, 그 이후 오픈AI 최고제품책임자(CPO)가 미군의 ‘행정 혁신단’(Executive Innovation Corps) 소속 중령으로 복무하고 있는 상태다.

오픈AI는 구글, 앤트로픽, xAI와 함께 작년 미 국방부와 최대 2억달러(약 2987억원) 규모의 계약을 체결하고 자사의 기술을 군사 시스템에 통합하기로 합의했다.

심지어 피트 헤그세스 미국 국방장관이 앤트로픽을 ‘공급망 위험 요소’로 규정한 바로 그날, 오픈AI는 자사의 기술이 기밀 군사 시스템에 활용될 수 있도록 허용하는 내용의 계약을 미 국방부와 체결했다.

기술 업계의 또 다른 곳에서는 구글 메이븐 시위가 일어나기 바로 전년도에 설립된 방위 기술 기업 안두릴(Anduril)과 감시기술 개발업체 팔란티어(Palantir)처럼 더욱 강경한 기업들이 미 국방부와 협력을 사업의 핵심으로 삼고 실리콘 밸리의 정치적 입장을 자신들의 관점으로 돌리기 위해 노력중이다.

팔란티어는 군과의 협력에 있어 선구적인 행보를 보였는데, 2010년대 초 아프가니스탄에 설치된 폭발물의 위치를 파악하기 위해 군 정보기관과 계약을 맺기도 했다. 알렉스 카프 팔란티어 CEO는 지난해 출간한 저서를 통해 기술업계와 AI를 미군과 더욱 긴밀하게 통합해야 한다고 주장했으며, 한 구절에서는 2018년 시위를 벌였던 구글 직원들을 ‘허무주의자’라고 비난하기도 했다.

이후 구글이 2019년 메이븐 프로젝트 계약을 파기하자 팔란티어가 이를 인수했다. 메이븐은 현재 군 관계자들이 앤트로픽의 AI 모델 클로드(Claude)에 접근하는 데 사용하는 기밀 시스템의 이름으로 알려진다.

현재 앤트로픽은 미 국방부와의 대립 속에서 대중의 찬사를 받고 있지만, 공동 창립자 겸 최고경영자인 다리오 아모데이는 AI 기업인 앤트로픽과 미 정부가 대체로 같은 목표를 추구한다고 강조하고 있다.

아모데이는 지금까지 기업이 설정한 레드라인을 고수하면서도 동시에 앤트로픽이 국방부와 지속적으로 협력하기를 원한다는 의사를 거듭 밝혀왔다. 앤트로픽이 국방부를 상대로 제기한 소송에서도 기업이 군과 협력하고 군의 활용 목적에 맞춰 자사 제품을 수정하는 일에 얼마나 적극적이었는지 보여줬다는 분석도 나온다.

현지 언론에 따르면 미 정부는 이란을 겨냥한 폭격 작전에서 표적 선정 및 분석을 위해 클로드를 활용해 왔으며, 앤트로픽은 이러한 활용 사례에 대해 어떠한 문제 제기도 하지 않은 것으로 알려졌다.

또한 앤트로픽 웹사이트에 올린 블로그 게시물에서 아모데이 앤트로픽 CEO는 “앤트로픽은 군의 작전상 의사 결정 과정에 어떠한 역할도 하지 않는다”며 “앤트로픽은 미국의 최전선 전투원들을 지원하며 그들에게 필요한 기술을 제공하는 데 전념하고 있다”고 밝혔다.

그는 “우리는 미 국방부에 ‘두 가지 예외 사항을 제외한 모든 활용 사례에 대해 동의한다’고 전달했다”며 “기본적으로 국방부가 시도하고자 하는 활용 사례의 98%에서 99%에 해당하는 부분에 대해 동의한 셈”이라고 언론과의 인터뷰를 통해 강조했다.