[AI요약] 앤트로픽과 계약한 미 국방부가 기업이 개발한 AI 모델에 대한 모든 안전장치를 해제할 것을 압박하고 나섰지만, 앤트로픽은 ‘AI로 제어되는 무기’와 ‘미국 시민에 대한 대규모 국내 감시’라는 두 가지 우려 사항을 포기할 의사가 없어 논란이 되고 있다. 현재 앤트로픽은 AI이 무기 운용에 사용될 만큼 신뢰할 수 없으며, AI를 이용한 대규모 감시에 대한 법률이나 규정도 아직 마련되지 않았다고 우려하고 있다.

미 정부가 기업이 만든 AI 안전장치에 대해 해제를 요구하는 것은 정당한 것일까.

미국 국방부가 앤트로픽(Anthropic)이 자사 AI 모델에 적용한 안전장치 해제를 요구하는 이유와 전망에 대해 블룸버그, CNN 등 외신이 26일(현지시간) 보도했다.

현지 언론에 따르면 피트 헤그세스 미 국방장관이 다리오 아모데이 앤트로픽 CEO에게 이번주 금요일까지 AI 모델에 적용된 안전장치를 완화하라는 요구를 수용하지 않을 경우 미 국방부 계약을 박탈하겠다고 통보했다. 또한 헤그세스 국방장관은 앤트로픽을 ‘공급망 위험 기업’이라는 명목으로 정부 블랙리스트에 올릴 수도 있다고도 경고한 것으로 나타났다.

이번 쟁점은 앤트로픽이 자사의 AI 모델 ‘클로드’(Claude)에 적용한 안전장치다. 앤트로픽과 2억달러(약 2854억8000만원) 규모의 계약을 체결한 미 국방부는 앤트로픽이 해당 모델을 ‘모든 합법적 용도’로 사용할 수 있도록 제한을 해제할 것을 요구하고 있는 것으로 알려졌다.

그러나 앤트로픽은 ‘AI로 제어되는 무기’와 ‘미국 시민에 대한 대규모 국내 감시’라는 두 가지 우려 사항을 포기할 의사가 없는 상태다. 앤트로픽은 AI이 무기 운용에 사용될 만큼 신뢰할 수 없으며, AI를 이용한 대규모 감시에 대한 법률이나 규정도 아직 마련되지 않았다고 우려하고 있다.

앤스로픽과 미 국방부 간의 갈등은 경쟁사들에게 기회를 제공할 가능성이 크다. 일론 머스크의 xAI는 기밀 환경 참여에 동의한 상태며, 다른 기업들도 거의 동의 단계에 있는 것으로 알려진다.

앤스로픽은 오랫동안 AI 안전에 가장 큰 관심을 기울이는 기업으로 자리매김해 왔다. 창립자들은 모두 오픈AI 출신으로, 이들은 모두 챗GPT 개발사인 오픈AI의 방향성, 안전 접근 방식, AI 개발 속도에 대한 의견 차이로 회사를 떠난바 있다. 특히 앤스로픽은 최근 AI 규제 강화를 주장하는 정치 단체에 2천만달러(약 285억4200만원)를 기부한다고 발표하기도 했다.

미 정부는 앤트로픽의 반대에도 불구하고 국방생산법(DPA)으로 기업의 권한을 강제할 것으로 보인다.

DPA는 국가 안보를 위해 미 정부가 기업에 영향력을 행사할 수 있도록 하는 법으로, 최근 트럼프 행정부가 팬데믹 상황에서 발동한 바 있다.

공급망 위험 기업으로 지정될 경우, 군사 계약을 체결한 기업들은 앤트로픽의 제품을 군사 관련 사업에 사용할 수 없게 되는데, 이는 AI 기업이 기업 시장으로의 확장을 시도하는 시점에 큰 타격을 줄 수 있다.

특히 현재 많은 빅테크가 군사 계약을 체결하고 있다는 점을 고려할 때 기업이 블랙리스트에 오를 경우 더욱 큰 타격이 될수 있다. 이러한 지정은 미국에서 일반적으로 러시아나 중국과 같은 ‘외국 적대국의 하수인’으로 간주되는 기업에 적용된다.

그러나 전문가들은 미 국방부가 어떻게 한 기업을 공급망 위험 기업으로 지정하면서 동시에 그 기업에 군사 협력을 강요할 수 있는지 의문을 제기하고 있다.

미 법무부와 국방부 간 연락관을 지냈던 스케일로펌의 케이트 스위튼 파트너는 “공급망 위험을 초래하는 기술을 미국 국민이 사용하고 싶어 하지는 않을 것”이라며 “공급망 위험이라는 주장이 정당한 근거가 아니라 기업이 협조하지 않는다는 이유로 내리는 징벌적인 조치일 가능성이 있다”고 지적했다.

미 국방부 관계자는 “앤트로픽이 금요일 오후 5시 1분까지 계약에 동의할지 여부를 결정해야 한다”며 “만약 앤트로픽이 동의하지 않을 경우, 헤그세스 국방장관이 앤트로픽에 대해 국방생산법(DPA)을 발동해 원하든 원하지 않든 국방부가 해당 업체를 이용하도록 강제할 것”이라고 언론을 통해 밝혔다.

앤트로픽 대변인은 “앤스로픽은 미국의 국가 안보를 지원하기 위해 최첨단 AI를 활용하는 데 전념하고 있다”며 “이는 우리가 기밀 네트워크에 모델을 배포한 최초의 최첨단 AI 기업이자 국가 안보 고객을 위한 맞춤형 모델을 제공한 최초의 기업인 이유”라고 밝혔다.

이어 “앤트로픽은 자사 모델이 신뢰할 수 있고 책임감 있게 수행할 수 있는 범위 내에서 정부의 국가 안보 임무를 지속적으로 지원할 수 있도록 사용 정책에 대해 성실한 논의를 이어갈 것”이라고 강조했다.