[AI요약] 구글이 기존에 기업의 AI 기술을 무기나 감시와 같은 잠재적으로 유해한 프로그램에 사용하지 않겠다는 약속을 철회하면서, 앞으로 기업의 행보가 기존과는 다르게 흘러갈 것임을 시사했다. 이러한 구글의 선택은 점점 더 복잡해지는 지정학적 환경에서 기업이 AI 리더십을 지키고 글로벌 경쟁에서 살아남기 위한 것이라는 분석이 나온다.
구글이 이제 기업의 AI 기술을 군사적인 목적으로도 사용할수 있는 문을 활짝 열었다.
구글의 모회사인 알파벳이 무기 및 감시와 같은 잠재적으로 유해한 응용 프로그램에 AI를 사용하지 않겠다는 약속을 철회한 배경과 전망에 대해 가디언, CNBC 등 외신이 5일(현지시간) 보도했다.
알파벳은 이번주 수익보고 전에 무기 및 감시에 대한 AI 기술을 사용하지 않겠다는 약속을 철회한 내용이 담긴 AI 윤리 지침을 업데이트했다.
기업의 이전 버전의 AI 윤리 지침에서는 ‘주된 목적 또는 구현이 사람에게 부상을 입히거나 직접적으로 부상을 입히는 무기 또는 기타 기술’과 ‘국제적으로 수용된 규범을 위반하는 감시를 위해 정보를 수집하거나 사용하는 기술’을 추구하지 않을 것이라고 명시했었다.
그러나 이번 변경된 지침에 따라, 이제 더 이상 이러한 기업 목표가 AI 원칙에 적용되지 않는다.
기업의 변경된 AI 정부를 포함한 더 많은 사용자와 고객에게 AI 기술과 서비스를 제공하려는 구글의 야심이 커지고 있음을 시사한다. 이러한 변화는 미국과 중국 간의 승자 독식 AI 경쟁에 대한 실리콘 밸리 분석가들의 주장과도 일치하고 있다.
구글의 이전 버전의 AI 원칙은 기업의 광범위한 사회적, 경제적 요인을 고려했다면, 이번 새로운 AI 원칙은 앞으로 전반적인 기업의 이점이, 예상 가능한 위험과 단점을 상당히 초과한다고 생각되는 곳에서 진행하게 할 것이라는 분석이 나온다.
구글의 이번 새로운 AI 원칙은 기업의 4분기 실적 발표를 앞두고 미국 언론을 통해 보도됐다. 구글의 실적은 월가의 매출 기대치에 미치지 못했으며, 시간 외 거래에서 주가가 최대 9% 하락한 것으로 나타났다.
앞서 구글은 미국정부가 인공지능을 사용해 드론 영상을 분석하고 해석하는 데 도움이 되는 프로젝트 메이븐(Project Maven)이라는 정부 계약을 갱신하지 않기로 결정한 후, 2018년에 AI 원칙을 수립했다.
해당 계약을 종료하기 전에 수천 명의 직원이 계약에 반대하는 청원에 서명했고 수십 명이 구글의 참여에 반대하며 사임하기도 했다. 구글은 당시 기업의 AI 원칙과 일치할지 확신할 수 없다는 명분으로 100억달러(약 14조5000억원) 규모의 펜타곤 클라우드 계약 입찰에서 탈락했다.
당시 구글 CEO인 순다르 피차이의 리더십에 따라 구글 팀은 고객에게 AI 기술을 강조하면서 연방 정부 계약을 적극적으로 추진했으며, 이로 인해 기업 내 강경한 직원들과 일부 부서에서 긴장이 고조되기도 했다.
이러한 일련의 사건 이후, 지난해 구글은 이스라엘 정부와 군대에 클라우드 컴퓨팅과 AI 서비스를 제공하는 아마존과의 12억달러(약 1조7328억원) 규모 합작 프로젝트인 님버스(Project Nimbus)를 진행했다.
그리고 구글은 이러한 기업의 행보에 항의하는 50명 이상의 직원을 해고하면서 해당 계약이 회사의 ‘AI 원칙’을 위반하지 않는다고 거듭해서 강조했다.
그러나 언론을 통해 공개된 문서와 보고서에 따르면, 구글의 계약은 이미지 분류, 객체 추적, 국유 무기 제조업체에 대한 조항을 포함한 AI 도구를 이스라엘에 제공하는 것을 허용한 것으로 나타났다.
이러한 내용은 구글이 님버스 계약에 서명하기 전 일부 구글 임원이 해당 계약이 기업 평판을 손상시키는 것은 물론, ‘구글 클라우드 서비스가 인권침해를 조장하는데 사용되거나 연결될수 있다’고 우려를 표명하면서 미국 언론을 통해 보도했다.
구글은 “국제법과 인권의 널리 받아들여진 원칙과 일관성을 유지할 것”이라며 “이점이 잠재적 위험을 상당히 초과하는지 신중하게 평가해 항상 특정 작업을 평가할 것”이라고 기업의 블로그 게시물을 통해 밝혔다.
구글은 또 “우리는 이러한 가치를 공유하는 기업, 정부 및 조직이 사람들을 보호하고 세계적 성장을 촉진하며 국가 안보를 지원하는 AI를 만들기 위해 협력해야 한다고 믿는다”고 강조했다.
데미스 하사비스 구글 딥마인드 CEO는 “우리는 민주주의가 자유, 평등, 인권 존중과 같은 핵심 가치에 따라 AI 개발을 주도해야 한다고 믿는다”고 밝혔다.
