[AI요약] 중국의 지원을 받고 있는 해커집단이 AI를 활용해 한국과 미국, 인도의 선거를 방해할 것이라는 보고서가 나왔다. 앞서 중국 해커집단은 대만 총통선거 동안 매우 활발하게 활동하며, 중국이 반대하는 후보자에 대한 근거없는 영상과 밈을 유포하면서 선거에 부정적인 영향을 미친 것으로 분석됐다.

중국이 인공지능(AI)을 이용해 한국, 미국, 인도의 선거를 방해할 것이라고 경고한 마이크로소프트의 보고서에 대해 가디언 등 외신이 6일(현지시간) 보도했다.

마이크로소프트는 중국이 대만 대선 여론조사에서 모의시험을 펼친 AI 콘텐츠로 올해 한국, 미국, 인도 선거를 방해하려 할 것이라고 경고했다.

지난주 금요일에 발표된 마이크로소프트의 위협정보팀의 보고서에 따르면, 기업은 중국 정부가 지원하는 사이버 그룹이 2024년에 주목할만한 선거를 표적으로 삼을 것이며 북한도 개입할 것으로 예상하고 있다.

한국, 미국, 인도의 인구가 투표소로 향할수록 중국의 사이버 공격자와 영향력 있는 행위자를 보게될 가능성이 높으며, 북한의 사이버 행위자도 이러한 선거를 표적으로 삼을 것이라는 전망이다.

중국은 소셜미디어를 통해 한국, 미국, 인도 등 중요한 선거에서 자신들의 지위에 도움이 되는 AI 생성 콘텐츠를 만들고 배포할 것이라는 관측도 나왔다. 특히 AI가 만든 콘텐츠의 영향이 미미할수 있지만 상황이 급변할수 있다고 보고서는 경고하고 있다.

마이크로소프트의 이번 보고서에는 중국이 이미 지난 1월 대만 총통선거에서 AI를 활용한 허위 정보 캠페인을 시도했다는 내용도 포함됐다. 마이크로소프트에 따르면, 국영 기업이 외국 선거에 영향력을 행사하기 위해 AI 제작 콘텐츠를 사용한 사례는 이번이 최초이다.

스패무플라주(Spamouflage) 또는 드래곤브릿지(Dragonbridge)라고도 알려진 스톰1376(Storm 1376)이라는 중국해커 집단은 대만선거 동안 매우 활발하게 활동했다.

이들이 선거에 영향을 미치려는 시도에는 지난 11월 사임한 선거 후보 테리 구(Terry Gou)가 다른 후보를 지지하는 가짜 오디오를 유튜브에 게시하는 것이 포함됐다. 마이크로소프트는 해당 클립을 AI가 생성한 것으로 봤으며, 유튜브는 많은 사용자에게 도달하기 전에 콘텐츠를 삭제한 것으로 알려졌다.

중국이 지원하고 있는 것으로 알려진 해당 해커집단은 궁극적으로 성공할 후보인 윌리엄 라이에 대해 AI가 생성한 일련의 밈을 쏟아냈다. 라이는 중국이 반대하는 주권 지지자다. 해커집단은 밈을 통해 라이가 국가 자금을 횡령했다고 비난하는 근거 없는 주장을 사실인 것처럼 평준화시켰다.

또한 AI가 생성한 TV 뉴스앵커의 사용이 증가했는데 이는 이란에서도 사용된 전술이다. ‘앵커’의 목소리를 통해 해커집단은 ‘사생아 아버지’를 포함한 라이의 사생활에 대해 근거 없는 주장을 제기하면서 논란을 만들었다.

마이크로소프트는 해당 AI 뉴스 앵커가 틱톡의 소유주인 중국 기업 바이트댄스(ByteDance)가 개발한 캡컷(CapCut) 도구로 제작됐다고 밝혔다.

보고서에 따르면, 중국 해커집단들은 미국에서 영향력 있는 캠페인을 계속하고 있다. 중국의 지원을 받는 해커들이 소셜미디어 계정을 사용해 ‘분열적인 질문’을 제기하고 미국 유권자를 분열시키기 위한 시도를 진행중이라는 지적이다.

해커들의 이러한 시도는 미국 대통령 선거를 앞두고 주요 투표 인구통계에 대한 정보와 정확성을 수집하기 위한 것이라는 관측이 나온다.

이번 보고서는 백악관이 임명한 공식 검토 위원회가 마이크로소프트의 잇따른 오류로 인해 중국 사이버 집단들이 미국 고위 관리들의 이메일 계정에 침입했다고 비판한 이후 발표됐다. 지난달 미국과 영국 정부는 중국의 지원을 받는 해커들이 정치인, 언론인, 기업은 물론 영국 선거 감시단을 표적으로 삼아 수년간 사이버 캠페인을 벌였다고 비난한바 있다.

마이크로소프트는 “중국AI가 만든 콘텐츠가 청중에게 미치는 영향은 여전히 낮지만, 중국은 밈, 비디오, 오디오를 강화하기 위해 점점 더 많은 실험을 계속할 것”이며 “앞으로는 효과가 입증될수 있다”고 분석했다.