[AI요약] 올해 메타가 적대적인 온라인 활동으로 사용자들에게 은밀한 영향력을 미치려고 한 집단과 개인의 시도에 따라, 이를 막기 위한 개입을 진행했다. 다만 올해 전세계적으로 많은 선거가 있었던 것에 비해, 유권자를 속이는데 사용된 AI는 비교적 미미한 것으로 파악됐다. 메타가 개입한 은밀한 영향력 작전의 1위 소스는 러시아였으며 이란과 중국이 뒤를 이었다.

올해에도 인기 플랫폼 사용자들을 혼란에 빠뜨리고 현혹하려는 시도가 활발했다.

메타가 올해 전 세계적으로 약 20건의 은밀한 영향력 행사를 중단하기 위해 개입한 현황에 대해 가디언, 테크크런치 등 외신이 4일(현지시간) 보도했다.

메타가 공개한 2024년 선거에 대한 보고서에 따르면, 기업이 최소 20건의 은밀한 영향력 작전에 개입한 것으로 나타났다.

페이스북, 인스타그램, 왓츠앱을 운영하고 있는 메타에 따르면, 러시아가 적대적인 온라인 활동의 1순위 출처로 드러났다. 그러나 올해 전세계적으로 많은 선거가 있었던 것을 가만하면, 유권자를 속이는데 사용된 AI는 비교적 미미한 것으로 파악됐다.

30억명 이상의 사용자를 보유하고 있는 메타는 미국 선거일에 앞서 한달 동안 자체 AI 도구에서 도널드 트럼프, 카말라 해리스, JD 밴스, 조 바이든의 이미지를 생성하려는 요청을 50만 건 이상 중단했다.

그러나 메타의 보안 전문가들은 3주에 한번 이상 전략적 목표를 위해 가짜 계정을 사용해 공개 토론을 조작하는 새로운 작전을 처리해야 했다. 이중 ‘조정된 비진정한 행동’ 케이스에서는 러시아 네트워크가 수십 개의 페이스북 계정과 가짜 뉴스 웹사이트를 사용하여 조지아, 아르메니아, 아제르바이잔의 사람들을 표적으로 삼는 것이 목격됐다.

또 다른 케이스는 폭스뉴스와 텔레그래프와 같은 브랜드를 사용해 가짜 뉴스 웹사이트를 만드는데 AI를 사용한 러시아 기반 작전으로, 우크라이나에 대한 서방의 지원을 약화시키고, 프랑스어 가짜 뉴스 사이트를 사용해 아프리카에서 러시아의 역할을 홍보하고 프랑스의 역할을 비판한 것으로 나타났다.

러시아는 현재까지 메타가 개입한 은밀한 영향력 작전의 1위 소스로, 2017년 이후로 총 39개의 네트워크가 러시아 소스로 인해 방해된 것으로 파악됐다. 메타가 감지한 외국 간섭의 두 번째로 빈번한 소스는 이란과 중국이었다.

최근 미국, 인도, 대만, 프랑스, ​​독일, 영국을 포함한 50개국에서 여론조사가 잇따른 후 AI 위조의 효과를 평가하면서 ‘광범위한 딥페이크와 AI를 활용한 허위 정보 캠페인’ 등 잠재적 위험에 대한 온갖 경고가 있었다.

그러나 이러한 위험은 상당한 수준으로 실현되지 않았고 영향도 미미했으며 범위가 제한적이었던 것으로 드러났다. 다만 비디오, 음성, 사진을 조작하기 위해 생성형 AI를 사용하는 조작의 현재 낮은 영향은 급격하게 높아질수 있는 것으로 지적되고 있다.

이러한 AI 도구는 점점 더 보편화되고 있으며 이에 따라 온라인에서 점점 더 많은 합성 및 하이브리드 콘텐츠를 보게 될 가능성이 크기 때문이다.

메타의 이번 분석평가는 지난달 미국 신흥기술 및 보안센터에서 “기만적인 AI 생성 콘텐츠가 다른 형태의 허위 정보를 증폭하고 정치적 논쟁을 부추겨 미국 선거 담론을 형성했다”는 결론을 내린 데 따른 것이다.

센터의 보고서는 AI 기반 위협이 2024년에 민주주의 시스템의 건강을 해치기 시작했다고 결론지었고, 2025년 호주와 캐나다 선거에 유의할 것을 권고했다. 그러나 해당 보고서는 도널드 트럼프의 선거 승리에 미치는 영향에 대한 증거가 부족하다고 평가했다.

샘 스톡웰 앨런 튜링 연구소 연수원은 “AI 도구가 선거 담론을 형성하고 특히 최근 미국 선거에서 미묘한 방식으로 해로운 서사를 증폭했을 가능성이 있다”며 “여기에는 카말라 해리스의 집회가 AI가 생성했다는 오해의 소지가 있는 주장과 아이티 이민자들이 외국인 혐오 AI가 생성한 밈으로 인해 애완동물을 먹는다는 근거 없는 소문이 바이러스처럼 퍼졌다”고 지적했다.

닉 크레그 메타 글로벌 업무 담당 사장은 “AI가 주도하는 가짜 행위로 인해 선거가 왜곡될 수 있다는 우려가 2024년에는 실현되지 않았다”고 설명했다.