악의적 선거 딥페이크 사용 방지를 위한 자율협의체 공동선언 채택

한국인터넷기업협회는 회원사인 네이버, 카카오, SK커뮤니케이션즈(가나다 순) 등과 올해 치러지는 선거 과정에서의 공정성과 신뢰성을 위한 ‘악의적 선거 딥페이크 사용 방지를 위한 공동선언’을 채택했다고 11일 밝혔다.

협회에 따르면 이번 공동선언은 주요 IT 기업들이 악의적 선거 딥페이크에 대응하기 위해 자발적으로 구성한 자율협의체 활동의 일환으로, 제 22대 국회의원 선거 기간 동안 참여 기업 간 긴밀한 협력 기조를 세우기 위해 마련됐다.

공동선언문은 “악의적 선거 딥페이크의 위험을 낮추기 위한 탐지 및 신속한 조치 노력”을 기울이고, “대응 정책 공개 등을 통해 대응 투명성”을 높이며, “확산 방지를 위한 지속적 논의와 정보 및 의견 교류 활성화” 등의 내용을 담고 있다.

또한 “다양한 시민단체, 학계 등 외부 전문가와의 지속적 교류 및 논의”, “악의적 선거 딥페이크에 대한 대중들의 인식을 높이기 위한 노력” 등의 내용도 포함하고 있다.

이번 공동선언문 채택 기업들은 이를 계기로 인공지능(AI) 생성 콘텐츠에 대한 플랫폼 운영 기조와 자율규제의 중요성을 공고히 하고, 선거 관련 허위 정보 신고 채널 운영, 딥페이크 주의 안내 문구 표시 등 다양한 방안을 마련하고 있다.

또한 각 기업 서비스 특성에 따른 추가적 조치 방안도 준비하고 있다. 네이버는 콘텐츠의 출처 정보를 확인할 수 있는 ‘글로벌 기술 표준(C2PA) 채택 추진’과 ‘비가시성 메타 정보 피처 반영 및 생성 콘텐츠를 탐지하는 기술’ 확보를 중장기적 목표로 연구개발하고 있다.

카카오는 생성형 AI로 작성한 기사에 대해 AI 기술 적용 사실을 표시하고, 생성형 AI 이미지 생성 모델 「칼로」에 ‘비가시성 워터마크를 부착하는 기술’ 도입을 준비하고 있다.

SK커뮤니케이션즈는 AI를 이용한 이미지 생성 시 주요 정치인의 성명에 관한‘검색어 제한 조치’를 통해 선거 관련 딥페이크 제작을 방지한다.

끝으로 앞서 뮌헨협약을 통해 기만적 AI 선거 콘텐츠 대응 방침을 밝혔던 구글코리아, 메타(페이스북코리아), X(구 트위터코리아) 등 해외 기업들은 기술협정(A Tech Accord to Combat Deceptive Use of AI in 2024 Elections)에 따라 이번 선언문을 채택한 국내 기업들과의 자율협의체 활동에 참여하면서 제 22대 국회의원 선거 기간 동안 적극 동참하고 대응할 예정이다.

황정호 기자

jhh@tech42.co.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by 테크42 무단전재 및 재배포 금지

관련 기사

[현장] “AI 강국의 조건은 전력망”…송전탑 갈등, 주민 소득과 결정권으로 풀 수 있나

인공지능(AI)과 반도체 산업의 경쟁이 치열해지면서 안정적인 전력 공급 능력이 국가 산업 경쟁력을 좌우하는 핵심 요소로 떠오르고 있다. 첨단산업의 대규모 전력 수요와 신재생에너지 확대에 대응하려면 송전망과 변전소 확충이 필수적이다. 그러나 발전시설이 위치한 지역과 전력 소비가 집중된 수도권을 연결하는 과정에서 주민 반발과 입지 갈등이 반복되고 있다. 이러한 가운데 지난 9일 국회 의원회관에서 'AI 강국의 조건은 전력망: 국가기간 전력망 확충과 지역 갈등관리'를 주제로 국회 대토론회가 열렸다.

‘K-팔란티어' 경쟁 나선 네이버·카카오·NC…국방 AI의 승부처는 '신뢰의 조건'

국내 플랫폼 기업들이 국방 인공지능 전환(AX) 시장에 잇따라 뛰어들고 있다. 이 시장에서는 모델 성능 못지않게 '사용 조건'이 승부를 가를 것이라는...

“AI 속도전 끝나나”…민주당 압승에 흔들리는 빅테크, 삼성·SK하이닉스 HBM까지 충격파

미국 중간선거에서 민주당이 상·하원을 모두 장악하면서 글로벌 인공지능(AI) 산업이 정치적 격변의 영향권에 들어섰다. 이번 충격의 근원은 단순한 정권 견제가 아니다. AI 개발과 인프라 확장을 우선해 온 도널드 트럼프 행정부에 맞서 민주당이 AI 안전성 검증과 기업 책임, 데이터센터 전력비용 규제를 본격 추진할 가능성이 커졌기 때문이다.

[현장] “해외 진출하라면서 지원 자격은 제각각”…크로스보더 창업이 마주한 제도의 역설

지난 3일 서울 팁스타운 S1 팁스홀에서 ‘크로스보더 창업의 기준 : 국경을 넘는 창업, 지금 무엇을 논의해야 하는가’ 세미나가 열렸다. 이날 행사에서 이종훈 한국엔젤투자협회 회장(오른쪽)은 투자·지원 현장에서 발생하는 개념 혼선과 실무적 어려움을 짚었다. 이어 김성훈 법무법인 미션 대표변호사는 해외 진출을 둘러싼 구조적 문제를 분석하며 한국 창업생태계의 경계를 새롭게 정의해야 한다고 강조했다.