서울대-머니브레인, "AI로 딥페이크 잡아라"

서울대와 AI 스타트업 머니브레인이 딥페이크 탐지 경진 대회를 개최한다.

딥페이크 기술
딥페이크 기술

이번 딥페이크 변조 영상 탐지 AI 경진대회는 딥페이크 기술의 부작용을 해결하고, 변조와 합성을 탐지하는 기술의 필요성을 높이는 것이 목적이다. 기존의 변조와 합성을 탐지하는 연구 레퍼런스 데이터는 서양인 위주로 구성돼 있고, 적은 데이터 양을 가지며, 탐지 방해 요소를 고려하지 않고 제작돼 왔다는 점 등의 문제점을 갖고 있다. 이러한 문제점을 해결하는 데이터를 제안함으로써 ‘AI hub 데이터 구축사업’을 홍보하며 데이터 사용을 활성화시키는 데 중점을 두었다.

최근 들어 딥페이크를 이용한 변조 영상이 대중의 화제를 일으키고 있다. 미국 대선을 앞두고 글로벌 소셜미디어 기업들이 잇따라 딥페이크 기술을 악용한 허위정보가 사실인 것처럼 가장한 사건들이 그 대표적인 예이다. 이에 따라 각종 인공지능 기반의 얼굴 합성과 변조 기술이 다양한 분야에서 관심을 받으면서 해당 영상 탐지에 대한 필요성이 대두되고 있다.

변조와 합성 분야가 상대적으로 높은 관심을 받으면서 활발히 연구되는 반면에, 변조와 합성을 탐지하는 연구는 상대적으로 적은 관심을 받고 있다.

이번 대회는 인공지능 영상합성과 딥페이크 분야에서 세계적인 선두기업인 머니브레인과 서울대학교의 인공지능 연구실(DSAIL)이 주최, 데이콘이 주관, 한국정보화진흥원이 후원한다. 이 사업은 한국정보화진흥원 인공지능 데이터 사업의 일환으로 개최되는 것으로 일반인, 학생, 연구원, 박사 등 누구나 참가신청 할 수 있다. 참가 신청은 DACON의 웹사이트(https://dacon.io/)에서 간단한 회원가입 절차 후, 신청이 가능하다.

머니브레인의 장세영 대표는 “인간에게 이로운 인공지능 영상합성과 딥페이크의 기술을 향상시키 위해 노력해 왔고, 이에 따라 발생할 수 있는 악용이나 부작용을 방지하기 위한 딥페이크 변조 영상 탐지 기술의 지속적인 연구가 필요하다”며 이번 AI 경진대회를 통해 해당 기술의 필요성을 높이고자 하는 의지를 보였다.

김광우 기자

kimnoba@tech42.co.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

토스증권, 첫 거래 고객 대상 1천 달러 ‘해외주식 구매지원금 캐시백 이벤트’

토스증권이 자사 서비스 첫 거래 고객들을 대상으로 이 달 말까지 ‘해외주식 구매지원금 캐시백 이벤트’를 진행한다고 19일 밝혔다.  이번 이벤트는 토스증권에서...

카카오픽코마, 글로벌 모바일 소비자 지출 앱 TOP10 올랐다

카카오픽코마는 자사가 운영하는 글로벌 만화 플랫폼 '픽코마'가 전 세계 모바일 소비자들이 가장 많이 지출한 앱(2021년 기준, 게임 제외) TOP10에 선정됐다고...

AI반도체 개발에 4000억원 투입…'초거대AI 생태계' 만든다

올해부터 본격화되는 초거대 인공지능(AI) 서비스 개발 활성화를 위해 민관이 협력을 강화한다. 이미 1조 원 투자가 진행 중인 AI반도체 '10년 프로젝트'에...

풀필먼트 IT 볼드나인, 첫 '시리즈 A' 투자유치

볼드나인이 50억원 규모의 '시리즈 A' 투자를 유치했다. 볼드나인은 풀필먼트 IT 스타트업이다. 17일 볼드나인은 포스코 기술투자와 베일리PE가 주관해 국내 유수의 기관으로부터...