[AI요약] 합의되지 않은 실제 이미지가 공유되는 ‘리벤지 포르노’ 문제가 AI 기술 확산과 함께 누구나 딥페이크 포르노 희생자가 될수 있는 공포로 떠올랐다. 실제 개인이 노골적인 이미지를 만들거나 또는 누군가에게 이를 보낸적이 없더라도 누구나 딥페이크 포르노의 괴롭힘 대상이 될수 있다.

AI 딥페이크 포르노 희생자가 되기 위한 조건은 ‘인간의 형태’라면 충분하다.

급격한 기술 발전으로 누구나 AI 딥페이크 포르노의 희생자가 될수 있는 가운데, 이러한 범죄로부터 개인을 보호할수 있는 방법에 대해 CNN, USA투데이 등 외신이 13일(현지시간) 보도했다.

성적 이미지를 합의 없이 공유하는 ‘리벤지 포르노’는 인터넷의 탄생과 함께 거의 같은 기간 존재해 왔지만, AI 기술의 확산은 이제 완전히 다른 문제가 됐다. AI 도구의 확산으로 개인이 누드 이미지를 찍거나 누군가에게 이를 보낸 적이 없더라도 누구나 이러한 형태의 괴롭힘 대상이 될수 있기 때문이다.

이제 AI 도구는 사람의 얼굴을 누드 신체에 중첩하거나 기존 사진을 조작해 사람이 옷을 입지 않은 것처럼 보이게 할수 있다.

지난해 미국에서는 테일러 스위프트와 알렉산드리아 오카시오 코르테스 의원과 같은 유명 여성부터 고등학생 여학생까지, AI 생성한 합의 없는 딥페이크 포르노의 무분별한 대상이 되면서 사회적 문제로 떠올랐다.

전문가들은 자신 또는 자녀가 딥페이크 포로노의 대상이 됐다는 사실을 알게 된다면, 일반적으로 무서움에 압도되는 상황이 많다고 지적한다. 그러나 이러한 형태의 괴롭힘을 당한 피해자들이 자신을 보호하기 위해 취할수 있는 단계적 방법과 도움을 구할수 있는 곳이 제안되고 있다.

먼저 AI가 생성한 성적 이미지의 표적이 됐을 경우, 첫 번째 단계는 그게 어떤 이미지라도 무조건 스크린샷을 찍어 증거를 남기는 일이다. 가장 좋은 대응은 가능한 빠르게 인터넷에서 해당 이미지를 삭제하는 것이지만, 형사 신고를 위해서는 반드시 증거가 필요하다.

그런 다음에는 구글, 메타, 스냅챗 등 주요 플랫폼에서 제공하고 있는 양식을 찾아 노골적인 이미지 삭제 요청을 진행할수 있다.

미국에서는 ‘StopNCII.org’ 또는 ‘Take It Down’과 같은 비영리단체들이 여러 플랫폼에서 이러한 이미지를 한번에 삭제하는데 도움을 주고 있지만, 모든 사이트가 해당 단체들에 협력하는 것은 아니다.

이에 미국 양당 상원의원은 지난 8월 X와 디스코드를 포함한 약 12개 기술기업에 해당 프로그램에 참여할 것을 촉구하는 공개서한을 보낸바 있다. 이처럼 비합의적 노골적인 이미지와 딥페이크 문제를 해결하기 위한 투쟁은 미국에서 드물게도 양당의 지지를 받고 있다,

최근 미국 내 AI가 생성한 포르노에 영향을 받은 청소년과 부모 단체들이 미국의회에서 열린 청문회에서 증언하면 큰 지지를 받았다. 양당 의원들은 노골적인 이미지를 게시하는 것을 범죄로 만들고 소셜 미디어 플랫폼에서 피해자의 통지에 따라 이를 삭제하도록 요구할수 있는 법안을 제출했다.

그러나 현재 미국의 경우 피해자들이 주마다 다른 법에 따라 문제를 헤쳐나가야 하는 문제도 있다. 성인의 노골적인 딥페이크를 만들거나 공유하는 것을 금지하는 형법이 없는 주들도 있기 때문이다. 다만 AI가 생성한 아동의 성적 이미지는 일반적으로 아동 성적 학대법에 해당해 처벌받는다.

성범죄와 온라인 괴롭힘 피해자를 대리하는 미국 뉴욕 소재 C.A.골드버그 법률 사무소의 골드버그 대표는 “딥페이크 포로노 피해자가 특히 어리고 대처 방법을 모를수록, 그리고 거대하고 모호한 인터넷의 세계에서 발생한 범죄일수록 더욱 문제가 커진다”고 지적했다.

골드버그 대표는 “피해자들이 AI 딥페이크 포르노의 피해를 사전에 막기 위해 할수 있는 일은 많지 않다”며 “결국 적극적으로 말할수 있는 것은 잠재적인 범죄자들에게 다른 사람의 이미지를 훔쳐 굴욕을 주는 일을 멈추라는 것”이라고 덧붙였다.