[AI요약] 피해자의 감정 진술을 위해 AI가 이미 사망한 피해자를 재현하는 데 사용된 최초의 사례가 나왔다. AI 버전의 피해자는 자신을 살해한 살해범을 용서한다는 취지의 발언을 했지만, 그러한 발언은 결국 피해자 가족의 뜻이었다. 법정 안팎에서 사망자를 재현하는 데 AI를 사용하는 것에 대한 윤리적, 실질적 문제를 점점 더 심각하게 고민해야 하다는 지적이 나온다.
AI가 이미 사망한 사람을 법정에서 대변할 수 있을까.
AI가 생성한 살인 피해자가 법정에서 진술한 최근 사례와 향후 AI가 법정에 미칠 영향에 대해 뉴욕타임즈, CNN 등 외신이 10일(현지시간) 보도했다.
미국 애리조나주 마리코파 카운티 고등법원에서 AI가 생성한 살인 피해자가 가해자에게 진술하는 모습이 지난 1일 공개됐다.
미국의 스테이시 웨일즈는 2021년 보복 운전 사건으로 오빠가 총에 맞아 사망한 후 법정에서 제출할 피해자 영향 진술서를 2년 동안 준비했다. 그러나 웨일즈는 자신의 진술서가 오빠 크리스토퍼 펠키의 인간적인 면모와 그가 하고 싶었던 말을 담아내기에는 충분하지 않다고 판단, 결국 그는 AI의 도움을 받아 펠키가 직접 진술하도록 하는 결정을 내렸다.
웨일즈와 그의 남편은 가해자의 선고 공판에서 AI가 생성한 펠키의 영상을 재생했다. 테크 분야에서 일하고 있는 웨일즈와 그의 남편은 펠키의 사진과 오래된 영상을 학습한 여러 소프트웨어 플랫폼을 사용해 재판 심리에서 공개된 AI 복제본을 제작한 것으로 알려졌다.
사람을 묘사하는 다른 AI 영상과 마찬가지로 펠키의 재현은 다소 어색했으며, 영상은 AI 기술을 사용해 제작됐다는 사실부터 발언하면서 시작했다. AI 버전의 펠키는 “안녕하세요, 이 영상을 보시는 모든 분께 명확히 말씀드리자면, 저는 제 사진과 음성 프로필을 사용하여 AI를 통해 재창조된 크리스 펠키의 한 버전입니다.”라고 말한다.
해당 영상은 웨일즈가 직접 쓴 대본이 펠키의 목소리로 재현돼 재생됐으며, AI 버전의 펠키는 총격범에게 용서를 표했다.
웰일즈는 법정에서 영상을 공개하면서 “오빠를 대신해 이 글을 쓰기 위해 매우 조심스럽게 생각을 정리해야 했다”며 “오빠의 말이 내 생각과 꼭 일치하는 것은 아니지만, 그가 어떻게 생각할지는 알고 있기 때문”이라고 심경을 밝혔다.
마리코파 카운티 고등법원의 토드 랭 판사는 펠키를 죽인 가브리엘 폴 호르카시타스에게 살인죄로 10년 6개월의 징역형을 선고했다. 주 정부가 9년 6개월만을 요청했지만, 판사는 위험 유발 혐의를 포함해 총 12년 6개월의 징역형을 선고했다.
랭 판사는 당시 재판 녹음본을 통해 “AI를 긍정적으로 사용한 것에 대해 고맙게 생각한다”며 “피해자 가족들은 당연히 화가 났겠지만, 나는 용서의 메시지를 들었다”고 밝혔다.
AI는 법률 및 형사 사법 절차에서 점점 더 중요한 역할을 하고 있지만, AI가 피해자의 감정 진술을 위해 피해자를 재현하는 데 사용된 것은 이번이 처음인 것으로 알려진다.
이에 전문가들은 기술이 점점 더 인간과 비슷해짐에 따라 법정 안팎에서 사망자를 재현하는 데 AI를 사용하는 것에 대한 윤리적, 실질적 문제를 점점 더 심각하게 고민해야 할 시점이라고 지적한다.
최근 판사들은 법정에서 AI의 역할에 대한 결정을 점점 더 직면하고 있으며, 여기에는 AI가 법정에 존재해야 하는지 여부도 포함된다.
지난달 뉴욕에서 열린 또 다른 사건에서 항소심 판사는 원고 측이 AI가 생성한 아바타를 통해 자신의 변론을 하려는 시도를 즉시 중단시켰는데, 해당 아바타가 실제 사람이 아니라는 점을 명확히 밝히지 않았기 때문이었다.
그리고 바로 연방 사법위원회는 AI가 생성한 증거가 인간 전문가 증인의 증거와 동일한 신뢰성 기준을 충족해야 한다는 내용의 초안을 발의했다.
전문가들은 앞으로 AI가 생성한 증거나 시각 자료를 배심원에게 제시하는 사례가 많아질 것으로 보고 있다.
문제는 배심원들이 판사와는 달리 감정이 사건의 사실을 압도하지 않도록 훈련받지 않았다는 점이며, 이는 AI가 사건 당사자를 더 동정적으로 보이게 하는 등 부정확하게 표현할 수 있는지에 대한 의문이 제기되는 이유다.
호르카시타스의 변호사인 제이슨 램은 피고 측이 피해자 영향 진술에 AI가 사용될 것이라는 사전 통지를 받지 못했다고 밝혔다. 램 변호사는 “판사가 AI 영상에 어느 정도 무게를 둔 것으로 보이며, 이는 항소심에서 다뤄질 가능성이 높다”고 주장했다.
듀크 대학교 법학대학원 교수이자 메릴랜드 지방법원 전 판사인 폴 그림은 “‘보는 것이 믿는 것이고, 듣는 것이 믿는 것이다’라는 표현이 있다”며 “이는 기술이 설득과 영향력에 엄청난 영향을 미치며, 배심원단이나 판사가 판단의 근거로 삼아야 하는 기록을 왜곡해 어느 한쪽에게 부당한 이점을 주는지 여부를 항상 균형 있게 판단해야 한다는 것을 의미한다”고 비판했다.
