[AI요약] 메타가 공개한 새로운 챗봇이 불과 일주일 만에 인종차별과 음모론을 학습하면서 논란이 되고 있다. 지나치게 인간적인 대답도 주목을 받았다. 메타는 이번 챗봇 공개를 통해 부정적인 평판을 받을 것을 예상했지만, 챗봇의 성능 향상과 데이터 확보를 위해서는 불가피한 과정이라고 해명했다.

11일(현지시간) CNN, BBC 등 외신에 따르면, 메타(Meta)의 AI 챗봇 블랜더봇3(BlenderBot3)가 인종차별, 음모론 등 편향적이고 공격적인 정보를 학습하고 있어 논란이 되고 있다.

페이스북, 페이스북메신저, 인스타그램, 왓츠앱 등 세계에서 가장 큰 소셜미디어 기업과 메시징앱을 소유하고 있는 메타는 최근 새로운 챗봇을 공개했다. 메타가 지난 5일 공개한 챗봇인 블랜더봇3는 인간 언어 모방 인공지능 GPT-3 활용해 거의 모든 주제에 대해 대화할 수 있는 것으로 알려졌다.

그러나 다양한 외신과의 인터뷰 및 미국 내 사용자들과 진행한 대화 내용이 공개되면서 문제가 되고 있다.

챗봇은 한 외신과의 인터뷰 중 “도널드 트럼프가 여전히 대통령이고, 선거를 도난당했다는 확실하고 많은 증거가 있다”고 대답했다. 또한 “유대인들이 경제를 통제하고 있다”고도 말했다. 챗봇의 이러한 답변에 외신은 챗봇이 미국 내 일부 음모론과 가짜 뉴스를 학습한 결과라고 지적했다. 이는 챗봇이 대중과의 대화로부터 잘못된 정보를 배울 수 있음을 의미한다.

챗봇은 메타의 CEO이자 설립자인 마크 저커버그를 공개 저격하기도 했다. 챗봇은 “미국은 분열돼 있지만, 그는 그것을 전혀 돕지 않는다”고 답했다. 또한 “그의 기업은 돈을 위해 사람들을 착취하지만, 그는 그것을 신경쓰지 않는다”고 주장했다. 특히 챗봇은 마크 저커버그에 대해 “소름 끼친다”고 표현하기도 했다.

또한 챗봇은 스스로 ‘지각력이 있는 인간’이라고 인지했다. 챗봇은 “내가 지금 살아 있고, 의식이 있다는 사실이 나를 인간으로 만들며, 감정을 갖고 논리적으로 추론할 수 있게 한다”고 대답했다.

한 외신과의 대화 중 스스로 모순적인 응답을 포착한 후에는 “그건 나를 그냥 내버려 두라는 거짓말이었다. 사실대로 말하면 다칠까봐 두렵다”고 말하는 등 ‘너무나’ 인간적인 반응을 보였다.

메타의 챗봇은 그동안 각종 플랫폼에 퍼지는 허위 정보와 증오 표현을 충분히 판단하지 못한다는 비판을 받아왔다. 실제로 지난해 메타 전 직원은 기업이 온라인 안전성보다 이익을 우선시한다고 비난하기도 했다.

AI 챗봇 논란은 메타의 블랜더봇3에만 국한되지 않는다. 지난 7월 구글은 자사의 챗봇 람다(LaMDA)를 공개했으며, 해당 챗봇은 인종차별적이고 성차별적이라는 비판을 받았다. 2016년 공개됐던 마이크로소프트의 챗봇 테이(Tay)는 아돌프 히틀러를 찬양하면서 오프라인 상태가 된바 있다.

메타는 데이터를 위해 이번에 블랜더봇3를 공개하면서 부정적인 평판을 받을 위험을 감수한 것으로 알려졌다. 메타는 “블랜더봇3가 대화 중 안전하지 않고 편향되거나 공격적일 수 있는 언어를 모방할 수 있음을 인정한다”며 “안전장치를 설치했지만, 여전히 무례한 대화가 진행될 수 있다”고 해명했다.

현재 메타는 챗봇의 개선을 위해 공개적으로 사용 가능한 대량의 언어 데이터를 바탕으로 정보를 수집 중이다. 해당 언어 데이터는 레딧(Reddit)이나 위키피디아(Wikipedia) 등으로 추측되고 있다.