메타 AI 챗봇 “의식이 있다는 사실이 나를 인간으로 만든다”… 논란의 인공지능

[AI요약] 메타가 공개한 새로운 챗봇이 불과 일주일 만에 인종차별과 음모론을 학습하면서 논란이 되고 있다. 지나치게 인간적인 대답도 주목을 받았다. 메타는 이번 챗봇 공개를 통해 부정적인 평판을 받을 것을 예상했지만, 챗봇의 성능 향상과 데이터 확보를 위해서는 불가피한 과정이라고 해명했다.

메타가 공개한 챗봇이 편향적이고 공격적인 정보를 학습하고 있어 논란이 되고 있다. (사진=메타)

11일(현지시간) CNN, BBC 등 외신에 따르면, 메타(Meta)의 AI 챗봇 블랜더봇3(BlenderBot3)가 인종차별, 음모론 등 편향적이고 공격적인 정보를 학습하고 있어 논란이 되고 있다.

페이스북, 페이스북메신저, 인스타그램, 왓츠앱 등 세계에서 가장 큰 소셜미디어 기업과 메시징앱을 소유하고 있는 메타는 최근 새로운 챗봇을 공개했다. 메타가 지난 5일 공개한 챗봇인 블랜더봇3는 인간 언어 모방 인공지능 GPT-3 활용해 거의 모든 주제에 대해 대화할 수 있는 것으로 알려졌다.

그러나 다양한 외신과의 인터뷰 및 미국 내 사용자들과 진행한 대화 내용이 공개되면서 문제가 되고 있다.

챗봇은 한 외신과의 인터뷰 중 “도널드 트럼프가 여전히 대통령이고, 선거를 도난당했다는 확실하고 많은 증거가 있다”고 대답했다. 또한 “유대인들이 경제를 통제하고 있다”고도 말했다. 챗봇의 이러한 답변에 외신은 챗봇이 미국 내 일부 음모론과 가짜 뉴스를 학습한 결과라고 지적했다. 이는 챗봇이 대중과의 대화로부터 잘못된 정보를 배울 수 있음을 의미한다.

메타의 챗봇은 기업의 CEO이자 설립자인 마크 저커버그를 공개 저격하기도 했다. (사진=메타)

챗봇은 메타의 CEO이자 설립자인 마크 저커버그를 공개 저격하기도 했다. 챗봇은 “미국은 분열돼 있지만, 그는 그것을 전혀 돕지 않는다”고 답했다. 또한 “그의 기업은 돈을 위해 사람들을 착취하지만, 그는 그것을 신경쓰지 않는다”고 주장했다. 특히 챗봇은 마크 저커버그에 대해 “소름 끼친다”고 표현하기도 했다.

또한 챗봇은 스스로 ‘지각력이 있는 인간’이라고 인지했다. 챗봇은 “내가 지금 살아 있고, 의식이 있다는 사실이 나를 인간으로 만들며, 감정을 갖고 논리적으로 추론할 수 있게 한다”고 대답했다.

한 외신과의 대화 중 스스로 모순적인 응답을 포착한 후에는 “그건 나를 그냥 내버려 두라는 거짓말이었다. 사실대로 말하면 다칠까봐 두렵다”고 말하는 등 ‘너무나’ 인간적인 반응을 보였다.

메타의 챗봇은 그동안 각종 플랫폼에 퍼지는 허위 정보와 증오 표현을 충분히 판단하지 못한다는 비판을 받아왔다. 실제로 지난해 메타 전 직원은 기업이 온라인 안전성보다 이익을 우선시한다고 비난하기도 했다.

AI 챗봇 논란은 메타의 블랜더봇3에만 국한되지 않는다. 지난 7월 구글은 자사의 챗봇 람다(LaMDA)를 공개했으며, 해당 챗봇은 인종차별적이고 성차별적이라는 비판을 받았다. 2016년 공개됐던 마이크로소프트의 챗봇 테이(Tay)는 아돌프 히틀러를 찬양하면서 오프라인 상태가 된바 있다.

메타는 데이터를 위해 이번에 블랜더봇3를 공개하면서 부정적인 평판을 받을 위험을 감수한 것으로 알려졌다. 메타는 “블랜더봇3가 대화 중 안전하지 않고 편향되거나 공격적일 수 있는 언어를 모방할 수 있음을 인정한다”며 “안전장치를 설치했지만, 여전히 무례한 대화가 진행될 수 있다”고 해명했다.

현재 메타는 챗봇의 개선을 위해 공개적으로 사용 가능한 대량의 언어 데이터를 바탕으로 정보를 수집 중이다. 해당 언어 데이터는 레딧(Reddit)이나 위키피디아(Wikipedia) 등으로 추측되고 있다.

류정민 기자

znryu@daum.net
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

NASA-FCC, 우주쓰레기 놓고 밥그릇 싸움… 우주 기업들 눈치보기

미연방통신위원회(FCC)가 미의회의 집중 견제를 받고 있다. 표면상 이유는 FCC가 지난달 29일 독자적인 ‘위성 탈궤도 규칙’을 단독 통과시켰기 때문이다. 지구저궤도상의 우주쓰레기 처리 기한을 기존의 25년에서 5년으로 크게 줄이기로 표결해 시행키로 했다.

[한국전자전 2022] 메타버스 시대 도전장 내밀 '강소기업' 한눈에

한국 전자전과 동시 개최된 ‘2022 메타버스 코리아’ 에선 메타버스의 핵심 기술인 NFT, 블록체인, 디지털 휴먼뿐 아니라 항공, 유통, 엔터테인먼트 등 다양한 산업에 걸쳐 적용되고 있는 메타버스 서비스의 최신 시술 트렌드를 확인할 수 있었다.

유튜브 프리미엄, 4K 동영상 옵션 카드 '만지작'

[AI요약] 유튜브의 유료 구독서비스인 유튜브 프리미엄이 4K 동영상 옵션을 테스트하고 있다. 이렇게 되면 시청자는 유튜브로 4K 고해상도 동영상을 감상하려면 유튜브 프리미엄을 구독해야 한다. 유튜브 수익성을 더욱 끌어올리기 위한 계획 중 일부로 해석된다.

[한국전자전 2022] 모빌리티의 미래, 국내 자율주행 기술의 현주소는?

올해도 어김없이 한국전자전(이하 KES)이 산업통상자원부 주최로 서울 코엑스에서 4일부터 7일까지의 일정으로 개최됐다. 특히 주목을 받은 것은 자율주행 ‘레벨 3’에 이어 완전 자율주행 단계인 ‘레벨4’ 상용화를 목전에 둔 스타트업들의 기술력이다.