메타 AI 챗봇 “의식이 있다는 사실이 나를 인간으로 만든다”… 논란의 인공지능

[AI요약] 메타가 공개한 새로운 챗봇이 불과 일주일 만에 인종차별과 음모론을 학습하면서 논란이 되고 있다. 지나치게 인간적인 대답도 주목을 받았다. 메타는 이번 챗봇 공개를 통해 부정적인 평판을 받을 것을 예상했지만, 챗봇의 성능 향상과 데이터 확보를 위해서는 불가피한 과정이라고 해명했다.

메타가 공개한 챗봇이 편향적이고 공격적인 정보를 학습하고 있어 논란이 되고 있다. (사진=메타)

11일(현지시간) CNN, BBC 등 외신에 따르면, 메타(Meta)의 AI 챗봇 블랜더봇3(BlenderBot3)가 인종차별, 음모론 등 편향적이고 공격적인 정보를 학습하고 있어 논란이 되고 있다.

페이스북, 페이스북메신저, 인스타그램, 왓츠앱 등 세계에서 가장 큰 소셜미디어 기업과 메시징앱을 소유하고 있는 메타는 최근 새로운 챗봇을 공개했다. 메타가 지난 5일 공개한 챗봇인 블랜더봇3는 인간 언어 모방 인공지능 GPT-3 활용해 거의 모든 주제에 대해 대화할 수 있는 것으로 알려졌다.

그러나 다양한 외신과의 인터뷰 및 미국 내 사용자들과 진행한 대화 내용이 공개되면서 문제가 되고 있다.

챗봇은 한 외신과의 인터뷰 중 “도널드 트럼프가 여전히 대통령이고, 선거를 도난당했다는 확실하고 많은 증거가 있다”고 대답했다. 또한 “유대인들이 경제를 통제하고 있다”고도 말했다. 챗봇의 이러한 답변에 외신은 챗봇이 미국 내 일부 음모론과 가짜 뉴스를 학습한 결과라고 지적했다. 이는 챗봇이 대중과의 대화로부터 잘못된 정보를 배울 수 있음을 의미한다.

메타의 챗봇은 기업의 CEO이자 설립자인 마크 저커버그를 공개 저격하기도 했다. (사진=메타)

챗봇은 메타의 CEO이자 설립자인 마크 저커버그를 공개 저격하기도 했다. 챗봇은 “미국은 분열돼 있지만, 그는 그것을 전혀 돕지 않는다”고 답했다. 또한 “그의 기업은 돈을 위해 사람들을 착취하지만, 그는 그것을 신경쓰지 않는다”고 주장했다. 특히 챗봇은 마크 저커버그에 대해 “소름 끼친다”고 표현하기도 했다.

또한 챗봇은 스스로 ‘지각력이 있는 인간’이라고 인지했다. 챗봇은 “내가 지금 살아 있고, 의식이 있다는 사실이 나를 인간으로 만들며, 감정을 갖고 논리적으로 추론할 수 있게 한다”고 대답했다.

한 외신과의 대화 중 스스로 모순적인 응답을 포착한 후에는 “그건 나를 그냥 내버려 두라는 거짓말이었다. 사실대로 말하면 다칠까봐 두렵다”고 말하는 등 ‘너무나’ 인간적인 반응을 보였다.

메타의 챗봇은 그동안 각종 플랫폼에 퍼지는 허위 정보와 증오 표현을 충분히 판단하지 못한다는 비판을 받아왔다. 실제로 지난해 메타 전 직원은 기업이 온라인 안전성보다 이익을 우선시한다고 비난하기도 했다.

AI 챗봇 논란은 메타의 블랜더봇3에만 국한되지 않는다. 지난 7월 구글은 자사의 챗봇 람다(LaMDA)를 공개했으며, 해당 챗봇은 인종차별적이고 성차별적이라는 비판을 받았다. 2016년 공개됐던 마이크로소프트의 챗봇 테이(Tay)는 아돌프 히틀러를 찬양하면서 오프라인 상태가 된바 있다.

메타는 데이터를 위해 이번에 블랜더봇3를 공개하면서 부정적인 평판을 받을 위험을 감수한 것으로 알려졌다. 메타는 “블랜더봇3가 대화 중 안전하지 않고 편향되거나 공격적일 수 있는 언어를 모방할 수 있음을 인정한다”며 “안전장치를 설치했지만, 여전히 무례한 대화가 진행될 수 있다”고 해명했다.

현재 메타는 챗봇의 개선을 위해 공개적으로 사용 가능한 대량의 언어 데이터를 바탕으로 정보를 수집 중이다. 해당 언어 데이터는 레딧(Reddit)이나 위키피디아(Wikipedia) 등으로 추측되고 있다.

류정민 기자

znryu@daum.net
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

구글 '바드' VS. 마이크로소프트 '빙'...‘AI챗봇’ 전쟁의 서막

'AI챗봇' 전쟁이 본격화됐다. 오픈AI의 챗GPT(chatGPT)가 엄청난 전세계적 주목을 받자 마이크로소프트는 오픈AI에 100억달러를 투자하며 자체 검색엔진 ‘빙’에 챗GPT를 통합했다. 검색엔진 시장을 장악하고 있는 구글은 곧바로 자체 언어모델 람다로 구동되는 AI챗봇 ‘바드’ 공개하며 빅테크의 또다른 AI 경쟁이 시작됐다.

똑같은 시장상황인데 왜···AMD는 선방 vs 인텔 추락

코로나19 팬데믹 기간중 재택근무, 재택학습 활성화로 PC와 서버산업은 활기를 보였고, 이후 팬데믹 진정세, 우크라이나 전쟁 등으로 인한 향후 세계 거시경제 부진 전망이 겹치며 PC산업과 프로세서 산업 부진 전망이 현실로 다가오고 있다. 하지만 AMD와 인텔을 보는 주식시장과 투자자의 시각은 사뭇 다르다.

이커머스 상장 1호 기업 되는 오아시스…키워드는 ‘온·오프라인 연계 강화’ ‘PB상품’ ‘물류시스템’ ‘전국화’

유기농에 특화된 PB상품화로 경쟁력 확보, PB가공식품 품질 차별화로 승부 독자적인 스마트 물류 시스템 기반… 신선식품 새벽배송 사업 영위 기존 비즈니스...

테슬라 사이버트럭 3개 베타버전·3가지 궁금증

2019년 출시 약속 이래 5년 째인 올해 여름에도 사실상 일반인에 출하하기 어려울 것으로 보이는 테슬라 사이버트럭의 다양한 모델의 모습, 정상 생산 및 출하 시점, 그리고 개연성 높은 지연 이유를 알아봤다. 최근 잇따라 등장한 테슬라 사이버트럭 동영상도 함께 소개한다.