지난해 말 미국의 오픈 AI가 인공지능(AI) 기반의 챗봇인 ‘챗 GPT’를 발표한 이래 이 AI모델은 유례없는 속도로 전세계 사람들의 마음을 사로잡기 시작했다. 이 챗봇은 ‘대형 언어 모델’(LLM) 소프트웨어(SW)를 사용해 방대한 양의 텍스트 데이터를 검색해 스스로 학습한다. 이어 인간의 프롬프트(텍스트로 된 명령어)에 대응해 섬뜩하게도 인간과 같은 텍스트를 생성하는 방법을 배운다. 사람들은 이 AI를 거의 모든 생활 분야에서 사용해 보고 인간에 맞먹는 그 우수성에 놀라움을 보이며 여기에 빠져들었다. 챗GPT는 채팅은 물론 이메일, 서류작성, 논문, 책쓰기, 기사쓰기, 다이어트 계획 수립, 취업 지원 소개서, 장편 소설 쓰기, 프로그래밍에 이르기까지 못하는 게 없어 보인다. 하지만 이 챗GPT도 못하는 게 있다.

데일리메일은 2일(현지시각) 폭주기관차 같이 내달리는 챗GPT도 할 수 없는 다섯가지를 공개했다. 인기 온라인 게임인 워들(Wordle)을 하는 것부터 자신의 이름을 기억하는 것, 처방약에 대한 조언, 정확한 뉴스 기사 작성, 그리고 2021년 이후의 내용 등이라고 적시했다. 그러나 일부 지지자들은 챗GPT가 이를 해내는 것은 단지 시간문제일 뿐이라고 말한다. 상식적으로 따져 보더라도 일부는 시간이 지남에 따라 가능해질 수 있을 것으로 보인다. 챗GPT가 못하는 기능을 하나하나 따라가 봤다.

자신의 이름을 기억하지 못한다

챗GPT는 질문자의 의표를 찌를 수 있다는 점에서 많은 사용자들을 놀래키고 있다. 하지만 이 AI 프로그램이 모르는 한가지는 자신이 실제로 누구인지에 대한 것이다.

‘챗 GPT’를 언급하면 이 챗봇은 “챗 GPT에 대해 아무것도 모른다”고 말하기 시작한다.

이것은 챗GPT가 프로그래밍됐을 때 그 제작자들이 그것의 이름을 아직 생각해내지 못했기 때문인 것으로 보인다.

그럼에도 이처럼 지적인 AI프로그램이 자신의 이름을 모르는 것은 좀 이상해 보인다.

2021년 이후 정보를 제공할 수 없다

챗GPT의 훈련 데이터는 2021년에서 끊어진다. 이것은 현재의 사건, 추세 또는 그 이후에 일어난 어떤 일도 완전히 알지 못한다는 것을 의미한다.

따라서 질문에 대해 인간같은 답을 생성하기 위해 많은 양의 텍스트 데이터로 수많은 훈련을 받았음에도 인터넷에 연결되지 않았기 때문에 지난 2년 동안 세상이 어떻게 됐는지에 대한 지식이 없다. 발생한 사건을 최신 상태로 유지하는 것은 가능하긴 하지만 쉽지 않다. 이를 위해서는 엄청난 컴퓨팅 자원으로 최신 정보에 대한 지속적인 챗GPT 교육을 해야 하기 때문이다.

따라서 특정한 질문을 할 때 이 사실을 기억해 둘 필요가 있다. 예를 들어 챗GPT는 2021년 이후 권력을 잡은 어떤 세계 지도자들도 알지 못한다. 그래서 챗GPT에게 질문하면 영국의 총리는 여전히 보리스 존슨이다.

워들 게임을 할 수 없다

많은 사람들은 챗GPT가 언어 모델이기 때문에 워들게임을 잘할 것으로 생각하기 쉽다.

하지만 사실 이 AI모델은 이 인기 있는 온라인 단어 게임 방법을 알지 못하며 그것의 전제나 규칙에 대해서도 이해하지 못한다.

이는 워들이 지난 2021년 이후 인기가 치솟았고 지난해 지구상에서 한해 동안 구글에서 가장 많이 검색된 단어이기 때문이다. 챗GPT는 2021년 이후 정보를 제공할 수 없기에 이 게임을 할 수 없다.

AI를 훈련시키려고 해도, 그것은 여전히 워들을 진정으로 이해하거나 성공적으로 완료할 수 없다.

워들(Wordle)은 미국에 거주중인 SW엔지니어인 조쉬 워들이 코로나19로 인해 집에 있는 아내를 위해 만든 퍼즐 게임으로 2021년 10월 공개됐다. 지난 한해 전세계 사람들이 구글에서 가장 많이 검색한 단어 1위를 차지한 게임이기도 하다. 워들은 5개의 알파벳으로 된 영어 단어를 맞히는 퍼즐 게임이다. 게임자에게는 총 6번의 기회가 주어지고, 대부분 4~5회 정도에 정답을 맞히는 것으로 알려져 있다. 단어를 써넣은 사각형 타일 색깔이 초록색이면 입력한 글자가 해당 칸의 정답으로 맞았다는 표시다. 노란색 타일로 표시된다면 해당 글자가 단어에 포함되지만 위치가 맞지 않다는 것이고, 회색 타일이면 해당 글자가 단어에 포함되지 않는다는 것을 의미한다. 이에 해당하는 영어 단어는 총 2315개가 있다고 한다. 조쉬 워들은 워들 게임의 인기에 힘입어 타임지가 선정한 ‘2022년 가장 영향력 있는 100명’에 포함되기도 했다. 뉴욕타임즈는 지난해 2월 1일 워들을 몇백만달러(수십억원)에 인수한 것으로 알려지고 있다.

정확한 뉴스 기사를 작성할 수 없다

챗GPT는 변호사 시험과 미국 대학입시 자격 시험 등에서 우등 성적을 보여며, 장문의 기사를 작성하고, 심지어 웹사이트 전체를 코딩할 수 있는 능력까지 가지고 있다.

지난달 나온 오픈AI와 펜실베이니아 대학교 공동 연구결과 이 AI 프로그램이 기자들을 위한 기사 작성함으로써 언젠가는 인간 기자를 쓸모없게 만들 수도 있다는 결론까지 나왔다.

그러나 챗봇은 재빠르게 도입글을 쓰는 것을 포함해 기사를 꽤 잘 쓸 수는 있지만, 스스로 기사를 완전히 쓰기에는 뉘앙스와 깊이가 부족하다.

챗GPT 기사 테스트 결과 이 AI모델이 기사를 꽤 잘 쓸 수 있다는 것을 보여주었지만, 그 가운데 많은 이야기들은 오류를 포함하고 있다. 이는 챗GPT가 이해력이 부족할 경우 지식을 날조하는 경향을 갖고 있기 때문이다. 이른바 ‘환각’(hallucination)이다.

공정하게 말하자면 이 챗봇은 “가끔 잘못된 정보를 생성할 수 있다” “유해한 명령이나 편향된 콘텐츠를 생성할 수 있다”는 경고를 한다.

처방약에 대한 조언을 제공할 수 없다

챗GPT가 최근 미국에서 의사 개업에 필요한 표준화된 임상평가 시험에 합격할 수 있다는 사실이 알려지면서 의학계에 파문을 일으켰다. 그리고 언젠가는 인간 의사를 대체할 수 있다는 전망이 제기됐다.

그러나 그것이 사용되면 안되는 한 분야는 처방약에 대한 조언을 얻는 분야다.

실제 의사보다 AI 봇을 믿고 싶어하는 사람이 왜 있는지는 별개의 문제다. 하지만 처방약에 대해 챗GPT에게 물어보면 조언을 해줄 수 없다고 말하면서 전문가와 상담할 것을 제안한다.

그러나 이 AI는 처방전 없이 살 수 있는 약에 대한 권고를 포함해 기본적인 의학적 조언을 제공할 것이다.

그런데 몇가지 궁금증이 생긴다.

과연 챗GPT같은 AI 챗봇은 앞으로도 이같은 기능을 하지 못하면서 여전히 인간 프로그래머에 의존적 상태에 매여 있게 될까. 아니면 최근 일론 머스크 등이 주장한 것처럼 통제 대상이 될 정도로 발전하게 될까.

인터넷에 연결되지 않았기에 챗GPT가 2021년 이후 일들에 대해 모른다 하더라도 언젠가 학습과정에서 스스로 인터넷에 연결해 지식을 흡수하게 될 수도 있지 않을까. AI챗봇이 스스로 인터넷에서 정보를 흡수해 훈련하게 될 날이 오지 않을까. 마치 조니뎁 주연의 영화 트랜센던스(2014)에서 주인공의 뇌가 인터넷과 연결해 지식을 흡수했던 것처럼.

최근 일론 머스크 테슬라 CEO, 스티브 워즈니악 애플 공동창업자 등 전세계 1300여 저명인사들이 IT업계를 향해 ‘챗GPT4보다 높은 수준의 AI모델을 훈련시키고 개발하는 작업을 잠시 중단하고 통제방법을 마련해야 한다’고 주장했다. 이는 결국 AI로 인해 인류가 영화같은 사태를 맞을 가능성을 우려한 때문은 아닐까.

챗GPT는 점차 그 순기능과 함께 역기능에 대해서도 주목을 받고 있다. 이 과정에서 IT 본산인 미국 실리콘 밸리도 두 쪽으로 갈려졌다. 챗GPT같은 AI챗봇을 적극 활용해야 한다는 파와 이제 AI를 통제할 방법을 찾기 위해 잠시 숨고르기 해야 한다고 주장하는 파로 갈렸다.

샘 알트먼 오픈 AI CEO와 빌 게이츠 MS 창업자, 순다르 피차이 구글 CEO, 레이 커즈와일 구글 엔지니어링 이사 등이 AI 활용의 민주화 지지파다. 그 반대쪽에는 AI가 인류의 종말을 가져올 것이라고 주장하는 일론 머스크 테슬라 CEO, 스티브 워즈니악 등 전세계 1300여 유명 과학자 경제학자 등이 있다.

특히 세계최고 부자인 일론 머스크는 우주 여행에서 자율주행 자동차에 이르기까지 기술을 절대적인 한계까지 밀어붙이고 싶어하지만, 그는 AI에 대해서는 선을 긋고 있다.

그는 지난 2014년에 AI에 대한 혐오감을 처음 공유하면서, AI를 인류의 ‘가장 큰 실존적 위협’이라면서 이를 ‘악마를 소환하는 것’에 비유했다.

일론 머스크의 주된 두려움은 잘못된 손에서 AI가 발전하면 인간을 추월해 ‘특이점’(기계가 인간을 추월하기 시작하는 지점)으로 알려진 인류의 종말을 가져올 수 있다는 것이다.

그 우려는 지난 2014년 BBC에서 “완전한 AI의 개발은 인류의 종말을 가져올 수 있다” “그것은 스스로 상승해 계속 증가하는 속도로 스스로를 재설계할 것이다”라고 말한 고 스티븐 호킹 박사를 포함한 많은 똑똑한 인사들 사이에서 공유됐다.

일론 머스크는 지난 2014년 AI 기업(오픈AI)에 투자한 것은 돈을 벌기 위해서가 아니라 기술이 통제 불능이 될 경우를 대비해 주시하기 위해서라고 밝히기도 했다.

그는 지난 2월 트위터를 통해 “오픈 AI는 구글에 대항하기 위해 오픈소스(그래서 ‘오픈 AI’라고 명명)로 만들어졌지만, 이제는 MS가 사실상 통제하는 폐쇄적인 소스, 최대 수익 기업이 됐다”고 말하는 등 오픈AI와 대척점에 서 있다.

일론 머스크는 지난 2016년 인터뷰에서 머스크는 자신과 (샘 알트먼이 CEO로 있는)오픈AI가 “AI 기술을 널리 사용할 수 있도록 민주화하기 위해” 회사를 만들었다고 언급했다. (아이러니하게도 이는 현재 그와 반대쪽에 있는 MS,오픈AI, 구글 등이 견지하고 있는 입장이다.) 억만장자 일론 머스크는 지난 2018년 오픈AI를 장악하려 했지만 그의 요청은 거절당했다. 머스크는 오픈AI를 그만두고 다른 프로젝트들을 진행할 수밖에 없었다.

이후 머스크는 AI에 대한 두려움에도 불구하고 샌프란시스코에 본사를 둔 AI 그룹 바이케어리어스와 영국의 딥마인드에 투자했다. 이후 구글은 딥마인드를 통째 인수한다. 바이케어리어스의 목표는 시각, 신체 움직임, 언어를 제어하는 뇌의 부분을 복제할 수 있는 신경망을 구축하는 것이다. 이 회사 스콧 피닉스 공동창업자는 “사람처럼 생각하는 컴퓨터"를 만드는 것이 궁극적인 목표”라고 가디언지는 전했다.

지난해 11월 샘 알트먼이 이끄는 오픈AI는 챗 GPT를 출시했고 이것이 전 세계적으로 즉각적인 성공을 거두었다.