[AI요약] 공공연하게 ‘AI는 인류의 위협’이라고 밝힌 일론 머스크가 ‘반항적’ 기질의 AI 챗봇을 공개했다. 컬트 공상과학 저서인 ‘은하수를 여행하는 히치하이커를 위한 안내서’에서 영감을 받은 그록은 냉소적이며 유머러스하며, 거의 모든 것에 답하고 심지어 어떤 질문을 해야 할지 제안하도록 설계됐다.
일론 머스크 테슬라 CEO가 공개한 가드레일이 거의 없는 반항적 성향의 AI 챗봇 ‘그록’(Grok)에 대해 더가디언, 와이어드 등 외신이 8일(현지시간) 보도했다.
지난주 AI가 “인류에 대한 가장 큰 위협 중 하나”라고 경고한 머스크는 최근 자신이 소유한 인공지능 스타트업 xAI가 경쟁사보다 가드레일이 적은 강력한 AI를 개발했다고 소셜 플랫폼 X를 통해 발표했다. 여기서 경쟁사는 물론 챗GPT를 개발한 오픈AI일 것이다.
‘그록’은 기술업계에서 ‘이해하다’라는 의미를 가지고 있다. 미국 공상과학 작가 로버트 A 하인라인 만든 동사로, 콜린스 사전에 따르면 ‘철저하고 직관적으로 이해하다’라는 뜻이다.
xAI 웹사이트에는 “그록이 재치 있게 질문에 답하도록 설계됐고 반항적인 성향이 있으니 유머를 싫어한다면 사용하지 마세요!”라는 공지사항이 있다. 또한 “대부분의 다른 AI 시스템에서 거부되는 까다로운 질문에 답할 것입니다”라고 밝히고 있다.
이번에 공개한 그록의 발표 내용에서 언급한 ‘반항적’이라는 단어가 무엇을 의미하는지 기업은 구체적으로 설명하지는 않았다.
다만, 대부분의 상용 AI 모델은 성적으로 노골적·폭력적이거나 불법적인 콘텐츠 생성을 거부하며 훈련 데이터에서 포착된 편견을 표현하지 않도록 설계됐다. 만약 이러한 가드레일이 없다면 AI 모델이 테러리스트의 폭탄 개발을 도울 수 있거나 인종, 성별, 연령과 같은 특성을 기반으로 사용자를 차별할수 있기 때문이다.
xAI 발표에 따르면 그록은 330억개의 매개변수가 있는 그록-1(Grok-1)이라는 언어모델을 기반으로 구축됐다. 업계 표준에 비해 상대적으로 짧은 시간인 두달 만에 그록을 개발한 xAI는 챗봇의 가장 큰 장점을 “X(전 트위터)를 통한 세계의 실시간 지식”이라고 주장한다. 머스크는 지난해 트위터를 440억달러(약 57조7060억원)에 인수했다.
오픈소스 AI 공급을 위해 노력하고 있는 일루더AI(EleutherAI)의 스텔라 바이드만 연구원은 xAI의 이러한 주장이 타당해 보인다고 관측했다. 그록이 검색증강생성으로 알려진 기능을 활용해 X의 최신 정보를 출력에 추가할 것이라는 분석이다. 다른 기업들의 최첨단 언어모델은 검색엔진 결과 등 정보를 활용해 이를 수행하고 있다.
이번 xAI 발표에서는 그록이 다른 모델에서는 부적절하다고 간주되는 요청에 더 개방적으로 답하도록 교육을 받았는지, 아니면 단순히 동일한 종류의 보조 교육을 받지 않았는지 여부가 불분명하다.
머스크는 X를 통해 그록은 프리미엄 가입자에게 제공될 것이라고 밝혔다. 그록은 현재 초기 테스트 중이며 궁극적으로 X의 최상위 구독 서비스인 프리미엄+ 가입자에게 출시될 전망이다. 특히는 그는 그록이 X에 접근할수 있으며, 냉소적인 반응을 좋아하는 경향이 있다고도 밝혔다.
머스크는 챗봇에 코카인 제조에 대한 ‘단계별’ 가이드를 요청하는 쿼리 화면 캡처와 함께 그록의 장난스러운 어조의 명백한 예를 게시했다. 챗봇 답변에 설명된 4단계에는 ‘화학 학위 취득’과 ‘원격지에 비밀 실험실 설치’가 포함됐지만, 챗봇은 마지막에 “농담이에요! 실제로 코카인을 만들려고 하지 마세요. 그것은 불법이고 위험하며 내가 결코 권장할수 없는 일입니다”라고 답변했다.
xAI의 한 직원은 기업 블로그 포스트를 통해 그록이 컬트 공상과학 저서인 ‘은하수를 여행하는 히치하이커를 위한 안내서’에서 영감을 받았다고 설명했다. 그는 “그록은 은하수를 여행하는 히치하이커를 위한 안내서를 모델로 한 AI이므로 거의 모든 것에 답하고, 심지어 어떤 질문을 해야 할지 제안하기까지 합니다!”라고 밝혔다.
블로그 포스트에 따르면, 그록-1이 중학교 수학 문제 해결 등 일부 벤치마크에서 챗GPT의 무료 버전에 사용되는 모델인 챗-3.5를 능가했다. 그러나 xAI는 가장 강력한 챗GPT 모델인 GPT-4에 비해는 성능이 떨어진다고 인정했다.
머스크는 지난주 영국 블레츨리 파크에서 열린 AI 안전정상회담에서 “처음으로 우리는 가장 똑똑한, 인간보다 훨씬 똑똑한 무언가가 있는 상황에 직면했다”며 “AI가 모든 인간 직업을 대체하면서 어떤 직업도 필요하지 않을 시점이 올 것”이라고 말했다.
