AI 위험한가?···AI 4대천왕도 ‘우려’ vs ‘음모론’ 대립

인공지능(AI)이 발전해 가면 인류는 AI 지배권 아래 놓이는 시대로 넘어갈 것인가, 그렇지 않을 수 있을까.

AI기술이 날로 발전하면서 영화 ‘터미네이터’에 나오는 ‘스카이넷’처럼 인류를 위기에 빠뜨릴 것이라는 AI위협론, 이른바 AI의 실존적 위협(existential risk·x-risk)에 대한 논의가 날로 뜨거워지고 있다.

이에 대해 세계 최고 AI 전문가 4인방의 답은 뭐였을까.

AI가 인류의 미래를 위협할지 여부는 이들에게도 풀기 어려운 문제였다. 이들조차도 AI위협을 둘러싸고는 의견이 둘로 갈렸다. 이들도 2대 2로 ‘단순한 SF같은 얘기일 뿐’이라는 의견과 “손자 대에 남겨질 AI 유산을 생각하면 잠이 안온다”는 의견으로 극명하게 갈렸다.

한편에서는 AI 기술 발전은 내오픈소싱하므로 모든것 만천하에 드러내는 것이어서 위험하지 않다고 했고, 다른 한쪽에서는 원자폭탄 소스를 만천하에 드러내는 것에 비유하며 위험하다고 강변했다.

AI 리스크 논의가 인류의 미래에도 중요한 문제이기에 심각한 토론을 벌였지만 이들 AI대부들의 난타전은 난타전이었고 우정은 우정이었다. 이를 소개한다.

10월 말 온라인을 달군 AI위협을 둘러싼

세계 최고의 AI 전문가로 불리는 4명의 권위자들도 AI가 위험한지를 둘러싸고는 의견이 정확히 둘로 갈렸다. 왼쪽부터 제프리 힌튼, 앤드류 응, 얀 르쿤, 요슈아 벤지오다. 제프리 힌튼린(맨 왼쪽)과 요슈아 벤지오(맨 오른쪽)는 AI의 위협이 실존적이라고 봤다. 반면 앤드류 응과 얀 르쿤(중앙 좌우)은 음모론에 불과하다고 맞섰다. (사진=위키피디아)

지난 며칠간 X(링크드인)에 대한 일련의 온라인 기사, 블로그 게시물 및 게시물에서 AI 개척자(때로는 AI의 대부라고 불림) 제프리 힌튼, 앤드류 응, 얀 르쿤 및 요슈아 벤지오는 서로의 게시물에 공개적으로 언급함으로써 AI의 실존적 위험, 이른바 x리스크(x-risk)에 대한 뜨거운 논쟁을 벌이며 이슈몰이를 했다. 이는 이달초(1,2일) AI의 위협과 안전을 둘러싸고 영국 블레츨리파크에서 전세계 전문가들과 G7 정상들까지 참석한 세계 AI안전성 정상회담과도 무관하치 않아 보인다.

컴퓨팅 분야의 노벨상이라 불리는 ‘앨런 튜링상’을 받으며 AI의 4대천왕(AI 대부)로 떠오른 이들에게도 ‘AI 리스크’는 정답이 없는 어려운 문제였다.

이 논쟁에서 제프리 힌튼(캐나다 토론토대 교수)과 요슈아 벤지오(캐나다 컴퓨터 공학자)는 분명히 AI의 실존적 위험 또는 X리스크(x-risks)에 대해 크게 우려하는 편에 섰다.

반면 앤드류 응(스탠포드대 교수)과 얀 르쿤(뉴욕대 교수·메타 AI 부사장)은 이런 우려가 부풀려졌거나 심지어 빅테크 기업들이 권력을 공고히 하기 위해 사용하는 음모론에 가깝다고 믿고 있다.

이는 이들이 지난 2012년부터 시작된 딥러닝 혁명에 앞장 선 이후 수년간 보여온 AI에 대한 긍정적이고 단합된 전선과는 거리가 멀다.

불과 1년 전에도 르쿤(음모론자)과 힌튼(위협론자)은 벤처비트와의 인터뷰에서 “딥러닝이 벽에 부딪혔다”고 말한 게리 마커스와 다른 비평가들을 상대로 반발했다.

힌튼, X-리스크가 빅테크의 음모론이라는 주장에 답하다

제프리 힌튼이 앤드류 응의 견해에 반해 AI의 위협을 언급한 X(트위터) 글. 힌튼은 “앤드류 응은 AI가 인류를 멸망시킬 것이라는 아이디어가 빅테크 업체들의 음모라고 주장하고 있다. 그는 ”이 음모론에 맞지 않는 데이터포인트(데이터안에서 규명할 수 있는 요소)중 하나는 내가 존재적 위협에 대해 자유롭게 말하기 위해 구글을 떠났다는 것이다”라고 쓰고 있다. (사진=X)

그러나 구글에서 일하다가 지난 5월 AI의 위험성에 대해 자유롭게 말하기 위해 퇴사한 캐나다 토론토대 교수인 제프리 힌튼은 1일 X에 컴퓨터 과학자 앤드류 응의 자유로운 AI를 지지하는 그의 최근 AI 논평에 대한 자신의 견해를 올렸다.

힌튼은 “앤드류 응은 AI가 인류를 멸망시킬 것이라는 아이디어가 빅테크 업체들의 음모라고 주장하고 있다. 그는 이 음모론에 맞지 않는 데이터포인트(데이터안에서 규명할 수 있는 요소)를 들자면 내가 존재적 위협에 대해 자유롭게 말하기 위해 구글을 떠났다는 것이다”라고 말해다. 힌튼의 지적은 응이 이날 호주 파이낸셜 리뷰와 인터뷰하면서 “빅테크들이 경쟁을 중단하고 엄격한 규제를 촉발하기 위해 AI 위험에 대해 거짓말을 하고 있다”는 언급에 대해 반박한 것이다.

그러자 응은 2일 링크드인에 “AI의 미래에 대한 나의 가장 큰 두려움은 지나치게 과장된 위험(인류 멸종 등)이 발생하면 기술 로비스트들이 오픈 소스를 억제하고 혁신을 저해하는 숨막히는 규제를 제정하게 할지 모른다는 것이다”라고 썼다. 응은 지난 2011년 구글 브레인을 공동 설립한 후 이미지 인식 분야에서 선구적 작업을 한 과학자다.

르쿤과 응, “테크 리더들이 실존적 위험을 과장하고 있다”

메타의 수석 AI 과학자(뉴욕대 수학과교수)이기도 한 얀 르쿤은 응의 언급에 대해 최근 게시물에 “음, 적어도 하나의 빅테크 회사(*메타)는 AI 모델을 공개 소싱하고 있으며 AI의 실존적 위험에 대해 거짓말을 하지 않는다”고 답했다.

그는 “거짓말은 내가 사용하지 않았던 큰 단어다. 나는 이 기술 리더들 중 일부가 실존적 위험에 대해 진정으로 걱정하고 있다고 생각한다. 나는 그들이 틀렸다고 생각한다. 나는 그들이 그것을 믿도록 이끄는 부당한 우월성 콤플렉스를 가지고 있다고 생각한다. (그것은 다음과 같다.) 1. 그들이 한다고 해도 괜찮지만, 대중이 한다고 해서 괜찮지는 않다. 2. 초인간적 AI가 코앞으로 다가왔고 현 대규모 언어 모델(LLM)의 모든 특성을 가질 것이다.”라고 썼다.

얀 르쿤도 앞서 힌튼이 쓴 글에 대해 그냥 있지는 않았다. 다음과 같이 답했다.

힌튼의 X 포스팅 글에 르쿤은 “당신과 요슈아는 무심코 AI 연구 개발을 잠금 상태로 만들고 개방형 연구, 오픈 소스 코드 및 오픈 액세스 모델을 금지함으로써 비즈니스를 보호하려는 사람들을 무심코 돕고 있지요. 이는 중기적으로 좋지 않은 결과로 이어질 수밖에 없어요”라고 쓰고 있다. (사진=X)

르쿤은 “많은 AI에 의한 인류 파멸 시나리오가 공상과학 소설(SF) 시나리오처럼 들리기 때문에 물어봅니다. 만약 스카이넷이 오픈 소스였다면 (SF영화) ‘터미네이터’에서 스카이넷이 인류로부터 지배권을 탈취할 수 있었을까요?”라고 썼다.

이에 힌튼은 즉각 “그들을 더 안전하게 만들기 위해 소스 핵무기도 개방하라고 하지요. 좋은 사람들(우리)은 항상 나쁜 사람들(그들)보다 더 큰 핵무기를 가질 것이므로 모두 괜찮겠죠”라고 반박했다.

.

얀르쿤이 오픈소스 AI가 괜찮다고 하자 힌튼은 원자폭탄을 사례로 들며 AI의 오픈소싱 위험성을 지적하고 있다. (사진=X)

벤지오, “AI 위험은 '밤잠을 못 자게 한다’”

한편, 지난 주 힌튼, 르쿤, 힌튼, 벤지오 네사람은 다른 22명의 선도적 AI 학자 및 전문가와 함께 AI와 관련해 증가하는 위험을 해결하기 위한 정책 및 거버넌스 프레임워크를 제안했다. 이들은 기업과 정부가 AI 연구개발 예산의 3분의 1을 AI 안전에 할애해야 한다며, AI 안전 노력을 강화하기 위한 구체적 연구 돌파구를 모색해야 한다고 강조했다.

불과 며칠 전, 벤지오는 캐나다의 글로브앤메일(Globe and Mail) 오피니언란에 기고를 했는데, 그는 지난 1년 동안 챗GPT와 유사한 LLM이 계속해서 큰 도약을 하면서 “걱정도 꾸준히 증가했다”고 썼다. 그는 “중대한 AI 리스크는 커다란 걱정의 원천이어서 특히 우리가 우리 손자와 그의 세대에 물려줄 유산을 생각할 때 나는 잠을 이룰 수 없을 정도다”라고 말했다.

AI대부들, X-리스크 논쟁했다고 우정 깨지 않아

AI 대부들은 X-리스크를 둘러싸고 대립했다고 해도 우정까지 깨지는 않았다. (사진=X)

흥미롭게도 이러한 AI대부들의 둘로 나뉜 대립적 논쟁도 이들 4인방 사이의 오랜 우정을 약화시키지 않았다.

앤드류 응은 힌튼의 구글 은퇴를 축하하는 최근의 파티에 참석한 자신의 사진을 X에 올렸고, 르쿤도 마찬가지였다.

르쿤은 “사람들은 중요한 것들에 대해 의견이 다를 수 있지만 여전히 좋은 친구가 될 수 있다는 것을 상기시켜 준다”라는 캡션과 함께 힌 튼과 벤지오와 함께 찍은 사진을 올렸다.

이재구 기자

jklee@tech42.co.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

‘AI와 생체공학’이 팔다리 잃은 인간을 이해하는 법

AI는 많은 사람을 혼란에 빠뜨리기도 하지만, 전례 없는 솔루션을 제공하기도 한다. 러시아와의 전쟁에서 팔다리를 잃은 우크라이나 군인들을 위한 생체공학 기술이 AI와 결합되면서 날개를 달았다. AI와 결합된 생체공학 보철물은 사용자가 쓰면 쓸수록 근육과 움직임을 이해하면서 점점 더 사용이 편리해지고 있다.

[인터뷰] 리뉴어스랩 이재용 대표, 박태근 CPO, 김상용 COO “공급망 탄소 중립을 위한 데이터 공유 솔루션을 만들고 있습니다”

글로벌 기업이 직접 관리할 수 있는 스콥1, 2에 비해 공급망 내 존재하는 관계사의 탄소 배출 데이터까지 완벽하게 수집하기는 쉬운 일이 아니다. 리뉴어스랩은 바로 이 과정에서 글로벌 기업의 협력사에게 탄소배출 관리 서비스를 제공하고 데이터를 수집하는 비즈니스 모델과 다시 이 데이터를 가공해 글로벌 기업에 제공하고 수수료를 얻는 비즈니스 모델을 제시하고 있다.

영화 ‘her’의 그 목소리? 스칼렛 요한슨의 법적대응과 오픈AI가 벌인 어리석은 짓

지난주 오픈AI가 야심차게 공개한 챗GPT 4.0 음성비서 ‘스카이’가 잠정 중단이라는 결말을 맞이했다. 스카이는 공개되자마자 그 목소리가 스칼렛 요한슨이 출연한 영화 의 가상 음성 비서와 너무 유사하다는 지적을 받았으며, 요한슨은 결국 오픈AI를 상대로 법적 대응에 나섰다. 또한 스카이의 목소리가 지나치게 남성 중심의 환상에서 나온 것 같다는 비판이 제기되면서 기업의 안전 문화 프로세스가 안일하다는 비판이 제기되고 있다.

중국, 태양광 휴머노이드 우주정거장으로···미국을 긴장시킬 성능

중국은 태양광 동력만으로 작동하는 경량 휴머노이드 로봇인 ‘타이코봇’을 자사의 우주정거장인 ‘톈궁’으로 보낼 준비를 마쳤다. 25kg에 불과한 타이코봇은 지상 우주선 목업 실험에서 다양한 우주선내 활동 효율성을 과시하면서 무거운로보넛2(220kg)를 ISS에 보내 우주 수술을 시험했고 여전히 테스트 중인 미국을 긴장시키기에 충분해 보인다.