[AI요약] 오픈AI의 수석 안전 연구원 중 한명이자 핵심 연구원이 사임을 발표하자마자 경쟁 AI 스타트업에 합류하고 공동창립자도 퇴사를 발표하는 등 AI 시계가 숨 가쁘게 흘러가고 있다. 전 오픈AI 임원들과 아모데이 남매가 창립한 앤트로픽은 아마존과 구글, 세일즈포스, 줌으로부터 지원을 받고 있다.
오픈AI을 함께 설립하고 공동의 목표로 AI를 연구했던 기업의 핵심 임원들이 연이어 오픈AI를 떠나고 있다.
오픈AI(OpenAI) 전 임원이자 핵심 연구원인 얀 라이케(Jan Leike)가 경쟁 AI 스타트업 앤트로픽(Anthropic) 합류 이유와 전망에 대해 포브스, CNBC 등 외신이 29일(현지시간) 보도했다.
오픈AI의 수석 안전 연구원 중 한명이자 핵심 연구원 레이케의 앤트로픽 합류 소식은 오픈AI의 공동창립자 일리야 수츠케버(Ilya Sutskever)의 퇴사 발표 다음날인 지난 15일 전해졌다.
레이케는 수츠케버와 함께 오픈AI의 수석 안전 연구원 중 한명이자 핵심 연구원으로서 지난해 장기적인 AI 위험에 중점을 둔 슈퍼얼라이먼트(superalignment) 팀을 이끌었던바 있다. 슈퍼정렬 또는 초정렬이라고도 불리는 슈퍼얼라이먼트는 미래에 만들어질 초지능 AI를 제어해 인간의 가치에 따라 행동하며, 해롭지 않은 방식으로 행동하도록 조절하는 연구를 말한다.
레이케는 퇴사를 발표하면서 X에 “슈퍼얼라이먼트 임무를 계속하기 위해 앤트로픽에 합류하게 되어 기쁘다”며 “나의 새로운 팀은 확장 가능한 감독, 약한 수준에서 강한 수준으로의 일반화, 자동화된 정렬 연구에 전념할 것”이라고 밝혔다.
그는 또 같은 이념을 가진 연구자들이 자신에게 연락할 것을 권하면서 “참여에 관심이 있다면 나의 DM이 열려있다”고 말하며 적극적으로 인재들을 ‘구인’했다. 레이케가 앤트로픽에서 어떤 역할을 맡게 될지는 확실하지 않으며 기업은 아직 그의 임명에 대해 공식 성명을 발표하지 않은 상태다.
사실상 레이케는 수츠케버 퇴사 직후 오픈AI를 함께 떠났고 이후 기업은 이 둘이 공동으로 이끌었던 슈퍼얼라이먼트 팀을 사실상 해산했다. 수츠케버의 이후 행보는 아직 확실하게 알려진 것은 없지만, 업계는 그의 움직임을 면밀히 관찰하고 있는 모습이다.
현재 앤트로픽은 아마존의 지원을 받고 있으며, 회사의 소수 지분에 대해 최대 40억달러(약 5조 4780억원)의 자금 조달을 받을 것으로 알려졌다.
다리오 아모데이(Dario Amodei), 다니엘라 아모데이(Daniela Amodei) 남매와 전 오픈AI 임원들이 2021년에 설립한 앤트로픽은 지난 3월 챗GPT 라이벌인 클라우드3(Claude 3)를 출시하면서 주목받았다. 앤트로픽은 아마존으로부터 자금 지원 외에도 구글, 세일즈포스, 줌으로부터 지원을 받고 있다.
이러한 가운데, 마이크로소프트는 오픈AI가 샘 알트먼 CEO 포함한 고위 경영진이 이끄는 새로운 안전 및 보안 위원회를 구성했다고 밝혔다. 해당 위원회는 기업 이사회에 오픈AI 프로젝트 및 운영에 대한 안전 및 보안 결정을 권고하게 된다.
레이케는 오픈AI 퇴사후 X 게시글을 통해 “이 일을 그만두는 것은 내가 해본 일 중 가장 어려운 일 중 하나였다”며 “왜냐하면 우리는 AI 시스템을 우리보다 훨씬 더 똑똑하게 조종하고 제어하는 방법을 시급히 찾아야 하기 때문”이라고 밝혔다.
오픈AI의 수석 과학자이자 알트만을 축출하는 데 역할을 한 것으로 알려진 수츠케버는 레이케보다는 알트만에 대해 공개적으로는 덜 비판적이었다. 수츠케버는 “오픈AI가 범용인공지능( AGI)을 구축할 것이라고 확신한다”며 “이는 인간처럼 다양한 영역에서 광범위하게 수행할 수 있으며 안전하고 유익한 이론적 시스템”이라고 X 게시글을 통해 밝혔다.
