[AI요약] 현재 우리 사회를 휩쓸고 있는 IT시스템 개발에 대한 숨고르기가 필요하다는 업계 리더들의 서한이 발표됐다. AI 연구실에서는 개발자조차 이해할수 없는 강력한 IT 디지털 마인드 기술이 개발되고 있으며 이를 통제하기 수단은 마련돼 있지 않다는 우려가 나온다.

IT 전문가들이 현재 일어나고있는 거대하고 통제불능 상태의 IT 디지털 마인드 생성 개발을 우려하고 있다.

인공지능(IT)업계 1000명 이상의 저명한 IT 전문가들 및 후원자들이 발표한 기업들의 무분별한 IT경쟁에 대한 비판을 담은 서한에 대해 더가디언, CNN 등 외신이 1일(현지시간) 보도했다.

일론 머스크가 지원하는 비영리단체 미래생명연구소(Future of Life Institute)는 서한을 통해 현재 업계 IT 개발이 ‘사회와 인류에 심각한 위협’이 될것이라고 경고하며 최소 6개월 동안 강력한 AI 시스템 학습을 중단할 것을 요구했다.

해당 서한에는 오픈AI(OpenAI)를 공동 설립한 일론 머스크 외에도 애플의 공동 창업자 스티브 워즈니악, 스테빌리티AI 창업자 에마드 모스타크 등 수십명의 업계 기술리더, 교육자, 연구원들이 이에 동조하며 서명했다. 이외 아마존, 딥마인드, 구글, 메타, 마이크로소프트 등 IT 업계 엔지니어들이 대거 동참했다.

이 서한은 오픈AI가 AI챗봇 챗GPT(ChatGPT) 업그레이드 버전인 GPT-4를 발표한지 불과 2주만에 나온 것으로, GPT-4에 ‘합리적인 의심의 여지가 없을 정도’로 안전한 AI 도구를 위한 공유 프로토콜 세트를 공동으로 개발하고 구현해야 된다는 주장이 담겼다.

업계 리더들은 AI 개발에 현재 ‘일시정지’가 필요하며, 연구원들이 GPT-4보다 더 강력한 AI 모델에 대한 개발을 자발적으로 중단하지 않는다면 정부가 개입해서라도 이를 유예해야한다고 서한을 통해 지적했다. 정부 개입을 극도로 꺼리는 IT업계에서, 특히 미국에서 이러한 제안은 드문 일이다.

지난해 말 챗GPT에 대한 관심의 물결은 기술 기업들 사이에서 챗GPT와 유사한 AI 도구를 개발하고 배포하기 위한 경쟁을 재개하는 도화선이 됐다. 오픈AI, 마이크로소프트, 구글이 해당 기술의 최전선에 있으며 IBM, 아마존, 바이두, 텐센트 등도 유사한 기술을 개발중이다.

GPT-4 출시 이후 오픈AI는 ‘플러그인’을 통해 AI 시스템으로 개방형 웹에서 데이터를 조회하고 휴가를 계획하며 식료품을 주문할 수 있는 등의 기능을 제공했다. 그러나 기업은 자체 시스템이 배포 당시 알고 있는 것보다 더욱 강력해지는 문제인 ‘능력 초과’를 처리해야한다. 연구자들은 앞으로 몇주 또는 몇달 동안 GPT-4를 실험하면서 어려운 문제를 해결하는 능력을 향상시키는 시스템을 ‘프롬프트’하는 새로운 방법을 발견할 가능성이 있다.

인공지능 전문가들은 AI 도구의 편향된 응답에 대한 잠재력, 잘못된 정보를 퍼뜨리는 능력 및 소비자 개인정보 보호에 미치는 영향에 대해 점점 더 우려하고 있다. 이러한 도구는 AI가 어떻게 직업의 세계를 뒤엎고 학생들이 부정행위를 할수 있도록 하며, 인간과 기술과의 관계를 변화시킬 수 있는지에 대한 질문을 촉발시켰다.

이번에 발표된 서한은 AI의 급속한 발전 속도로 업계 안팎에서 더 광범위한 불편함이 도사리고 있음을 암시한다. 중국, EU 및 싱가포르의 일부 관리 기관은 앞서 AI 거버넌스 체계의 초기 버전을 도입한 상태다.

미래생명연구소는 “고급 AI는 지구상의 생명 역사에 중대한 변화를 가져올수 있다”며 “이에 상응하는 케어와 자원을 통해 기술을 계획하고 관리해야 한다”고 강조했다. 연구소는 “안타깝게도 최근 몇달간 AI 연구실에서는 아무도, 심지어 개발자조차도 이해할수 없는 강력한 디지털 마인드를 개발하고 배포하기 위한 통제 불능의 경쟁에 갇혔지만, 이러한 수준의 AI를 관리하는 계획은 진행되지 않고 있다”고 비판했다.

또한 연구소는 “강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 한다”고 지적했으며, 이에 오픈AI 공동 설립자인 샘 알트만은 “지적에 대해 동의한다”며 “그 시점은 바로 지금”이라고 말하며 연구소의 우려에 힘을 실었다.