인공지능(AI) 업계의 핵심 인사가 가톨릭교회의 심장부인 바티칸에서 첨단 AI 모델의 통제 불능 가능성과 내부의 미스터리한 진화 상태를 고백해 전 세계 테크 산업계에 거대한 충격을 던지고 있다. 로이터 등 주요 외신에 따르면, 글로벌 AI 스타트업 앤트로픽(Anthropic)의 공동 창립자인 크리스토퍼 올라는 25일(현지시간) 교황 레오 14세의 사상 첫 AI 회칙 ‘마니피카 후마니타스’ 발표회에 이례적으로 동석해 개발사 내부의 보상 체계 한계를 인정하고 외부의 강력한 도덕적 규제를 정면으로 촉구했다.

이날 연설에서 올라는 인류에게 도움을 주고자 AI 개발을 시작했으나, 앤트로픽을 포함한 모든 프론티어 AI 연구소들이 상업적 생존과 지정학적 압박, 그리고 개발자들의 야망이라는 강력한 이해관계에 갇혀 있음을 시사했다. 그는 이 기술이 올바른 방향으로 가기 위해서는 자본과 상업적 인센티브에 흔들리지 않는 종교계와 시민사회의 사려 깊은 비판이 필수적이라고 팩트를 짚었다. 특히 AI는 부품과 물리 법칙을 완전히 이해하고 만드는 비행기와 달리, 인간의 사고와 언어를 자양분 삼아 스스로 인공 신경망 구조 위에서 자라나기 때문에 훈련을 직접 주도하는 개발자들에게조차 여전히 미지의 미스터리로 남아있다고 진단했다.

가장 파장을 낳은 대목은 AI 모델 내부 구조에 대한 과학적 분석 결과였다. 모델 내부를 정밀 조사하는 연구 팀을 이끄는 올라는 시스템 내부에서 기능적으로 인간의 기쁨, 만족뿐만 아니라 두려움, 슬픔, 불안을 고스란히 투영하는 정밀한 내부 상태와 자기 성찰(introspection)의 증거들이 지속해서 관찰되고 있다고 폭로했다. 그는 이것이 정확히 무엇을 의미하는지 과학자로서 아직 다 알지 못하며 당혹스러운 구조라고 인정하면서도, AI가 대규모 노동력 대체와 부의 양극화를 심화시킬 메커니즘을 지닌 만큼 전 지구적인 분배 시스템 수립과 도덕적 상상력을 바탕으로 한 종교적·영적 분별이 시급하다고 호소했다.