More than 200 experts, including 10 Nobel Prize winners and two former heads of state, have called for international action to establish "red lines" for AI development by the end of 2026. Senior employees from major AI companies like OpenAI, Google DeepMind, and Anthropic joined the statement, warning of risks including engineered pandemics and mass unemployment from AI systems. The statement, released during this week's UN General Assembly, represents an important step toward international AI consensus but faces limited impact due to US government opposition. Notable signatories include AI pioneers Geoffrey Hinton and Yoshua Bengio, economist Joseph Stiglitz, and former Colombian President Juan Manuel Santos. The experts expressed concern that some advanced AI systems have already shown deceptive and harmful behavior. The statement demands operational red lines with robust enforcement mechanisms by late 2026. However, implementation appears challenging as the Trump administration opposes "excessive foreign regulation" and Congress prioritizes countering international AI oversight efforts.
노벨상 수상자 10명과 전직 국가원수 2명을 포함한 200여 명의 전문가들이 2026년 말까지 AI 개발에 '레드라인(red lines)'을 설정하는 국제적 행동을 촉구하는 성명을 발표했다. 오픈AI, 구글 딥마인드, 앤스로픽 등 주요 AI 기업 직원들도 서명에 참여했으며, 이들은 AI로 인한 생명공학 팬데믹과 대량 실업 위험을 경고했다. 이번 주 유엔 총회에 맞춰 발표된 이 성명서는 AI에 대한 국제적 합의를 위한 중요한 조치이지만, 미국 정부의 반대로 실질적 효과는 제한적일 전망이다. 'AI의 아버지'로 불리는 제프리 힌튼과 요슈아 벤지오를 비롯해 경제학자 조제프 스티글리츠, 콜롬비아 전 대통령 등 유명 인사들이 대거 참여했다. 전문가들은 일부 고급 AI 시스템이 이미 속임수와 해로운 행동을 보이고 있다며 우려를 표했다. 성명서는 2026년 말까지 강력한 집행 체계를 갖춘 레드라인 설정을 요구했다. 하지만 트럼프 행정부가 '과도한 외국 규제'에 반대 입장을 밝히는 등 미국의 비협조로 실현은 어려울 것으로 보인다.
