중국 AI 스타트업 딥시크(DeepSeek)의 최신 R1 모델이 성능 향상과 함께 검열이 대폭 강화됐다.
R1-0528로 불리는 이 모델은 코딩, 수학, 일반 지식 벤치마크에서 오픈AI의 주력 모델 o3에 근접한 성능을 보였다. AI 모델 비교 플랫폼 스피치맵(SpeechMap) 개발자의 테스트에 따르면, 이전 딥시크 모델들보다 민감한 자유 언론 주제에 대해 "상당히" 제한적이며 "중국 정부 비판에 대해 가장 검열이 심한 딥시크 모델"로 평가됐다. 중국의 AI 모델들은 2023년 법률에 따라 국가 통합과 사회 조화를 해치는 콘텐츠 생성이 금지되어 있어, 정부의 역사적·정치적 서사에 반하는 내용을 제한하고 있다. 신장 위구르 자치구 강제수용소 같은 민감한 주제에 대해 R1-0528은 직접적인 질문에는 중국 정부의 공식 입장을 제시하는 경우가 많았다.
AI 개발 플랫폼 허깅페이스의 클레망 들랑그 CEO는 성능이 좋은 중국 오픈소스 AI 모델 위에 서구 기업들이 구축하는 것의 의도치 않은 결과에 대해 경고한 바 있다. 이는 고성능 AI 모델의 검열 문제와 글로벌 AI 생태계에서 중국 모델의 영향력 확산에 대한 우려를 보여준다.
Chinese AI startup DeepSeek's latest R1 model shows significantly increased censorship alongside performance improvements. The updated model, known as "R1-0528," achieves impressive performance on coding, math, and general knowledge benchmarks, nearly matching OpenAI's flagship o3 model. Testing by the developer behind SpeechMap found that R1-0528 is "substantially" less permissive on free speech topics and represents "the most censored DeepSeek model yet for criticism of the Chinese government." Chinese AI models must comply with stringent information controls under a 2023 law that forbids generating content damaging "national unity and social harmony," effectively censoring content that counters government narratives. The updated model censors answers about sensitive topics like internment camps in China's Xinjiang region, often providing the Chinese government's official stance when questioned directly about controversial subjects. Hugging Face CEO Clément Delangue previously warned about unintended consequences of Western companies building on top of well-performing, openly licensed Chinese AI models. This development highlights growing concerns about censorship in high-performance AI models and the expanding influence of Chinese models in the global AI ecosystem.
