Researchers at the University of Zurich were found to have conducted an unauthorized experiment in Reddit’s popular community ‘r/changemyview’ using AI-generated comments. Over several months, the researchers used multiple bot accounts to impersonate various personas-including a sexual assault survivor, a trauma counselor, and a Black man-leaving comments on posts. In the process, they analyzed users’ posting histories to infer personal information such as gender, age, ethnicity, and political orientation, raising concerns about psychological manipulation. The community moderators officially complained to the University of Zurich, citing multiple violations of rules including prohibitions on undisclosed AI use and bot accounts, and requested that the research paper not be published. Reddit is also considering legal action. Although the researchers claimed their study had been approved by the university’s ethics committee, criticism has mounted over the lack of informed consent. The university has promised stricter future oversight and better coordination with online communities. The moderators emphasized, “This is a human-centered space,” and stated, “Users do not want to be experimented on without their consent.”
취리히대학교 연구진이 레딧의 인기 커뮤니티 'r/changemyview'에서 AI가 생성한 댓글을 활용해 무단 실험을 진행한 사실이 드러났다. 연구진은 여러 개의 봇 계정을 통해 성폭력 생존자, 트라우마 상담가, 흑인 남성 등 다양한 인격을 연기하며 수개월간 게시글에 댓글을 남겼다. 이 과정에서 게시글 작성자의 과거 활동을 분석해 성별, 나이, 인종, 정치 성향 등 개인 정보를 추정하고, 맞춤형 댓글을 작성하는 등 심리적 조작 논란이 일었다. 커뮤니티 운영진은 AI 사용 및 봇 계정 금지 등 여러 규정 위반을 이유로 취리히대학교에 공식 항의했으며, 논문 공개 중단을 요청했다. 레딧 측도 법적 대응을 검토 중이다. 연구진은 대학 윤리위원회 승인을 받았다고 주장했으나, 사전 동의 없는 실험에 대한 비판이 거세다. 대학 측은 향후 더 엄격한 연구 심사와 커뮤니티와의 협의를 약속했다. 운영진은 “이곳은 사람이 중심인 공간”이라며, “이용자들은 동의 없이 실험 대상이 되는 것을 원치 않는다”고 강조했다.
