어린이 사망 ‘블랙아웃 챌린지’와 ‘틱톡 알고리즘’

[AI요약] 틱톡에서 유행한 위험한 챌린지로 인해 자녀들이 사망했다는 소송이 제기됐다. 틱톡에서 유포된 바이러스성 트렌드인 소위 블랙아웃 챌린지로 인해 10대 아동들이 질식사하면서, 틱톡 알고리즘이 의도적으로 위험한 콘텐츠로 이러한 아동들을 표적으로 삼아 플랫폼에서 참여 시간을 늘리고 수익을 창출한 것으로 비난받고 있다.

아동들을 표적삼아 위험한 챌린지에 노출시킨 틱톡 알고리즘이 비판받고 있다. (이미지=틱톡)

틱톡 알고리즘이 고의적이면서도 명확하게 아동들을 표적삼아 위험에 노출시키고 수익을 창출했다는 비판이 제기됐다.

영국의 10대 아동·청소년 4명의 부모가 틱톡을 상대로 자녀 사망 사건과 관련된 소송을 제기한 이유에 대해 가디언, BBC 등 외신이 8일(현지시간) 보도했다.

이번 소송은 아이작 케네번(13세), 아치 배터스비(12세), 줄리안 줄스 스위니(14세), 마이아 월시(13세)가 2021년 소셜 미디어에서 인기를 끌었던 ‘블랙아웃 챌린지’에 도전하다가 2022년에 사망했다는 주장이 제기되면서 시작됐다.

미국 소셜미디어 피해자법률센터는 지난주 아동의 부모를 대신해 소셜미디어 플랫폼 틱톡과 모회사인 바이트댄스를 상대로 부당 사망 소송을 제기했다.

피해자법률센터에 따르면, 위험하고 치명적인 틱톡 블랙아웃 챌린지에 노출된 후 질식사한 네명의 아동 중 세명이 같은 도시에 살았고 모두 비슷한 인구 통계에 속한다는 것은 우연이 아니다.

틱톡의 알고리즘이 의도적으로 위험한 콘텐츠로 이러한 아동들을 표적으로 삼아 플랫폼에서 참여 시간을 늘리고 수익을 창출한 것으로 비난받고 있다. 이 네명 아동의 목숨을 앗아간 것은 틱톡의 명확하고 고의적인 사업 결정이었다는 것이다.

틱톡에 따르면 챌린지와 관련된 비디오나 해시태그 검색은 2020년부터 차단됐다. 이 플랫폼은 위험한 콘텐츠나 챌린지를 금지하고 있으며, 신고되기 전에 이를 제거하고 해시태그나 비디오를 검색하는 사람들을 안전 센터로 안내할 계획이라고 강조하고 있다.

그러나 소송을 제기한 부모들과 피해자법률센터는 틱톡이 아동에게 재미있고 안전하다고 마케팅하는 위험하고 중독성 있는 제품이면서, 부모에게는 ‘거짓된 안전감’에 빠지게 한다고 비판했다.

틱톡이 플랫폼에서 참여 시간을 늘려 수익을 늘리기 위해 연령과 위치에 따라 아동에게 위험한 장난과 챌린지 영상을 제공한다는 주장이다.

또한 이번 소송은 틱톡이 블랙아웃 챌린지를 플랫폼에서 차단했었다고 주장하고 있는 가운데, 플랫폼에서 블랙아웃 및 이와 유사한 챌린지 영상에 노출돼 사망한 어린이에 대한 신뢰할 수 있는 보고를 무시하고 있다고 비판하고 있다.

틱톡에서 발견된 다른 위험한 챌린지에는 약물, 뜨거운 물이나 불과 관련된 챌린지가 포함된 것으로 파악됐다.

틱톡이 플랫폼에서 수익을 늘리기 위해 아동에게 위험한 챌린지 영상을 제공했다는 지적이 나왔다. (이미지=틱톡)

피해자법률센터는 자녀가 소셜미디어로 인해 피해를 입었다고 주장하는 가족을 대리하며, 자살, 자해 및 섭식 장애 콘텐츠를 보여주는 비디오를 홍보하는 것을 포함해 어린이와 청소년의 사망과 관련해서 틱톡을 상대로 여러 소송을 제기한 상태다.

올해부터 영국에서 시행되는 변경된 온라인 안전법은 소셜미디어 기업이 플랫폼에서 위험한 스턴트와 챌린지에 직면하지 않도록 아동과 청소년을 보호하고 아동이 가장 위험한 형태의 콘텐츠를 보지 못하도록 사전에 예방하도록 명시적으로 요구하고 있다.

피해자법률센터는 “아동 사망은 바이트댄스의 의도적인 중독성 설계 및 프로그래밍 결정의 예측 가능한 결과”라며 “필요한 모든 수단을 통해 아동들이 틱톡에 최대한 참여하도록 하는 것을 목표로 했다”고 지적했다.

또 센터는 “바이트댄스는 알고리즘 설계를 통해 모든 아동에게 해로운 의존성을 부여하고 끝없은 해악을 쏟아부었다”며 “이러한 해악들은 아동들이 틱톡을 사용하기 시작했을 때 찾거나 관심있어 하던 것이 아니었다”고 비판했다.

틱톡은 “부모들은 틱톡이 아동과 청소년을 위해 설계된 재미있고 안전한 플랫폼이라고 믿었다”며 “사망한 아동들은 평소 자신감 있고 예의바르며 이전에 정신건강 문제도 전혀 없었다”고 반박했다.

류정민 기자

znryu@daum.net
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by 테크42 무단전재 및 재배포 금지

관련 기사

[현장] NHarvestX 2026…농업 혁신의 병목을 겨눈 스타트업 7, ‘현장’ 너머에서 발견한 ‘확장’

NHarvestX(엔하베스트엑스)’는 농협 계열사·관계사의 현장 수요를 스타트업 기술과 연결하는는 농식품 특화 오픈이노베이션 프로그램이다. 운영사 소풍커넥트가 농협 현업부서와 기업 간 기술실증(PoC) 설계·운영을 지원한다. 지난 10일 서울 중구 온드림 소사이어티에서 Harvest Together, Scale Beyond(함께 거둔 결실, 현장 너머의 확장)을 주제로 열린 ‘NHarvestX 2026’ 성과공유회는 약 6개월간의 실증을 점검하고 후속 사업화 가능성을 모색하는 자리였다.

모바일 게임 매출 1위, 이제는 한 달도 못 버틴다

10월 8일 정오, 카카오게임즈의 '도깨비의세계'가 앱마켓에 풀렸다. 개발사 슈퍼캣은 대중에게 낯선 이름이었고, 게임은 2.5D 화면을 쓰는 MMORPG라 화려함도 없었다.

공짜 표가 150만원, 정가 20만원 표가 500만원…암표와의 전쟁, 이번엔 다를까

2023년 12월 28일, 가수 윤하의 20주년 단독 콘서트 '스물' 예매가 열렸다. KSPO 돔 2만 석이 그날 하루 만에 나갔다. 윤하는 이튿날 자신의 사회관계망서비스(SNS)에 "체조 경기장이 매진되다니"라며 놀라워하다가, 팬들에게 이런 댓글을 남겼다. "암표가 취소되면 현장 구매가 늘어날테니 너무 걱정 마세요."

[현장] “美 VC는 세계 1등을 물었다”…실리콘밸리에서 배운 글로벌 창업 생존법

인공지능(AI)이 제품 개발의 속도를 높이면서 스타트업의 기술 구현 문턱은 낮아지고 있다. 그러나 빠르게 만든 기술이 실제 고객의 선택을 받고, 그 수요를 바탕으로 지속 가능한 사업을 구축하는 일은 여전히 쉽지 않다. 특히 글로벌 시장에서는 기술의 완성도뿐 아니라 현지 고객의 문제를 이해하는 능력, 시장 검증 속도, 투자자와의 관계 형성까지 창업의 성패를 가르는 변수로 작용한다.