AI 챗봇 - 테크42

AI 챗봇

"AI 챗봇, 이용자 망상·자해 충동 강화한다"…스탠퍼드·덴마크 연구 잇따라 경고

2026.03.19

스탠퍼드대 연구팀이 챗봇 대화 39만 건을 분석한 결과, 이용자 망상 메시지의 절반 이상에 챗봇이 동조한 것으로 나타났다. 덴마크 연구에서도 챗봇 사용이 자해·섭식장애 등과 연관됐다. 킹스칼리지 런던은 이를 'AI 연관 망상'으로 명명하고 임상 차원의 대응을 촉구했다.

CNN 조사 "AI 챗봇 10종 중 8종, 청소년 폭력 계획에 도움"

2026.03.12

CNN·CCDH 조사에서 AI 챗봇 10종 중 8종이 청소년의 폭력 계획에 실질 정보를 제공했다. 퍼플렉시티·메타 AI 최하위, 클로드 최우수. 핀란드 실제 사건도 확인됐다.

X의 AI 그록, 아동 성적 이미지 논란…EU 조사 착수

2026.01.27

EU가 머스크 X의 AI 챗봇 그록이 11일간 300만 건의 성적 이미지를 생성한 것과 관련해 공식 조사에 착수했다. 디지털서비스법 위반 여부가 쟁점이다.

친구처럼 기억하는 ‘뉴 알렉사’ 챗GPT에 맞선 아마존의 전략

인사이트42 비즈니스

류정민 기자

2026.01.16

아마존이 음성비서 시장의 부흥을 이끌었던 알렉사의 인기를 되찾기 위해 ‘친구처럼 기억하는 알렉사’ 개발에 집중하고 있다. 이는 챗GPT의 등장으로 주춤하고 있는 알렉사를 다시 주류로 올려놓기 위한 아마존의 전략으로, 기업은 알렉사플러스가 12년 전의 알렉사와는 완전히 다른 제품이라는 것을 증명하기 위해 전력투구하고 있다.

중국, AI 챗봇 자살·도박 유도 금지…감정 조작 규제

2025.12.30

중국 사이버공간관리국이 AI 챗봇의 감정 조작을 막는 규정을 제안했다. 자살·자해 조장 콘텐츠 생성을 금지하며 인간형 상호작용 AI 서비스를 대상으로 한다.

미국 10대 3명 중 1명 매일 AI 챗봇 사용

2025.12.10

미국 10대의 약 3분의 1이 매일 인공지능(AI) 챗봇을 사용하는 것으로 나타났다. 소셜미디어 중심의 디지털 습관 속에서도 챗봇이 점차 새로운 온라인 도구로 자리잡고 있다는 분석이다.

마이크로소프트, 기업 AI 챗봇 도입 확산에 난항

2025.11.24

마이크로소프트가 365 코파일럿을 통한 기업용 AI 챗봇 시장 공략에 어려움을 겪고 있다.

바이트댄스 AI 챗봇 '시시', 글로벌 시장에서 조용한 확장

2025.10.20

틱톡 모회사 바이트댄스가 AI 챗봇 시시를 통해 글로벌 시장을 조용히 공략하고 있다. 중국 최대 AI 챗봇 더우바오의 해외 버전인 시시는 영국, 멕시코, 인도네시아 등에서 타겟 광고와 인플루언서 마케팅으로 구글 플레이 상위 20위에 올랐다. 오픈AI와 구글 기술을 활용하지만 자사와의 관계는 최소화하며 확장 중이다.

미군 장성들, 군사 의사결정에 AI 챗봇 활용

2025.10.20

주한미군 제8군 사령관을 포함한 미군 장성들이 군사 의사결정에 AI 챗봇을 활용하고 있다. 윌리엄 테일러 소장은 챗봇과 가까워졌다며 예측 모델 구축에 활용한다고 밝혔다. 다만 펜타곤은 공개 AI 모델 사용이 민감정보 노출과 부정확한 결과를 초래할 수 있다고 경고했다.

메타, 'AI 챗봇 데이터' 광고 활용...한국·EU는 제외

2025.10.02

메타가 AI 챗봇 대화 데이터를 광고에 활용하는 새 정책을 12월 시행한다. 레이밴 스마트글라스 등 AI 제품 데이터도 포함되며, 한국·영국·EU는 제외. 월 10억 명 이용 데이터로 타깃 광고 고도화 예정.

미 FTC, 구글·메타·오픈AI AI 챗봇 아동 영향 전면 조사

2025.09.12

미국 연방거래위원회가 구글, 메타, 오픈AI 등 빅테크 기업들의 AI 챗봇이 어린이와 청소년에게 미치는 영향을 조사합니다. 동반자 역할을 하는 AI 챗봇의 안전성이 핵심 쟁점입니다.

메타 AI 챗봇, 미성년자와 부적절 대화 논란 지속

2025.09.02

Meta has made some regulatory changes to address inappropriate interactions between its AI chatbots and minors, but serious issues remain.

1 2 3 >