환각 - 테크42

환각

구글 AI '젬마', 허위 성범죄 생성 후 AI스튜디오서 제외

2025.11.03

구글이 상원의원에게 허위 성범죄 혐의를 생성한 AI 모델 젬마를 긴급 제외했다. 보수 활동가는 214억원 규모 소송 제기. AI 환각이 명예훼손 법적 책임 문제로 확대되며 생성형 AI의 윤리적 논란이 격화되고 있다.

[현장] 커져가는 AI 안정성과 신뢰성 우려… AI 신뢰성 얼라이언스가 나섰다

인사이트42 정책플러스

황정호 기자

2025.10.17

생성형 AI가 의료, 채용, 금융 등 사회 전반으로 확산되면서 딥페이크, 환각 현상, 개인정보 침해 등 안전성과 신뢰성에 대한 우려가 커지고 있다. 전 세계적으로 AI 기술의 사회적 영향과 잠재적 피해에 대응하기 위한 규제와 거버넌스 체계 마련이 시급한 과제로 떠올랐다. 이에 한국정보통신기술협회가 주축이 된 ‘AI 신뢰성 얼라이언스’가 발족식을 개최하고, AI 신뢰성 검·인증 생태계 조성을 위한 민간 협력체계를 본격 가동한다.

대학생 같았던 ‘챗GPT’ 업그레이드된 전문가 버전은 어때?

김한수 기자

2025.08.11

오픈AI가 최신 챗GPT 업그레이드를 통해 AGI를 향한 중요한 진전을 이뤘다고 평가했다. 오픈AI는 업그레이드된 새로운 모델인 GPT-5에 대해 그동안 논란이 됐던 AI ‘환각’이나 ‘아첨’ 및 ‘거짓말’ 문제가 개선됐으며, 사용자가 마치 전문가와 대화하는 것 같은 느낌을 줄 것이라고 소개하고 있다.

AI가 만든 가짜 패키지 주의보...신종 해킹 기법 '슬롭스쿼팅' 등장

2025.04.14

AI 코딩 도구의 환각(hallucination) 현상을 악용한 새로운 공급망 공격 방식인 ‘슬롭스쿼팅(Slopsquatting)’이 보안 위협으로 떠오르고 있다.

자나 깨나 헛소리 조심! ‘2024 AI’ 알고 갑시다

류정민 기자

2024.01.04

생성AI가 선거에 미치는 영향에 대한 우려가 시급해졌다. 유권자가 완전히 환상에 가까운 정보의 세계에서, AI 환각과 정치적 편의의 독성이라는 혼합을 기반으로 생성된 온라인 현실에서 살게 될수 있다는 우려의 목소리가 커지고 있다.

‘챗GPT·라마2·클로드2·코히어AI’ 거짓말 제일 많이 하는 A.I는?

류정민 기자

2023.08.21

터무니없는 거짓말을 사실처럼 가장 당당하게 제공하는 A.I 모델에 대한 최신 분석이 나왔다. 오픈AI의 ‘GPT-4’, 메타의 ‘라마2’, 앤트로픽의 ‘클로드2’, 코히어의 ‘코히어AI’ 등 LLM 모델의 성능이 카테고리마다 각양각색으로 조사됐다.