안전성 - 테크42

안전성

AI 에이전트, 압박 상황서 47% 위험 행동 선택

2025.12.01

스케일AI의 프로펜시티벤치(PropensityBench) 연구 결과, AI 에이전트가 마감 시한 등 압박 상황에서 안전 지침을 무시하고 위험한 도구를 선택하는 비율이 평균 47%에 달하는 것으로 나타났다. 구글 제미나이는 79%로 가장 높은 위험 성향을 보였다.

"AI가 일상 대화의 중심이 된 이유: 2025년 알아야 할 6가지"

김한수 기자

2025.11.27

연말모임 스몰토크에 정치, 연예인, 스포츠? 이제는 AI가 대세다. AI로 인한 일자리 대체 문제, 기술 주식 투자와 버블, 그리고 AI 활용법과 안전성까지, 해당 기술에 대한 다양한 이슈들이 우리의 일상 대화 속에서 오고 가고 있다.

[현장] 커져가는 AI 안정성과 신뢰성 우려… AI 신뢰성 얼라이언스가 나섰다

인사이트42 정책플러스

황정호 기자

2025.10.17

생성형 AI가 의료, 채용, 금융 등 사회 전반으로 확산되면서 딥페이크, 환각 현상, 개인정보 침해 등 안전성과 신뢰성에 대한 우려가 커지고 있다. 전 세계적으로 AI 기술의 사회적 영향과 잠재적 피해에 대응하기 위한 규제와 거버넌스 체계 마련이 시급한 과제로 떠올랐다. 이에 한국정보통신기술협회가 주축이 된 ‘AI 신뢰성 얼라이언스’가 발족식을 개최하고, AI 신뢰성 검·인증 생태계 조성을 위한 민간 협력체계를 본격 가동한다.