최대선 숭실대학교 AI안전성연구센터 센터장 - 테크42

최대선 숭실대학교 AI안전성연구센터 센터장

[현장] ‘답변’ 넘어 ‘행동’하는 AI에 대응하는 보안…에이전트 시대 ‘AI 리스크’ 관리법은?

인사이트42 테크놀로지

황정호 기자

2026.09.15

생성형 인공지능(AI)이 질문에 답하는 수준에 머물 때만 해도 기업이 먼저 걱정했던 것은 틀린 답변이나 유해 콘텐츠, 개인정보 유출이었다. 하지만 AI가 이메일을 읽고 웹을 검색하고 파일을 열어 코드를 실행하는 ‘에이전트’로 바뀌면서 보안의 전제도 흔들리고 있다. 공격자가 웹페이지나 이메일에 숨겨둔 한 줄의 명령을 AI가 사용자의 지시처럼 받아들일 수 있고, 업무를 처리하라고 부여한 시스템 권한이 예상하지 못한 파일 삭제나 정보 유출로 이어질 수도 있기 때문이다. 이제 AI 보안은 ‘무엇을 답하느냐’뿐 아니라 ‘무엇을 할 수 있게 할 것인가’를 묻는 문제로 확대되고 있다.