인공지능(AI)이 사람의 지시를 받아 답변하는 수준을 넘어 스스로 작업을 계획하고 실행하는 자율 에이전트로 발전하면서, AI의 행동을 어떻게 감독하고 책임을 관리할 것인지가 새로운 과제로 떠오르고 있다. 카카오는 이러한 변화에 대응해 AI 서비스 개발과 운영 과정에서 위험을 점검할 수 있는 윤리 관리 체계를 마련했다.
카카오는 지난 13일 카카오 AI 캠퍼스에서 개최한 개발자 콘퍼런스 '이프 카카오 2026(if(kakao)26)'에서 새로운 AI 윤리 원칙과 이행 가이드를 공개했다. AI가 자율적으로 행동하는 환경에서도 인간의 감독과 책임이 유지되도록 서비스 전반의 점검 기준을 구체화한 것이 특징이다.
이번 체계에서 주목할 부분은 자율 에이전트의 위험을 다섯 가지 영역으로 나눠 관리한다는 점이다. 카카오는 통제 주도권, 목표, 권한, 참조 자원, 상호작용을 주요 관리 대상으로 정하고 각각에 필요한 인간 감독, 비상 제어, 권한 통제, 데이터 보호 등의 조치를 연결했다.
이를 실제 서비스에 적용하기 위한 'AI 윤리 이행 체크리스트'도 마련했다. 점검은 서비스의 속성을 먼저 파악한 다음 잠재적 위험을 사전에 선별하고, 필요한 통제 항목을 확인해 판정하는 3단계로 진행된다. 카카오는 새 체크리스트를 올해 안에 적용할 예정이다.
이러한 관리 체계의 기반이 되는 윤리 원칙에는 '스피릿(SPIRIT)'이라는 이름을 붙였다. 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 항목을 포괄한다.
카카오는 '대한민국 인공지능 윤리원칙'에서 제시한 3대 가치와 7대 원칙을 주요 이행 기준으로 삼았다. 여기에 자사 서비스의 특성을 고려한 세부 내용을 더해 실무에서 활용할 수 있도록 구성했다.
윤리적 기준을 조직의 실제 업무로 연결하기 위한 실행 방식은 '노르마(NORMA)'로 정의했다. 이는 Navigating, Organizational, Responsibility, Manageable, Actionable의 앞 글자를 조합한 것으로, AI 윤리 문제에 대한 공동 책임을 조직 차원에서 인식하고 복잡한 과제를 관리·실행 가능한 단계로 전환한다는 의미를 담고 있다.
새로운 원칙과 가이드를 마련하는 과정에는 외부 전문가들도 참여했다. 카카오는 지난 7월 구성된 AI&기술윤리소위원회 외부 자문단 7명과 협력해 이달 초 관련 체계를 수립했다. 외부 자문단이 국내외 윤리 규범과의 정합성을 독립적으로 검토했으며, 내부에서는 AI 안전, 개인정보, 정보보안, 서비스 담당 조직이 실무 적용 가능성을 점검했다.
아동·청소년을 대상으로 한 AI 위험 관리도 강화한다. 카카오는 2025년부터 운영해 온 '디지털 아동·청소년 보호 체크리스트'를 보완해 AI 환경에 특화된 점검 요소를 추가할 계획이다. 새 기준에는 경제협력개발기구(OECD)와 유니세프의 아동 온라인 위험 분류 체계인 '5Cs'를 참고한 항목들이 반영된다.
카카오는 2018년 '알고리즘 윤리헌장' 발표를 시작으로 AI 윤리 관련 제도를 확대해 왔다. 2022년에는 카카오와 주요 계열사가 참여하는 AI&기술윤리소위원회를 출범시켰으며, 이후 그룹 공통의 책임 있는 AI 가이드라인 마련, 이용자 주체성 원칙 추가, 안전 점검 체크리스트 의무화 등을 추진했다. 현재 소위원회는 AI 기본법 제28조에 규정된 인공지능윤리위원회의 역할을 자율적으로 수행하기 위해 외부 자문단도 운영하고 있다.
지난 13일 행사에서 '윤리를 깨는 자율 에이전트, 어떻게 대응할까?'를 주제로 발표한 하진화 카카오 AI 커뮤니케이션 수석은 자율적으로 계획하고 행동하는 AI 환경에서 인간의 판단과 책임을 명확히 하고, 윤리를 서비스 설계와 운영에 반영할 실행 체계가 필요하다고 강조했다.
김세웅 카카오 AI&기술윤리소위원회 위원장은 “외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다”며 “AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다”고 밝혔다.
