[편집자 주]
AI 기본법 시행과 함께 공개된 5종 가이드라인(투명성·안전성·고영향 판단·고영향 사업자 책무·영향평가)은 기업의 AI 운영을 ‘기술’이 아니라 ‘책임’의 문제로 바꾸고 있다. 테크42는 이번 시리즈를 통해 각 가이드라인이 요구하는 핵심 원칙과 실무 포인트를 짚고, 서비스 설계·운영·거버넌스 관점에서 무엇이 달라지는지 정리한다. 특히 ‘고지·표시’부터 위험관리와 문서화, 그리고 기본권 영향평가까지 이어지는 연결고리를 따라가며 현장에서 바로 부딪히는 쟁점을 짚어본다.
투명성 가이드라인은 한 문장으로 정리하면 “AI를 썼다면 먼저 알리고(사전 고지), 결과물은 구분 가능하게 하라(표시)”다. 문제는 이 요구가 단순한 문구 삽입이 아니라, 서비스 구조·운영체계를 바꾸는 과제로 번진다는 점이다. 특히 추천·요약처럼 기능 안쪽에 AI가 ‘조용히’ 스며드는 서비스가 늘수록 “어디서부터가 AI 상호작용의 시작이냐”라는 질문이 제품 설계의 핵심이 된다.
과학기술정보통신부(이하 과기부)는 투명성 확보 의무의 적용 대상을 ‘AI를 만든 주체’가 아니라 ‘이용자에게 최종적으로 AI 제품·서비스를 제공하는 인공지능 사업자’로 설명한다. 업계에서는 이 문장이 사실상 책임의 종착지를 ‘사용자 접점’으로 못 박은 것이라고 본다. 기반 모델을 외부에서 조달해도, API를 붙여 기능을 만들었어도, 최종 화면에서 ‘AI라고 알리고 표시를 붙이는 책임’은 서비스 사업자에게 돌아오기 때문이다. 해외 사업자 역시 이용자에게 최종 제공하는 형태라면 적용될 수 있다는 점이 함께 언급되면서, 글로벌 서비스도 국내 기준에 맞춘 투명성 설계를 준비해야 하는 흐름이 뚜렷해 졌다.
‘사전 고지’는 체크사항이 아니라 UX 과제다
사전 고지는 이용자가 AI와 상호작용하기 전에 ‘이 서비스는 AI를 활용한다’는 사실을 쉽게 인지하도록 하는 장치다. 약관·서비스 안내, 별도 고지 창, 음성 안내 등 다양한 방식이 제시되고, 대화형 서비스의 경우 초기 화면 안내나 로고·문구의 지속 표출처럼 이용자가 놓치지 않는 형태가 강조된다. 겉으로 보면 간단해 보이지만, 실무로 내려오면 곧바로 ‘어느 지점이 상호작용의 시작이냐’라는 질문이 튀어나온다.
업계에서는 AI가 챗봇처럼 전면에 등장하는 서비스보다, 추천·정렬·요약·편집처럼 기능 내부에 스며드는 기능이 급격히 늘고 있다는 점을 문제로 꼽는다. 이 경우 이용자는 ‘지금 AI가 개입하고 있는지’를 직관적으로 알기 어렵고, 기업은 고지 타이밍을 일률적으로 정하기도 어렵다. 결국 ‘쉽게 인식할 수 있는 방식’이라는 원칙을 서비스마다 다시 해석해야 한다는 얘기다. 그래서 투명성은 문구를 붙이는 문제가 아니라, 이용자 여정 전반에서 AI 개입 지점을 정의하고 그 지점을 놓치지 않게 만드는 UX 설계 문제로 귀결된다.
또 다른 현실적 고민은 고지의 ‘빈도’다. 업계에서는 과도한 고지가 이용자 경험을 해칠 수 있고, 반대로 너무 약한 고지는 사후 분쟁에서 ‘충분히 알렸는가’라는 질문으로 되돌아올 수 있다고 본다. 결국 기업은 ‘이용자가 실제로 인지했는가’를 기준으로, 고지의 위치·표현·반복 여부를 내부 기준과 증빙 가능한 형태로 설계해두려는 방향으로 대비하고 있다.
‘표시(라벨링)’는 외부 반출에서 난도가 급상승한다
표시는 생성형 AI 결과물에 ‘AI가 생성했다’는 흔적을 남기는 일이다. 가시적 표시(사람이 바로 인지)와 비가시적 표시(디지털 워터마킹·메타데이터 등 기계 판독)로 접근할 수 있는데, 과기부 설명은 특히 다운로드·공유 등 ‘외부 반출’ 상황에서 표시 의무를 보다 구체적으로 정리한다.
핵심은 딥페이크 생성물과 일반 생성물을 구분하는 것이다. 과기부는 딥페이크 생성물의 경우 사람이 직관적으로 인식할 수 있는 표시 방법을 적용해야 한다는 방향을 분명히 했다. 다만 예술적·창의적 표현물은 전시·향유를 저해하지 않는 방법을 허용한다는 단서도 함께 제시했다. 업계에서는 이 문장이 ‘표시를 하되 창작 경험을 완전히 깨지 않도록 설계하라’는 주문으로 받아들이고 있다.
일반 생성물은 선택지가 열려 있다. 과기부 설명에 따르면 먼저 가시적 워터마크 등 사람이 인식할 수 있는 방법을 쓰거나, 다음으로 비가시적 표시를 적용하고 1회 안내를 결합하는 방식 중 하나를 택해 적용할 수 있다. 예컨대 텍스트 파일 형태로 제공될 때는 메타데이터 표시와 1회 안내를 결합하고, 이미지·영상은 메타데이터/디지털 워터마킹과 1회 안내를 묶는 식이다. 음성은 재생 초기 또는 전체 재생 구간 등 서비스 특성에 맞춰 안내를 설계할 수 있다.
여기서 업계가 가장 난점으로 꼽는 것은 ‘표시를 붙였느냐’보다, 표시·안내 설계를 다운로드·공유·재업로드 같은 실제 유통 경로까지 고려해 ‘운영 체계로 굳힐 수 있느냐’다. 메타데이터가 변환 과정에서 사라지거나, 플랫폼·포맷에 따라 표시 방식이 달라지는 문제가 기술·운영 모두에서 복잡해질 수 있기 때문이다. 그래서 업계에서는 투명성 준수를 ‘라벨 붙이기’로 단순화하기보다, 배포 경로·포맷 변환·외부 플랫폼 유통까지 고려한 전체 체계로 설계해야 한다는 목소리가 나온다.
또 하나의 논쟁점은 ‘우리 서비스가 표시 의무 대상이냐’다. 과기부가 ‘최종 제공자’라는 기준을 제시했지만, 실제 서비스는 제작·편집·유통·광고 집행까지 여러 단계가 결합돼 ‘제공’과 ‘활용’의 경계가 쉽게 흐려진다. 업계에서는 이 경계가 모호할수록 책임이 ‘가장 눈에 띄는 최종 접점’으로 몰릴 수 있어, 제품 기획 단계에서부터 적용 범위를 좁혀 설계하거나, 반대로 보수적으로 표시를 넓게 적용할 가능성도 있다고 본다.
| 체크 박스 | 투명성 가이드라인 핵심 정리 >과기부는 투명성 확보 의무 적용 대상을 이용자에게 최종적으로 AI 제품·서비스를 제공하는 인공지능 사업자로 설명한다(해외 사업자도 최종 제공 형태면 적용 가능). >투명성 확보는 사전 고지(상호작용 전 인지)와 표시(생성물 식별)로 구성되며, 고지는 서비스마다 다른 이용 흐름을 반영해야 하는 UX 설계 과제로 이어진다. >표시 의무는 특히 다운로드·공유 등 외부 반출 시 쟁점이 커진다. 딥페이크는 직관적 표시가 중심이고, 일반 생성물은 가시적 표시 또는 비가시적 표시+1회 안내 중 선택 적용이 핵심이다. >과기부는 시행 초기 혼선을 줄이기 위해 최소 1년 이상 유예기간과 지원데스크(컨설팅) 운영을 안내했으며, 해외 규제 동향·기술 발전 등을 고려해 추가 연장 가능성도 함께 제시했다. |
