유럽 전역에서 인공지능(AI)이 생성한 모든 콘텐츠와 챗봇에 출처를 명확히 표시하도록 강제하는 강도 높은 규제가 전면 시행에 들어갔다.
행정 당국은 '인공지능 법안(AI Act)' 제50조에 규정된 AI 투명성 의무 조항의 적용 및 법적 집행을 개시했다고 공식 발표했다. 이에 따라 유럽 영역 내에서 디지털 콘텐츠를 제작·배포하거나 AI 서비스를 운영하는 모든 기업 및 기관은 AI 사용 여부를 이용자에게 명확히 고지해야 한다.
이번 조치의 핵심은 정보 이용자가 인간과 기계를 명확히 구별할 수 있도록 하는 데 있다. AI 시스템이 생성했거나 일부 변형한 이미지, 음성, 영상 등 이른바 '딥페이크' 성격의 미디어는 물론, 인공지능이 작성한 텍스트 기사 및 요약문에도 AI 기술이 개입되었음을 안내하는 표식이 의무적으로 첨부된다. 특히 100% 인공지능만으로 제작된 정교한 가상 영상이나 AI 합성 음악, 뉴스 요약본 등은 'AI 생성물(AI-Generated)'이라는 라벨을 눈에 띄게 게시해야 한다. 아울러 소비자가 실존 인물이 아닌 AI 챗봇이나 대화형 에이전트와 소통할 때도 상호작용 시작 시점에 이를 즉시 인지할 수 있도록 하는 장치가 마련되어야 한다.
이외에도 이용자의 감정을 인식하거나 생체 데이터를 처리하는 형태의 AI 모델 역시 사용 사실을 의무적으로 공개해야 하는 대상에 포함됐다. 일반 목적 인공지능(GPAI) 개발사들은 생성 모델에 사용된 학습 데이터의 상세 요약본을 공개하고, 엄격한 저작권 준수 정책을 수립해 관련 서류를 감독 당국에 제출해야 한다. 다만 개인 간의 단체 대화방 내 사적 소통이나 해학 및 풍자를 목적으로 하는 명백한 예술적·창작적 작품에 대해서는 예외 규정이 적용된다.
규정 준수를 위한 법적 강제력도 강력하다. 투명성 의무를 위반한 기업에는 최대 1,500만 유로(한화 약 220억 원) 또는 전 세계 연간 매출액의 3%에 달하는 금액 중 더 높은 금액의 과징금이 부과될 수 있다. 법안 적용 대상 기관이 위반할 경우에도 최대 75만 유로의 과징금이 집행된다. 중소기업이나 스타트업의 경우 기업 규모 및 비례성 원칙을 고려해 과징금 산정 체계가 다르게 적용된다.
이번 제도 시행을 두고 기술 산업계 일각에서는 과도한 규제 부담으로 인해 기술 개발 속도가 더뎌지고 산업 혁신이 위축될 수 있다는 우려를 제시해 왔다. 반면 규제 당국은 단일화된 법적 기준 마련이 시장 전체의 개발 환경을 표준화하는 효과를 가져올 것이라고 설명했다. 나아가 인공지능의 왜곡된 활용으로부터 시민의 기본권과 민주주의적 정보 생태계를 보호하기 위해 실효성 있는 법 집행을 최우선 과제로 추진할 방침이다.
