[AI요약] 미국 최고 경쟁감시기관이 결국 오픈AI를 향한 칼을 빼들었다. 기업의 생성AI 제품인 챗GPT는 그동안 개인정보 및 소비자보호법 위반 가능성을 두고 논란을 빚었으며, 최근에는 광범위한 소송에 휘말린 상태다. FTC는 오픈AI에 대규모 언어 모델을 교육하는 데 사용하는 데이터를 얻는 방법 등 방대한 분량의 질의서를 보낸 상태다.

미국 연방거래위원회(FTC)가 시작한 챗GPT(ChatGPT) 제조사 오픈AI(OpenAI)에 대한 조사 내용과 전망에 대해 CNN, CNBC 등 외신이 15일(현지시간) 보도했다.

미국 최고 경쟁감시기관인 FTC는 오픈AI에 △소비자보호법 위반 가능성 △개인 데이터 취급 내용 △사용자에게 부정확한 정보를 제공할 가능성(AI 환각) △평판 손상을 포함한 소비자에게 해를 끼칠 위험 등 광범위한 기록 등의 내용을 요구하고 있는 것으로 알려졌다.

이번 조사는 오픈AI와 정책 입안자들의 관계를 복잡하게 만들 것으로 관측된다. 현재 미국 정책 입안자들은 오픈AI의 기술의 장점과 생성AI가 직업, 국가안보 및 민주주의에 미칠 위협 사이에서 논쟁을 벌이고 있다.

FTC는 지난주 20페이지 분량의 조사 요구서를 통해 오픈AI가 대규모 언어 모델을 교육하는 데 사용하는 데이터를 얻는 방법부터 챗GPT가 거짓으로 실제 개인에 대한 정보를 생성하는 능력까지, 수십건의 질문에 대한 응답을 기업측에 요구한 상태다.

일종의 행정 소환장으로 간주되는 이번 정보요청에는 △오픈AI가 대중으로부터 접수한 불만 사항 △관련 소송 목록 △회사가 2023년 3월 공개한 데이터 유출 내역에 대해 증언을 요구하고 있다.

최근 오픈AI는 개인의 지식재산권을 침해하고 있다고 주장하는 광범위함 소송에 휘말렸으며, 지난 3월에는 시스템 오류로 인해 사용자의 채팅 기록 및 결제 데이터를 일시적으로 노출시킨바 있다.

또한 FTC는 챗GPT가 처음과 다른 응답을 생성하거나 위험에 대응하기 위해 다양한 언어로 알고리즘을 테스트, 조정 및 조작하는 방법에 대한 오픈AI측의 설명을 기다리고 있다. 특히 FTC는 챗GPT가 잘못된 정보를 생성하는 결과를 설명하는 용어인 ‘환각’ 사례를 해결하기 위한 방법에 대해서도 답변을 요구했다.

이번 FTC 조사는 AI에 대한 미국 정부의 직접적인 규제를 보여주는 가장 명확한 예시로 분석된다. 미국 의원들은 올가을 AI 분야에 영향을 미치는 새로운 법안을 마련하기 위해 예상되는 압박을 앞두고 빠르게 진화하는 산업을 파악중이다.

다만 유럽연합 의원들은 예측 치안을 위한 AI 사용을 금지하고 고위험 사용 시나리오에 제한을 적용하는 획기적인 법안을 마무리 중인 것에 비하면, 미국의 이러한 노력은 다소 늦게 시작된 것으로 보인다.

FTC 이번 조사는 AI에 대해 과장된 주장을 하거나 차별적인 방식으로 기술을 오용하지 말라는 취지로 기업들에 반복적으로 경고한 이후에 이뤄졌다.

앞서 FTC는 블로그 게시물과 공개 발언을 통해 AI를 사용하는 기업은 기술과 관련된 모든 불공정하고 기만적인 관행에 대해 책임을 져야 한다고 경고한바 있다. 미국 최고의 소비자보호 감시기관인 FTC는 개인정보남용, 허위 마케팅 및 기타 피해를 기소할 권한이 있다.

이러한 모든 논란에 지금까지 오픈AI는 자사 제품에 비교적 솔직한 태도를 취해왔다. GPT의 최신 릴리스인 GPT-4에 링크된 설명에는 “모델이 특정 소스와 관련해 무의미하거나 진실하지 않은 콘텐츠를 생성할 수 있다”고 강조했다. 또한 기업은 GPT와 같은 도구가 소수자 또는 기타 취약 집단에 대한 광범위한 차별로 이어질 가능성에 대해서도 언급했다.

리나 칸 FTC 의장은 “FTC가 AI의 남용을 기소할 수 있는 충분한 권한이 있다”며 “AI가 사기 또는 사기를 가속화 시킬수 있지만, FTC는 이미 사기와 기만에 대한 법집행의 경험이 있다”고 지난 4월 국회에서 발언했다.

그는 또 “이러한 AI 도구는 참신하지만 FTC는 기존 규칙은 물론 이 새로운 시장에서도 관리의 책임을 다하고 법률을 강력하게 시행할 것”이라고 언론을 통해 강조했다.