[AI요약] 챗GPT와 같은 챗봇을 만드는 데 사용할 수 있는 대규모 언어모델(LLM)은 신생 기업, 기존 비즈니스, 단독 운영자 등 누구나 활용할 수 있다. 그러나 메타는 왜 계속해서 오픈소스 AI를 공개하고 있으며, 관련된 잠재적 위험은 없는 것일까?

메타가 대중에게 무료로 공개하는 오픈소스 AI를 출시하는 진짜 이유는 무엇일까.

메타(Meta)가 이번주 출시한 공개용 인공지능(AI) 모델과 전망에 대해 더가디언 등 외신이 20일(현지시간) 보도했다.

메타는 최근 공개용 AI모델인 ‘라마2’(Llama2)의 오픈소스 버전을 출시했다. LLM은 챗봇과 같은 AI 도구를 지원한다. 해당 AI모델은 인간의 언어와 심지어 컴퓨터 코딩까지 모방할 수 있게 해주는 방대한 데이터세트에 대해 훈련을 받는다. LLM이 오픈소스가 되면 대중은 자신의 목적에 맞게 액세스, 사용 및 조정해 콘텐츠를 자유롭게 개발할 수 있다.

이번에 공개된 라마2는 AI 챗봇에 내장할 수 있는 버전을 포함해 세가지 버전으로 출시됐다. 이러한 오픈소스AI는 신생기업이나 기존기업이 라마2 모델에 액세스하고 이를 수정, 잠재적으로 오픈AI(OpenAI)의 챗GPT(ChatGPT) 또는 구글의 바드(Bard)와 같은 챗봇에 경쟁할 수 있는 자체 제품을 개발할 수 있도록 돕는다.

메타가 밝힌 오픈소스AI 출시의 공개적 이유는 ‘AI의 대중화’다.

닉 클레그 메타 글로벌업무담당 사장은 “LLM을 오픈소스로 만들면 대중의 지혜로 이러한 시스템을 더 안전하게 만들 것”이라며 “무엇보다 이러한 모델을 구축할 수 있는, 방대한 데이터를 보유한 거대 기술기업의 손에서 그것들을 꺼내오는게 중요하다”고 언론을 통해 밝혔다. AI기술이 일부 기업들에 의해 독점되는 것보다 대중에게 공개하는 편이 기술의 안전성과 대중성에 도움이 된다는 설명이다.

그러나 메타는 경쟁사가 개발한 챗GPT와 바드에 대응할 제품 개발 가능성을 높이는 오픈소스AI를 출시함으로 메타는 잠재적으로 구글과 같은 경쟁기업 기술의 경쟁적 우위를 희석시킬 수 있다.

메타는 라마2와 함께 발표된 연구에서 기업의 오픈소스AI가 GPT-4보다 ‘뒤쳐진다’고 인정했지만, 그럼에도 불구하고 주력 기술을 무료로 대중에게 제공한다는 것은 오픈AI에게는 치명적이다.

마이크로소프는 오픈AI의 주요 재정 후원자이지만 일단은 라마2의 출시를 지원하고 있는 모양새다. 메타의 LLM은 마이크로소프트의 애저, 아마존 웹서비스, 허깅페이스 플랫폼을 통해 다운로드할 수 있다.

영국의 데임 웬디 홀 사우샘프턴대학교 컴퓨터과학과 교수는 “기술산업이 LLM을 자체적으로 규제할 수 있는지조차 의문이다”며 “오픈소스의 모델인 경우에는 대중에게 핵폭탄을 만들기 위한 템플릿을 제공하는 것과 같을 정도로 문제가 심각해진다”고 우려했다.

영국의 엔드류 로고스키 서리대학교 사람중심 AI 연구소 박사는 “오픈소스는 누구나 손에 넣을 수 있다는 것을 의미한다”며 “잘못된 의도를 가진 사람이 소프트웨어를 가져가 오용하는 것을 막을 수 없다”고 지적했다.

이러한 우려에 메타는 일종의 보호장치를 마련하기는 했다. 라마2 다운로드 신청을 위해서는 ‘폭력 또는 테러’를 조장 또는 계획하거나 허위 정보를 생성하기 위해 LLM을 사용하지 않는 것을 포함하는 ‘사용 제한 정책’에 동의해야 한다.

마크 저커버그 메타 CEO는 “오픈소스는 더 많은 개발자가 신기술을 개발할 수 있도록해 혁신을 주도할 것”이라며 “생태계가 개방적이라면 더 많은 진전이 있을 것이라고 믿는다”고 기업 블로그 게시물을 통해 밝혔다.