생성형 AI 스타트업 포티투마루(42Maru)가 '서울판 CES'로 불리는 '디지털 혁신 페스타 2024'에 참가해 생성형 AI 기반 산업 특화 설치형 LLM 솔루션과 다양한 상용 사례를 공유한다고 10일 밝혔다.
'디지털 혁신 페스타 2024'는 과학기술정보통신부 주최, 한국소프트웨어산업협회(KOSA)와 지디넷코리아 주관으로 개최되는 대규모 디지털 혁신 비즈니스 행사다. 이번 행사는 350개사 500여개 부스, 연사 100여명, 참관객 3만여 명 규모로 코엑스에서 진행된다.
포티투마루는 코엑스 3층 C홀 행사장 입구에 대규모 전시 부스를 마련하고, 산업 분야별로 최적화된 설치형 경량화 언어 모델인 LLM42와 RAG42를 선보일 예정이다. 또한, 전문가 업무 지원 AI Agent인 'DocuAgent42'도 함께 전시한다.
포티투마루 권혁성 CBO는 10일 13시 20분부터 코엑스 3층 E홀 DINNO 2024 메인무대에서 'RAG를 활용한 LLM 도입 전략 및 도입사례'를 주제로 강연을 진행한다. 이 강연에서는 RAG(Retrieval Augmented Generation) 기술을 활용한 LLM의 실제 비즈니스 적용 사례와 도입 전략에 대한 인사이트를 공유할 예정이다.
포티투마루는 생성형 AI 기술을 바탕으로 초거대 언어모델의 단점인 환각(hallucination) 현상을 완화하는 기술을 개발했다. 검색증강생성 기술인 RAG42와 인공지능 독해 기술인 MRC42를 결합해 이 문제를 해결하고, 전문 산업 분야에 특화된 경량화 모델 LLM42를 개발 및 서비스하고 있다.
김동환 포티투마루 대표는 "이번 행사에서 소개하는 'DocuAgent42'는 전문가의 업무를 보조하는 AI 어시스턴트로, AI 상담사, AI 비서, AI 강사, AI 안내원 등 다양한 분야에서 활용이 가능한 sLLM 기반 AI Agent"라며, "특히 플러그인 방식으로 즉시 설치가 가능해, 기업 내 초거대 AI 적용을 쉽고 빠르게 지원할 수 있다"고 강조했다.
포티투마루의 솔루션은 기업용 Private 모드를 지원하여 기업 내부 데이터와 고객 정보를 안전하게 보호하면서 초거대 AI를 활용할 수 있다는 장점이 있다. 또한, 솔루션 구축과 학습, 서빙에 들어가는 비용을 크게 절감할 수 있어 기업들의 관심을 끌 것으로 예상된다.
