생성형 AI 등장 이후 산업 각 분야에 이를 도입하기 위한 시도들이 확산되고 있다. 금융 분야 역시 그 중 하나다. 하지만 아직까지 대부분의 기업들이 인력과 데이터 부족으로 어려움을 호소하고 있다.
이러한 상황에서 지난 2022년 9월 등장한 AI·데이터 기술 기반 스타트업 ‘원라인에이아이’가 주목받고 있다. 원라인에이아이는 증권사 주식브로커 출신의 정한얼 대표와 크래프트 테크놀로지스·퓨처플레이에서 일한 손규진 CDO, 신한카드·카카오페이 출신의 전현준 CTO가 합심해 창업한 스타트업이다. 금융 분야에 제대로 된 생성형 AI 서비스를 개발하겠다는 목표로 달려온 이들의 노력은 올해 초 선보인 *생각 프로세스(thought process)와 **'테스트 타임 스케일링(test-time scaling)' 기반 한국어 AI 모델 ‘올라(OLA-F) v2’로 빛을 발하고 있다.
*생각 프로세스(thought process)_ AI 모델의 새로운 추론 방식. 기존의 '생각의 사슬(Chain-of-Thought)'과 유사한 방식으로 작동한다. 모델이 주어진 문제를 스스로 이해하고 해결 방안을 제시하는 사고 과정을 생성하는 것이 특징이다. 오답을 발견해 스스로 고치는 것도 가능하다.
**테스트 타임 스케일링(test-time scaling)_ AI 모델이 더 많은 계산 자원을 사용해 복잡한 문제에 대해 스스로 생각하며 더 깊이 있는 추론을 수행하도록 하는 방법. 모델이 다양한 전략과 시나리오를 시뮬레이션하여 최적의 솔루션에 도달하도록 돕는다.
‘올라(OLA-F) v2’와 관련해 전현준 원라인에이아이 CTO(최고기술책임자, 공동창업자)는 “원라인에이아이에서 지속적으로 한국어 벤치마크를 만들면서 키워온 것을 바탕으로 자체적으로 제작한 금융 언어 말뭉치를 학습한 모델”이라고 강조하며 테크42와의 인터뷰에 나섰다.
“‘올라(OLA-F) v2’는 원하는 분야에 딱 맞는 증권 분야의 법이나 규제, 수식 계산, 용어 등 여러가지 면에서 성능을 향상시켰습니다. 또한 도구 사용에 익숙하도록 제작해서 본래 가지고 있는 지식에 외부 도구를 통해 검색한 추가적인 지식을 잘 활용해서 더욱 최신화 된 답변을 할 수 있도록 만들어진 모델입니다.”
대기업 한계 깨달으며 창업, 금융 시행착오 끝에 선보인 금융 특화 LLM
Q_ 원라인에이아이는 금융데이터플랫폼으로 정합성 높은 데이터셋을 구축하고, 자체 금융 LLM을 개발, 생성형 AI 앱으로 서비스화까지 달성한 것으로 알고 있습니다. 어떤 과정을 거쳤나요?
전현준 CTO(이하 전)_ 이미 정형화된 데이터셋(가격 등)을 모으는 것은 크게 어렵지 않았습니다. 하지만 비정형 데이터를 사용하기 쉽고 의미성을 가지도록 처리하는 것이 어려운 과정이었습니다. 생성형AI를 통해 비정형 데이터를 처리하고 있는데요. 이런 데이터 처리의 신뢰성, 안정성을 높이기 위한 여러가지 실험과 실패들. 그리고 데이터를 처리하면서 얻게 된 경험을 바탕으로 규칙까지 추가해서 현재의 데이터 레이크를 구성할 수 있었습니다. 생성형AI 에 전달되는 데이터의 형태에 따라, 프롬프트의 구성에 따라 원하는 결과가 크게 달라지는 경험들을 그냥 날려보내지 않고 잘 지식화 해둔 거죠. 이게 자체 금융 LLM 을 개발할 때 참고할 수 있는 자료가 되었고 리서치팀에서 금융 LLM이 어떤 니즈를 만족시켜야 하는지 이해하고 학습할 때 많은 도움이 됐습니다. 이런 경험들이 바탕이 되어 최종적으로 생성형AI를 기반으로 하는 서비스까지 출시하게 되면서 더욱 ‘Fly Wheel’ 을 달성할 수 있게 됐다고 봅니다.
Q_ 대기업에 재직 중에 원라인에이아이 코파운더로 합류하셨는데 계기가 무엇인가요?
전_ 정해진 업무 범위만을 해야 하는 것에 답답함을 느꼈어요. 개발자로써 ‘제가 만든 제품을 사용자들에게 서비스하고 싶다’라는 욕심도 있었고요. 고민하던 차에 합류 제안 받고 제가 생각한 걸 만들어볼 수 있겠다는 생각에 동참한 거죠(웃음).
한편으로 생성형AI 가 바꿔놓을 앞으로의 세상에는 계속 안정적인 직장은 없다는 생각이 들기도 했어요. 그래서 조금이라도 더 도전할 수 있는 나이일 때 도전해보자고 결심했죠. 게다가 원라인에이아이가 가진 비전은 초기 창업팀이라고 하기엔 엄청나게 컸고, 정제되어 있지 않은 날 것이었아요. CTO로 참여해 이 아이디어를 실현시킬 서비스를 만들어야겠다는 욕심이 생기더군요.
Q_ 창업 이후 처음 시도한 프로젝트가 궁금합니다. 시행착오는 없었나요?
전_ 증권사의 앱 푸시 마케팅을 위한 콘텐츠 자동 생성 플랫폼을 만드는 프로젝트를 가장 먼저 준비했습니다. 아주 가벼운 MVP(최고기능제품)였고, 서비스의 시장 반응을 살펴보기 위한 것이었죠. 하지만 기대보다 시장 반응이 냉랭하더군요(웃음).
결국 서비스를 구성하는 생성형AI를 데이터와 함께 활용하는 중요한 부분만 가져가고 전체적인 방향을 피봇팅하기로 결정했어요. 그것이 ‘OLA’ 서비스의 원형이 됐죠. 금융 챗봇, 데이터 기반 콘텐츠 생성, 다양한 프롬프트 관리 등 생성형AI를 증권사에서 잘 쓰기 위해 필요한 여러가지 하위 기능들을 포함했습니다. 하지만 충분하지 않았죠. 이 또한 MVP로 테스트한 결과 고객의 피드백을 통해 사용성을 고려하지 않은 서비스였다는 것을 확인했어요. 기능 자체의 방향은 맞았으나, 쓰기가 너무 어렵다는 피드백이 다수였죠.
이를 반영해 개선한 것이 현재의 ‘OLA’예요. 그렇게 여러 번의 시행착오와 수많은 개발 코드, 프로젝트의 Zero to One 을 반복하며 가장 적절한 형태의 서비스 개발에 필요한 기준을 알게 됐죠.
Q_ 원라인에이아이 창업 이후 가장 어려웠던 순간, 그리고 확신을 얻었던 순간을 각각 떠올린다면?
전_ 가장 어려웠던 순간은 앞서 말씀드린 것처럼 열심히 개발해서 내놓은 서비스가 시장에서 아주 차가운 반응과 맞이할 때였던 것 같습니다. 굉장히 힘이 빠지는 일이었고 ‘우리 회사가 이런 서비스를 만들어서 돈을 벌 수 있을까?’ 라는 의심까지 들었죠(웃음).
하지만 그 순간을 잘 이겨내 가면서 생성형 AI를 제대로 활용하는 방향으로, 느리지만 한 걸음 한 걸음 가고 있다는 확신은 들었습니다. 그 와중에 저희의 가능성을 본 투자자로부터 시드 투자 유치도 하게 되며 좀 더 달릴 수 있는 동력을 얻었던 것 같습니다. 그 외에 계속 이야기만 하던 여러 사업 건이나 MOU 들이 실제 문서화 되어 가면서 ‘아 우리 잘 가고 있다’ 라는 확신을 얻었던 것 같아요.
증권사가 ‘진짜’ 비즈니스 성과를 달성할 수 있는 AI 서비스
Q_ 금융사를 대상으로 생성형AI를 활용할 수 있게 하는 솔루션이 다양하게 나오고 있는데요. 원라인에이아이가 선보이는 서비스의 차별점은 무엇이라고 할 수 있나요?
전_생성형AI를 단순히 활용하는 솔루션은 이미 많이 있지만, 아주 민감한 내부 데이터들 & 그리고 외부에서 잘 가공된 금융 데이터들과 결합되어서 증권사가 ‘진짜’ 비지니스적으로 의미 있는 성과를 달성할 수 있도록 도움주는 서비스는 없었죠. 저희가 개발한 서비스로는 가능하다고 생각합니다. 그렇기에 자체 LLM도 필요했고, 외부 API LLM 을 통한 퀄리티 높은 비즈니스 콘텐츠를 만들어내는 것도 필요했습니다.
‘OLA’는 금융 데이터 소스로 저희 원라인에이아이 데이터 레이크를 바라보고 있어요. 사용자는 이 데이터를 자유롭게 사용할 수 있으며, 자신의 데이터를 업로드해 벡터DB 및 ‘Knowledge Base’로 만들어지는 과정은 대부분 자동화가 됐습니다. 금융사가 생각하는 ‘AI 에이전트(AI Agent)’를 설계하는 워크플로우(Workflow) 자동화는 거의 100% 지원하고 있습니다. 지금은 나머지 부분의 자동화를 완성하는 중입니다. RAG 시스템 데이터 전처리 부분과 금융 데이터 처리 부분에 인간이 여전히 개입 해야 되는 상황까지 자동화하는 고도화 작업을 진행 중인 거죠.
Q SaaS 형과 온프레미스 형 2가지 방식으로 서비스 한다고 알고 있습니다. ‘OLA’ 외에 다른 모델도 있나요?
전_ 'Ko-R1’ 이라는 모델을 지속적으로 학습 중에 있어요. 딥시크 R1과 같이 추론하는 모델을 통해서 환각 현상을 줄이고, 답변의 퀄리티를 높이면서도 스스로 오류를 찾아내 수정하는 형태의 모델이죠. 다만 단독으로 사용해서는 안되고 비추론형 ‘OLA-F’ 모델도 필요합니다. 왜냐면 간단한 질의에 굳이 비용이 많이 드는 모델을 돌릴 필요는 없기 때문이죠.
최근에는 모 증권사 내부 직원의 업무 효율성 증대를 위한 ‘OLA-F’ 언어모델 기반 챗봇 및 리포트 서비스 PoC(기술증명)를 성공적으로 수행했습니다. 이를 기반으로 B2B 비지니스 영업이 계속 진행되고 있고, 최근에는 기업은행과도 ‘OLA’ 계약이 진행돼 곧 프로젝트를 시작할 예정이고요. 이 외에도 저희 첫 B2C 서비스인 ‘Finola(www.finola.io)’는 처음부터 해외 진출을 고려해서 만들고 있는 서비스예요. 그래서 언어도 처음부터 영어, 대상 주식은 미국 주식을 우선적으로 서비스하며 차근차근 해외 시장에 런칭 후 반응을 보면서 기능 고도화를 계속 진행하고 있죠.
Q_ 금융사 고객(B2B)외에 개별 투자자(B2C)를 대상으로도 서비스를 개발하고 있다는 것인가요?
전_네, 결국엔 어느 투자자든 언어의 장벽을 깨고, 자신만의 투자 방법론으로 콘텐츠도 만들고 그 방향대로 투자하는 세상이 빨리 오리라 생각하구요. 그렇게 만들기 위해서 열심히 노력하고 있습니다.
‘Finola’는 금융 데이터를 활용한 ‘AI Research Agent’ 를 지향하고 있는 B2C 향 프로덕트죠. 많은 사람들이 투자에 나서고 있지만 정작 자신이 투자하는데 있어서 확신을 갖는 경우는 많지 않습니다. 저희는 이러한 상황을 ‘Finola’로 해결할 수 있다고 보고 있습니다. 데이터 기반으로 개인 투자자가 원하는 분석을 쉽게 할 수 있도록 돕는 거죠.
우선은 일반적으로 알려진 분석 기법과 ‘AI Agent’의 리서치 결과를 바탕으로 추가적인 나만의 콘텐츠를 생성할 수 있는 솔루션으로 개발 중입니다. 차트, 테이블, 글, 이미지 등이 포함된, 노션과 비슷한 노트형 콘텐츠 제작 플랫폼을 제공하는 서비스라 할 수 있죠.
AI 에이전트가 현실 세계와 상호작용하는 미래를 준비 할 것
Q_ 현재 AI 기술은 매우 빠른 속도로 발전하는 중입니다. 이에 뒤쳐지지 않기 위한 원라인에이아이는 어떤 노력을 하고 있는지?
전_ 다양한 노력을 하고 있어요. 그 중 지속적으로 진행 중인 사내 세미나도 있고요. 업무를 수행하기 위해서는 신기술을 습득해야만 하고 그 습득한 기술을 사내에 공유하는 시간입니다. 자신이 익힌 것도 정리되고 사내 구성원들의 기술 수준도 자연스럽게 높아지는 효과가 있습니다. 거기서 나온 인사이트는 다시 서비스에 녹여내는 실험을 끊임없이 이어가고 있습니다.
Q 향후 생성형AI 시장에 대응하는 원라인에이아이만의 전략은 무엇인가요?
전_ AI 에이전트가 더 이상 컴퓨터속에 갇혀 있지 않고 현실 세계와 상호작용하는데 도움을 주는 여러 기술들을 서비스에 적절하게 접목시키는데 초점을 맞추고 있습니다. 앞으로의 생성형AI 시장은 단순히 기능적인 측면으로 ‘써봤는지’가 중요하기 보다는 얼마나 잘 쓰고 내 업무나 일상 생활에 도움이 되는 결과물을 내는지, 또 그 결과물의 오류는 없는지 등 완성도가 높아지는 방향으로 갈 거라고 봅니다.
이에 대응하기 위해 원라인에이아이는 빠른 도입과 후퇴, 빠른 방향 전환을 통해 신기술 발전에 두려워하기 보다는 과감하게 부딪히려 합니다. 왜 좋고 나쁜지를 빠르게 겪을 수록 우리에게 필요한 방향에 대한 결정도 빨라지니까요.
생성형AI는 이미 엄청나게 발전하며 더이상 코딩 기술의 엣지는 중요하지 않게 됐어요. 또 클라우드의 발전으로 인프라 시스템 또한 크게 중요하지 않게 됐습니다. 이런 시대에 중요한 것은 생각한 것을 빨리, 그리고 효과적인 설계로 구현하고 방향성이 맞지 않다면 과감하게 버리는 DNA 라고 생각합니다.
Q_ 올해 원라인에이아이의 계획, 그리고 꼭 이뤄내고 싶은 목표를 말씀해 주신다면?
전_ B2B, 그 중에서도 금융 도메인에서 만큼은 언어모델, AI 에이전트를 다루는데, 또 문제를 해결하는 끈기 면에서도 ‘원라인이 최고’라는 소리를 들어보자는 것이 목표예요. 이어 B2C에서는 우리가 만들어낸 서비스가 사용자들의 투자 판단에 ‘진짜’ 긍정적인 도움이 돼 정말 잘 만들었다는 피드백을 받아 보려 합니다.
