[편집자 주] 인공지능(AI)이 국가와 기업의 경쟁력을 좌우하는 핵심 인프라로 자리 잡는 상황에서 정부의 지원 하에 민간 중심 협력체로 출범한 K-AI PARTNERSHIP의 활동이 기대를 모으고 있다. 지난 4월 본격적인 활동을 시작한 K-AI PARTNERSHIP은 AI 기업과 제조·금융 등 수요기업, 관련 기관이 참여해 AI 생태계 강화와 산업 AI 전환(AX), 글로벌 진출을 추진하고 있다. 이에 테크42는 ‘K-AX는 지금’ 시리즈를 통해 참여 기업들의 목소리를 듣고 AX 전략과 미래 비전을 조명한다.
기업들의 인공지능 전환(AI Transformation, AX)이 빨라지면서 생성형 AI 교육이나 사내 챗봇 도입, 개념검증(Proof of Concept, PoC)은 더 이상 낯선 일이 아니다. 문제는 그 다음이다. 교육을 받은 직원이 실제 업무에서 AI를 계속 사용하는지, 실험 단계에서 만든 시스템이 기존 업무와 연결되는지, 프로젝트가 끝난 뒤에도 조직이 스스로 AI를 운영하고 확장할 수 있는지는 전혀 다른 문제다.
기업 안에 쌓인 문서와 규정, 도면, 데이터베이스(DB), 이메일과 업무 이력 역시 AI를 도입했다고 곧바로 활용 가능한 지식이 되는 것은 아니다. 데이터는 서로 다른 시스템에 흩어져 있고 버전과 권한이 제각각이다. 법률·금융·제조처럼 산업마다 질문 방식과 ‘정답’에 도달하는 과정도 다르다. 결국 기업의 AI 전환은 좋은 모델을 가져오는 문제를 넘어, 업무와 데이터를 AI가 실제로 사용할 수 있는 형태로 바꾸고 그 결과를 신뢰할 수 있도록 만드는 문제로 이어진다.
지난해 6월 설립된 넥스트젠에이아이는 이 간극을 사업 기회로 삼았다. 연세대학교에서 자연어처리(Natural Language Processing, NLP)를 연구한 김도경 대표는 에듀테크 기업 야나두에서 대표 직속 AX 디렉터(Director)로 전사 AI 전환을 맡았다. 현장에서 그가 마주한 것은 기술 자체보다 ‘어떤 업무부터 AI로 바꿀 것인가’라는 문제였다. 경영진이 원하는 변화와 실무자가 필요로 하는 변화가 항상 일치하지 않는다는 점도 확인했다.
이후 김 대표는 넥스트젠에이아이를 창업했고, 현재까지 공공·이커머스·교육 등에서 20건 이상의 AX 프로젝트를 수행했다. 창업 당시 핵심 질문이 ‘AI를 어디부터 적용할 것인가’였다면, 여러 현장을 거친 지금은 ‘도입한 AI를 어떻게 믿고 맡길 것인가, 그리고 그 역량을 어떻게 조직 안에 남길 것인가’로 문제의식이 확장됐다.
야나두에서 시작된 질문…“교육만으로는 업무가 바뀌지 않았다”
김 대표가 야나두에서 얻은 경험은 AI 교육이나 도구 도입 자체보다 현업의 문제를 먼저 고르고, 업무 흐름 안에서 AI가 실제로 작동하도록 만드는 것이 중요하다는 판단으로 이어졌다. 이는 넥스트젠에이아이 창업의 직접적인 계기가 됐다.
“처음 마주한 고민은 ‘어떤 순서와 방식으로 AI를 도입할 것인가’였습니다. 부서마다 적합한 도구가 다르고, 별도 시스템이 필요한 업무도 있어서 우선 적용할 부서와 과제부터 정해야 했습니다. 그 과정에서 경영진이 기대하는 변화와 실무자가 필요로 하는 변화가 항상 같지 않다는 것을 배웠습니다. 이 경험이 창업으로 이어진 결정적 이유는, 이 고민이 야나두만의 문제가 아니라는 확신이 들었기 때문입니다. ‘AI를 도입하고 싶은데 어디서부터 시작해야 할지 모르겠다’는 고민은 거의 모든 기업 대표님이 갖고 계셨습니다.”
넥스트젠에이아이가 보는 AX의 완성 기준도 여기서 출발한다. 교육은 출발점이고 PoC는 가능성을 확인하는 단계일 뿐, 프로젝트가 끝난 뒤에도 AI가 실제 업무 흐름에서 작동하고 담당자가 결과를 보며 개선 요구를 낼 수 있어야 한다는 것이다. 한 부서에서 시작한 변화가 다른 부서와 경영진 단위로 확장되는지도 중요한 판단 기준으로 삼는다.
이를 위해 넥스트젠에이아이는 AX 과정을 진단→구축→검증→내재화로 구분한다. 진단에서는 경영진의 전환 목표와 현업의 실제 질문, 데이터, 핵심성과지표(Key Performance Indicator, KPI)를 함께 살핀다. 구축에서는 기업 데이터를 AI가 사용할 수 있는 구조로 만들고 업무에 맞는 모델과 에이전트를 기존 시스템에 연결한다. 검증 단계에서는 실제 업무 질문으로 만든 평가셋을 활용하고, 내재화 단계에서는 운영·모니터링 체계와 교육, 가이드를 고객 조직에 넘겨 자체 운영이 가능하도록 한다.
컨설팅과 개발 사이를 잇는다…FDE가 현장에 들어가는 이유
넥스트젠에이아이의 진단, 구축, 검증, 내재화 단계를 하나의 흐름으로 연결하는 핵심 방식은 현장 배치 엔지니어(Forward Deployed Engineer, FDE)다. 넥스트젠에이아이는 전략 컨설팅과 시스템통합(System Integration, SI)·개발이 분리될 때 업무 맥락과 판단 기준이 구현 과정에서 빠질 수 있다고 보고, 같은 팀이 문제 정의부터 구현·운영까지 이어가는 구조를 택했다.
“넥스트젠에이아이의 FDE는 이 두 영역을 하나의 팀으로 결합합니다. AI 연구진과 엔지니어가 고객의 업무 현장에 상주하며, 컨설턴트처럼 업무의 질문과 병목을 분석하고, 엔지니어처럼 그것을 AI-Ready Data와 평가 기준으로 설계해 직접 구현합니다. 방향을 정한 팀이 구현하고, 구현한 팀이 운영과 개선까지 책임집니다. 전략과 구현 사이에서 맥락이 끊기는 지점 자체가 사라집니다.”
FDE가 들여다보는 핵심 자산은 기업 데이터다. 넥스트젠에이아이는 단순히 문서를 잘라 검색 데이터베이스에 넣는 수준을 넘어, 업무 판단에 사용할 수 있도록 준비한 ‘AI 활용 준비 데이터(AI-Ready Data)’를 만든다.
그렇게 정의하는 AI-Ready Data는 여섯 가지 조건을 갖춘다. 정확하게 검색할 수 있는 검색 가능성(Searchable), 업무 맥락과 연결되는 맥락성(Contextual), 출처를 추적할 수 있는 추적 가능성(Traceable), 문서 변경 이력을 식별하는 버전 인식(Version-aware), 접근 권한을 반영하는 권한 인식(Permission-aware), 실제 성능을 측정할 평가셋을 갖춘 평가 준비성(Evaluation-ready)이다.
같은 데이터라도 산업에 따라 구조화 방식은 달라진다. 법률·금융에서는 조문과 시행 시점, 적용 조건이 중요하고, 제조와 설계·조달·시공(Engineering, Procurement and Construction, EPC)에서는 도면과 사양서, 변경 이력이 핵심이다. 산업별로 다른 질문과 판단 구조를 데이터에 반영해야 AI가 ‘어떤 문서의 어느 조항, 어떤 버전’을 근거로 답했는지를 추적할 수 있다는 것이 김 대표의 설명이다.
한편 고객 프로젝트마다 반복되는 검색·검증·실행·승인·감사 기능은 공통 엔진 ‘Genstream’으로 표준화하고 있다. 새 고객이나 새로운 산업에 들어갈 때마다 시스템을 처음부터 만드는 대신, 현장에서 검증된 공통 기능을 모듈로 재사용해 FDE 방식의 인력 의존도를 낮추고 구축 범위를 줄이려는 전략이다.
“AI 오류를 0으로 만들 수는 없다”…‘틀린 답이 업무에 들어가는 것’을 막는다
넥스트젠에이아이가 FDE와 AI-Ready Data 다음으로 강조하는 키워드는 ‘검증형 AI’다. 특히 계약·법률·금융 규정·규제 준수(컴플라이언스)처럼 잘못된 답이 비용이나 법적 위험으로 이어질 수 있는 업무가 그렇다. 김 대표는 “답변 생성 자체보다 근거와 검증 절차가 중요하다고 본다”며 말을 이어갔다.
“생성형 AI의 오류를 0으로 만들 수는 없다고 봅니다. 저희가 통제하려는 것은 오류 자체가 아니라 ‘틀린 답이 검토 없이 업무에 들어가는 것’입니다. 핵심은 ‘생성’과 ‘판단’을 분리하는 것입니다. 생성형 AI는 문장을 잘 만들지만, 그 답이 얼마나 확실한지는 스스로 말해주지 않습니다. 그래서 저희는 답변 생성 앞뒤에 판단 단계를 둡니다.”
구현 방식은 답변 생성과 검증 역할을 나누는 구조다. AI가 법령·판례·내부 규정에서 근거를 찾고 답변을 만들면, 역할을 분리한 에이전트가 답변과 근거의 일치 여부를 다시 확인한다. 검증 결과가 기준치에 미치지 못하면 답변을 그대로 업무에 전달하지 않고 보류해 사람의 검토로 넘기며, 판단 과정은 추적 가능한 기록으로 남긴다.
이 접근을 가장 먼저 제품화하고 있는 분야가 법률·규제다. 넥스트젠에이아이는 ‘Genstream’ 기반 법률 AI 에이전트 ‘VeriLex’를 개발·검증하고 있다. 법령과 판례, 내부 규정을 연결하고 역할이 나뉜 AI 에이전트가 근거를 교차 검증하는 방식으로, 근거가 충분하지 않으면 답변을 생성하지 않고 검토 대상으로 전환하도록 설계했다.
현재 VeriLex는 ‘모두의 챌린지 AX’ KT 협업과제를 통해 오는 12월을 목표로 개발이 진행 중이다. 이 외에도 금융 내규와 여신 규정에 같은 검증 구조를 적용하는 ‘Bankit’은 은행과 유료 PoC를 협의 중이다.
그러면서 김 대표는 “검증형 AI에서 정확도 못지않게 ‘사용성’도 중요하다”고 강조했다. 보류 기준을 지나치게 높이면 사람이 다시 확인해야 할 업무가 늘고, 반대로 기준을 낮추면 위험 통제력이 떨어질 수 있다. 넥스트젠에이아이는 단순 조회와 계약·규정 해석처럼 질문별 오답 비용에 따라 검증 기준을 달리하고, 보류할 때도 부족한 근거가 무엇인지 함께 제시해 검토 시간을 줄이는 방향으로 이를 설계하고 있다.
20건 넘는 현장에서 반복되는 문제를 제품으로…’Genstream’이 ‘뿌리’
넥스트젠에이아이의 사업 방식은 처음부터 완성된 제품을 만들어 시장에 내놓는 형태와는 다르다. 고객 프로젝트로 매출을 만들면서 현장에서 반복되는 요구를 확인하고, 검증된 기능을 공통 기술로 묶어 제품화하는 방식이다.
“솔직히 초기에는 고객 프로젝트 일정이 우선이라 제품 개발이 뒤로 밀리는 경우도 있었습니다. 대신 얻은 것이 더 큽니다. 여러 프로젝트에서 검색, 검증, 실행, 승인, 감사 기능이 반복해서 요구된다는 것을 확인했고, 검증된 요구만 공통 엔진인 ‘Genstream’으로 표준화했습니다. 덕분에 새로운 도메인에 들어갈 때 처음부터 만들지 않고 공통 모듈을 재적용하는 방식으로 개발 범위가 줄었습니다. 결과적으로 제품화의 ‘시작’은 늦어졌지만 ‘방향을 틀어야 하는 시행착오’는 크게 줄었다고 봅니다.”
‘Genstream’이 공통 기반이라면 ‘Sapio·VeriLex·Bankit·GrantFit’은 각각 이 엔진을 다른 업무에 적용한 형태다. ‘Sapio’는 사내 문서와 규정, 회의록 등에서 근거와 인용 번호가 붙은 답변을 제공하는 범용 조직 지식관리 활용 사례다. 별도 독립 제품 라인이라기보다 AX 고객사의 사내 지식검색 구축에 ‘Genstream’을 재사용하는 형태에 가깝다. ‘VeriLex’는 법률·규제 분야의 첫 검증형 산업 특화 제품이고, ‘Bankit’은 금융 내규와 여신 규정으로 이를 확장하는 모델이다. 여기에 더해 ‘GrantFit’은 정부지원사업 공고 분석부터 한글(HWP) 사업계획서 초안 작성까지 자동화하는 프로토타입이다.
현장 성과 사례로 김 대표는 비밀유지계약(Non-Disclosure Agreement, NDA) 때문에 이름을 공개할 수 없는 국내 대형 이커머스 기업을 꼽았다. 약 600명 규모 조직에서 배송·셀러 실적 보고서, 가격·품절 모니터링 등을 포함한 9개 자동화 시스템을 구축했다. 김 대표 설명에 따르면 고객 실무팀 집계 기준 일일 보고서 작성 시간이 95% 줄었고, 데이터를 확인하기 위해 개발팀에 데이터 질의(쿼리)를 요청하는 일도 없어졌다. 3개월로 시작한 계약은 약 7개월까지 연장·확대됐으며, 실무 자동화에서 전사 교육과 임원 대상 AI 거버넌스 교육으로 범위가 넓어졌다.
넥스트젠에이아이는 초기 적자를 감수하며 성장하는 일반적인 스타트업의 J-커브와 달리, 설립 첫해인 2025년부터 흑자를 기록했다. 외부 투자 없이 고객 프로젝트 매출만으로 운영해 왔으며, 매출 규모도 반기 기준으로 꾸준히 늘고 있다. 현재 매출의 대부분은 컨설팅·구축에서 발생하지만, 중장기적으로는 구축 이후 운영·라이선스 계약을 더해 반복매출 비중을 높이는 구조를 목표로 하고 있다.
컨설팅으로 증명하고 제품으로 확장…규제산업에서 찾은 다음 시장
넥스트젠에이아이는 스스로를 단순한 범용 AX 컨설팅 기업이나 하나의 산업만 다루는 산업 특화형(버티컬) AI 기업으로 규정하지 않는다. 김 대표가 제시한 방향은 하나의 검증 엔진을 기반으로 규제산업의 버티컬 시장을 순차적으로 여는 회사다.
AX 컨설팅과 FDE를 통해 고객 현장의 문제를 찾고, ‘Genstream’을 기반으로 반복되는 기술을 표준화한 뒤 검증의 가치가 큰 산업부터 제품으로 만드는 구조다. 첫 시장은 법률이며, 이후 금융으로 확장하고 공공·에너지 등 신뢰성과 감사 가능성이 도입 조건이 되는 인접 규제산업으로 넓혀간다는 계획이다. 제조·EPC 기술문서, 수출 규제 분석, 재무 운영 등도 컨설팅 현장에서 확인한 수요 가운데 같은 검색·검증 구조를 적용할 수 있는 분야부터 순차적으로 제품화할 예정이다.
현재 추진 중인 시드 투자와 팁스(TIPS) 유치도 이 전환 속도를 높이기 위한 목적이 크다. 김 대표는 “현장에서 축적한 ‘Genstream’을 반복 판매 가능한 제품으로 전환할 개발 인력과 사내 구축형(온프레미스) 검증용 GPU 인프라, 유료 PoC를 연간계약으로 전환하기까지 필요한 시간을 확보하려는 것”이라고 설명했다.
한편 2026 K-AI PARTNERSHIP 참여를 통해 얻고 싶은 가장 구체적인 성과로는 ‘넥스트젠에이아이를 알리는 것’을 꼽았다. 지난 1년간 여러 현장에서 성과를 쌓는 데 집중한 만큼, 회사가 어떤 문제를 어떤 방식으로 풀어왔는지를 같은 고민을 가진 기업과 파트너에게 전달하고 이를 다음 프로젝트와 레퍼런스로 연결하고 싶다는 것이 김 대표의 설명이다. 인터뷰 말미, 넥스트젠에이아이의 미래를 이야기하는 김 대표의 표정에 자신감이 느껴졌다.
“기업이 AI 전환을 고민할 때 가장 먼저 찾는 회사, ‘AX 분야의 맥킨지’ 같은 회사를 만들고 싶습니다. 실제로 작동하는 시스템과 그것을 스스로 운영하는 조직을 남기는 회사죠. 가까운 미래에 저희를 설명하는 한 문장은 이것이면 좋겠습니다. ‘넥스트젠에이아이는 기업의 AI를 실제 업무 성과로 연결하는 회사다.’ 도입은 가볍게, 진단은 날카롭게, 변화는 깊숙하게 — 이 세 가지를 지키는 회사로 기억되고 싶습니다.”
AI를 도입했다는 사실과 기업이 AI로 바뀌었다는 말은 같지 않다. 프로젝트가 끝난 뒤에도 업무가 돌아가고, 그 과정에서 쌓인 데이터와 판단 기준이 조직의 자산으로 남으며, 다음 AI 프로젝트를 고객 스스로 시작할 수 있을 때 비로소 ‘전환’이라는 말에 가까워진다.
넥스트젠에이아이가 이제 증명해야 할 것은 현장 투입형 FDE와 검증 구조를 ‘Genstream’과 산업 특화 제품을 통해 얼마나 반복 가능한 사업모델로 확장할 수 있는지다. 프로젝트 매출을 운영·라이선스 기반 반복매출로 얼마나 전환할 수 있는지도 과제다. ‘AI를 업무에 심는다’는 창업 초기의 문제의식을 차근차근 풀어갈 넥스트젠에이아이의 다음 행보를 기대해본다.
