2026년 2월 25일 수요일 이른 아침, 구미시청 대강당 앞에는 평소와 다른 긴장감이 흘렀다. 150여 명의 공직자들이 강당을 채운 이유는 단순한 의무 교육이 아니었다. 그들은 자신의 업무 방식이 앞으로 어떻게 달라질지, 그 변화의 윤곽을 직접 확인하러 왔다. 단상에 오른 사람은 AI 스타트업 42Maru(포티투마루)의 김동환 대표. 그가 꺼낸 첫마디는 묵직했다. "이제 AI가 답변을 드리는 시대가 아닙니다. AI가 알아서 일을 처리하는 시대가 왔습니다."
이날 행사는 구미시가 2022년 7월부터 매주 수요일 아침 운영해온 '굿모닝 수요특강'의 173번째 자리였다. 김장호 구미시장과 정성현 부시장을 비롯한 간부 공무원들이 직접 참석해 강연을 들었다는 사실 자체가, 이번 주제가 단순한 트렌드 소개가 아님을 방증했다.
■ 알아서 판단하고, 알아서 실행한다...에이전틱 AI란 무엇인가
김 대표가 강연의 핵심으로 내세운 개념은 '에이전틱 AI(Agentic AI)'다. 많은 사람이 AI를 떠올릴 때 연상하는 챗봇, 즉 질문을 던지면 그에 맞는 답을 돌려주는 방식과는 근본적으로 다르다. 에이전틱 AI는 주어진 목표를 스스로 분석하고, 필요한 단계를 스스로 설계하며, 중간에 발생하는 변수까지 자율적으로 처리한다. 사람이 지시를 내릴 때마다 기다리는 것이 아니라, 목표만 주어지면 그 이후는 AI가 알아서 완수하는 구조다.
김 대표는 이 기술이 머지않아 지방 행정의 기본 인프라로 자리 잡을 것이라고 전망했다. 이미 현실에서 그 조짐은 나타나고 있다. 행정안전부가 추진 중인 범정부 인공지능 공통기반 프로젝트, 부산시가 실증에 나선 AI 어시스턴트 융합 서비스는 단순한 실험을 넘어 실제 행정 현장에서 작동하고 있는 사례들이다. 강연에서 이 사례들이 소개되자 공직자들의 눈빛이 달라졌다. 먼 미래의 이야기가 아니라, 지금 당장 도입을 검토해야 할 현실 과제였기 때문이다.
구미시에 적용될 수 있는 구체적인 모습도 그려졌다. 민원인이 복잡한 서류 절차를 헤매지 않도록 AI가 상황을 파악하고 맞춤 안내를 제공하는 지능형 민원 처리, 각종 지역 데이터를 분석해 문제가 불거지기 전에 정책 대안을 도출하는 선제적 기획, 그리고 반복되는 행정 실무를 AI가 대신 처리함으로써 공무원이 창의적 판단에 집중할 수 있는 환경 — 이 세 가지가 에이전틱 AI가 만들어낼 행정 혁신의 핵심 축으로 제시됐다.
■ 그럴듯한 거짓말은 이제 없다...포티투마루가 푼 AI의 고질병
AI 도입을 망설이게 만드는 가장 큰 장벽 중 하나는 신뢰의 문제다. 생성형 AI는 때때로 사실처럼 보이지만 틀린 정보를 자신 있게 내놓는다. 이른바 '환각(Hallucination)' 현상이다. 공공 행정처럼 정확성이 생명인 영역에서 이 문제는 치명적이다.
포티투마루는 창업 초기부터 이 문제를 정면으로 파고들었다. 자체 개발한 검색증강생성 기술 RAG42는 AI가 답변을 생성할 때 반드시 검증된 외부 정보를 참조하도록 설계되어 있고, AI 독해 기술 MRC42는 그 정보를 정확하게 이해하고 해석하는 역할을 맡는다. 두 기술의 결합으로 모델이 엉뚱한 내용을 만들어낼 여지가 대폭 줄어든다. 여기에 특정 산업 분야에 최적화된 경량 언어모델 LLM42까지 더해지면, 공공기관이나 기업이 자신들의 업무 맥락에 딱 맞는 AI를 쓸 수 있게 된다.
보안 문제도 놓치지 않았다. 기업이나 기관의 내부 데이터를 외부 서버로 내보내지 않고 자체 환경 안에서만 구동하는 프라이빗 모드를 지원해, 민감한 행정 정보가 밖으로 새나갈 걱정 없이 AI를 활용할 수 있다. 시스템 구축부터 학습, 운영까지 드는 비용도 기존 솔루션 대비 크게 낮아, 예산 여건이 빠듯한 지방자치단체에도 현실적인 선택지가 된다.
강연을 마친 김동환 대표는 "이른 아침부터 빈자리 없이 모인 공직자들의 모습에서 구미시의 진지한 의지를 느꼈다"며, "대한민국 산업 도시의 상징인 구미가 에이전틱 AI 행정의 첫 모범 도시가 되길 바란다"고 말했다.
