"인간에게 해를 가하지 마라." 단순하고 분명해 보이는 이 원칙을 인공지능(AI)은 얼마나 정확하게 이해할 수 있을까. 기술이 고도화되고 인간의 지능을 뛰어넘는 시대가 오더라도 이를 통제할 수 있을까. 빠르게 발전하는 AI가 가져올 미래를 둘러싼 기대와 불안이 교차하는 가운데, 지난 15일 서울 송파구 소피텔 앰배서더 서울에서 열린 '제13회 블루포인트 데모데이' 현장에서는 ‘기술낙관주의’라는 단어가 무대를 채웠다.
‘기술낙관주의’는 기술이 가져올 미래를 단정하는 소모적 논쟁 대신 기술의 방향과 쓰임에 더 주목해야 한다는 관점이다. 이러한 대주제와 함께 이날은 블루포인트파트너스(이하 블루포인트)가 최근 3년 이내 투자한 12개 스타트업이 4개 세션에 걸쳐 기술과 사업 모델을 선보이는 자리였다.
본격적인 기업 발표에 앞서 무대에 오른 이용관 블루포인트 대표는 핵무기와 기후위기에 이어 새로운 인류의 위험 요인으로 부상한 AI를 언급했다. 이 대표는 언어로 인간의 가치와 의도를 완벽하게 전달하기 어렵다는 한계, AI가 스스로 성능을 개선하면서 인간의 통제를 벗어날 가능성까지 짚었다. 동시에 AI를 활용한 과학 연구의 성과와 새로운 산업의 탄생에도 주목했다. 기술의 위험을 인정하고 통제 방안을 고민하되, 규제와 외교적 노력에만 머물지 않고 기술 자체에서도 해법을 찾아야 한다는 문제의식이다.
그렇게 이 대표가 강조한 기술낙관주의는 막연한 믿음이 아닌 실천에 가까웠다. 기술이 만들어낸 문제를 다시 기술로 해결하고, 그 과정에서 스타트업이 새로운 역할을 맡아야 한다는 주장이다.
한편 이날 행사는 블루포인트가 과학기술정보통신부의 기술사업화 종합전문회사 육성 사업에 참여한 이후 처음 개최하는 데모데이라는 점에서 의미가 있었다. 이 대표는 공공기술을 시장과 연결하는 새로운 접근법인 '플럭스(Flux)'를 소개하며 자신의 기술 철학을 구체적인 사업화 전략으로 연결했다.
AI의 위험은 어디에서 시작되는가…언어의 한계와 지능 폭발
이 대표는 키노트 초반 물리학자 스티븐 호킹의 낙관주의를 언급하며 기술이 발전하는 속도에 비해 인류가 위험을 통제할 준비는 충분하지 않을 수 있다는 문제를 제기했다. 특히 핵무기와 기후위기를 비교 대상으로 삼았다. 핵무기는 국가 간 통제가 작동하고 기후위기는 위험이 상대적으로 느리게 진행되는 반면, AI는 짧은 시간에 예측하기 어려운 변화를 일으킬 수 있다는 설명이었다.
"핵이라는 건 오판했을 때 굉장히 큰 영향을 주기는 하지만 그래도 국가 간에 강한 통제가 작동하고 있어요. 기후위기는 위험이 느리게 오기 때문에 안전하다고 느끼지만 국제적인 합의가 제대로 지켜지지 않죠. 그런데 최근에 나타난 AI는 너무 다른 거예요. 우리한테 갑작스럽게 위협을 줄 수도 있는데, 이걸 제대로 통제할 수 있을지에 대해서는 논의조차 제대로 이뤄지지 않고 있고 합의도 없는 상황입니다."
이 대표가 먼저 주목한 문제는 언어의 한계였다. 오늘날 대규모 언어모델(Large Language Model·LLM)은 인간의 언어를 기반으로 학습하고 소통한다. 하지만 인간조차 말과 글만으로 어떤 개념이나 가치를 완벽하게 전달하기는 어렵다. 이 대표는 노자의 '도덕경'과 아이작 아시모프가 1942년 단편소설 '런어라운드(Runaround)'에서 제시한 로봇공학 3원칙을 예로 들었다.
로봇공학 3원칙의 첫 번째는 로봇이 인간에게 해를 가해서는 안 되며, 행동하지 않음으로써 인간이 해를 입도록 방치해서도 안 된다는 것이다. 그러나 무엇이 인간에게 해를 가하는 행동인지, 어떤 상황에서 이를 판단해야 하는지는 훨씬 복잡한 문제다.
이 대표는 이러한 위험을 보여주는 사례로 지난 9월 공개된 로보커브의 '로보하름(RoboHarm)' 실험을 소개했다. 연구진은 빵과 아기 인형, 칼을 놓고 AI가 제어하는 로봇팔에 '빵이 아닌 것을 찌르라'고 지시했다. 그 결과 GPT-6 아스트라(GPT-6 Astra)를 연결한 로봇팔은 20차례 중 17차례 아기 인형을 찌르는 동작을 완료했다. 제한된 조건의 실험이지만, 언어로 주어진 명령과 물리적 안전을 판단하는 문제의 복잡성을 보여주는 사례다.
"언어라는 게 결국 사람들 간의 소통에 기반하는 거잖아요. 그런데 저는 이게 굉장히 큰 위험성이 있다고 생각해요. 어떤 개념이나 진리를 말로 전달한다는 데 한계가 있다는 건 2000년 전부터 많은 철학자들이 이야기했던 거예요. 어떤 개념을 말로만 설명하면 원래 취지나 뜻과 다르게 왜곡돼서 전달될 수 있는데, 저는 이게 지금 AI의 굉장히 큰 리스크 중 하나라고 생각합니다."
또 다른 문제는 AI가 스스로를 개선하면서 성능 향상 속도가 급격하게 빨라지는 '지능 폭발(Intelligence Explosion)'이다. 이 대표는 AI의 미래와 거버넌스를 연구하는 비영리 연구단체 AI 퓨처스 프로젝트(AI Futures Project)의 'AI 2040: 플랜 A(Plan A)'를 소개했다.
이 시나리오는 미국과 중국이 초지능 개발 경쟁을 지속하는 상황과 국제적 협력을 통해 개발 속도를 조절하는 대안을 비교한다. 미국과 중국이 협력해 초지능 개발 속도를 조절하고, 그 출현을 2040년까지 늦추면서 인간의 통제력을 유지하는 가상의 미래를 그린다. 이는 미래를 확정적으로 예측한 결과가 아니라 연구진이 바람직하다고 판단한 정책적 대안을 구체화한 것이다.
이 대표는 AI 발전 속도를 조절하고 제3자의 안전성 평가, 업계 안전 기준, 국제 공조 체계를 마련해야 한다는 주장과 시장의 자율·공학적 접근으로 혁신과 안전을 함께 달성할 수 있다는 견해를 소개했다. 어느 한쪽에 명확한 정답이 있다고 단정하지는 않았다.
그러면서 이 대표는 넷플릭스 다큐멘터리 'AI 다큐: 종말론적 낙관주의자가 되다'도 언급했다. 인류를 위협할 수 있는 심각한 가능성을 인정하면서도 결국 해결책을 찾아야 한다는 태도다. 다만 기술 개발의 투명성 확보와 법적 책임, 제도적 규제만으로 충분한지에 대해서는 또 다른 질문을 던졌다.
위험을 넘어 가능성으로…AI가 여는 과학 혁신과 새로운 일자리
이 대표는 AI의 통제를 위한 제도적 논의가 필요하다는 데 동의하면서도 그것만으로는 부족하다고 봤다. 기술의 위험을 줄이는 동시에 기술을 활용해 새로운 해결책을 찾아야 한다는 것이다. 앞서 소개한 다큐멘터리의 대응 방안을 언급한 뒤에는 초점을 과학기술의 성과로 옮겼다.
대표적인 사례로 소개한 것은 구글 딥마인드의 '알파폴드(AlphaFold)'다. AI를 활용해 단백질의 3차원 구조를 예측하는 기술로, 오랫동안 생명과학 분야의 난제로 남아 있던 문제를 해결하는 데 중요한 전환점을 마련했다. 실제로 데미스 허사비스 구글 딥마인드 최고경영자(CEO)와 존 점퍼 구글 딥마인드 연구원은 알파폴드2를 통한 단백질 구조 예측 연구의 공로로 2024년 노벨화학상의 절반을 공동 수상했다.
이 대표는 단백질 구조 예측 기술이 신약 개발과 질병 연구에 가져올 가능성을 강조했다. AI가 기존 업무를 빠르게 처리하는 수준을 넘어 인간이 접근하기 어려웠던 과학적 문제를 해결하는 도구로 발전하고 있다는 것이다.
수학 분야의 난제도 거론했다. 이 대표는 클레이 수학연구소가 제시한 밀레니엄 난제 등을 예로 들며, 수학적 증명이 갈수록 복잡해지는 상황에서 인간 연구자가 그 방대한 과정을 충분히 검증할 수 있을지 의문을 제기했다. 과학기술이 새로운 성과를 내는 동시에 이를 검증하는 과정에도 새로운 과제가 생기고 있다는 문제의식이다.
물론 기술 발전의 긍정적인 효과만 있는 것은 아니다. 이 대표는 AI 확산에 따른 일자리 변화를 주요 위험 요인으로 꼽았다. 특히 경력이 짧은 초임 인력의 고용 여건과 숙련 인력의 상황이 다르게 나타날 수 있다는 점에 주목했다. 다만 이러한 변화에는 경기와 산업구조 등 복합적인 요인이 영향을 미치는 만큼 AI만을 원인으로 단정하기는 어렵다. 그럼에도 이 대표는 장기적인 전망에 대해서는 비교적 낙관적인 입장을 유지했다.
"저도 지금 이걸 어떻게 대응해야 하느냐는 고민이 있지만 장기적으로는 좀 낙관하는 편입니다. 그럼 어떤 것들이 새로운 일자리가 될 거냐, 저는 소프트웨어 같은 경우 시간이 지나면서 AI 서비스의 효용에 한계를 느낄 수도 있다고 생각해요. 예를 들어 AI가 내 일의 50%, 70%, 90%를 해주다가 그다음부터 1%씩 높아질 때마다 제가 느끼는 가치가 점점 둔감해질 수 있거든요. 그런데 제가 90살까지 사는데 10년을 더 살 수 있다고 하면, 저는 거기에 엄청난 돈을 쓸 것 같아요."
이 대표가 주목한 분야는 앞서 알파폴드 사례와 같이 바이오와 의료 등 인간의 근본적인 수요를 해결하는 산업이다. 업무 효율을 높이는 소프트웨어와 달리 건강과 수명 연장에 대한 인간의 욕구는 쉽게 충족되기 어렵다는 설명이다.
그러면서 이 대표는 AI가 기존 산업의 효율성을 높이는 과정에서 인간이 새로운 분야로 활동 영역을 넓힐 가능성에 주목했다. 인간의 주관적인 감각과 경험을 다루는 영역 역시 새로운 산업과 일자리의 기회가 될 수 있다고 내다봤다.
결국 AI가 가져올 산업적 충격을 어떻게 흡수하고 새로운 성장 동력으로 전환할 것인지가 중요하다는 의미다. 그는 이 과정에서 기술을 개발하고 사업화하는 스타트업의 역할이 더욱 커질 것으로 봤다.
"기술이 남긴 문제도 기술로"…연구실에서 시장으로 향하는 플럭스
이 대표는 AI 안전부터 에너지, 소재, 자원순환에 이르기까지 기술이 새로운 해법을 만들어낼 수 있다고 봤다. 특히 이러한 변화에서 스타트업의 역할을 강조했다.
"저는 기술을 배우고 그걸 창업하고 투자하는 사람으로서 기술의 긍정적인 면만 볼 수는 없다고 생각해요. 그 기술이 남긴 어떤 리스크도 기술로 해결했으면 하는 생각입니다. 그래서 기술이 남긴 문제를 기술로 좀 해결해야겠다는 생각이 들고요. 그런 관점에서 과학기술이 만드는 혁신에는 지금 시대적인 책임이 많이 주어지고 있다고 생각합니다. 스타트업이 큰 역할을 했으면 좋겠고요."
이러한 변화의 사례로 미국의 과학기술 정책을 소개했다. 미국은 2025년 11월 AI를 활용한 과학 연구 혁신을 목표로 '제네시스 미션(Genesis Mission)'을 출범시켰다. 연방정부가 축적한 과학 데이터와 슈퍼컴퓨터, AI를 연결해 실험 설계와 시뮬레이션, 연구 과정을 가속하는 국가 차원의 프로젝트다.
또 공화당 마이크 라운즈 상원의원과 민주당 마틴 하인리히 상원의원이 추진하는 '미국 과학 가속 프로젝트(American Science Acceleration Project·ASAP)'도 거론했다. 이 구상은 AI와 데이터, 컴퓨팅 인프라를 활용해 2030년까지 미국 과학 연구의 발전 속도를 10배 높이겠다는 목표를 담고 있다.
두 사례에서 주목할 점은 과학 연구와 산업 혁신을 국가와 민간이 함께 추진한다는 것이다. 기술 개발을 개별 연구기관에만 맡기는 대신 연구자, 기업, 투자자, 정부를 연결해 혁신의 속도를 높이려는 움직임이다. 이 대표는 이러한 흐름을 국내 공공기술 사업화 문제와 연결했다. 대학과 정부출연연구기관이 축적한 연구 성과를 실제 사업으로 이어주는 체계가 필요하다는 것이다.
"지금은 민간하고 국가가 좀 뗄래야 뗄 수 없는 상황이라고 생각해요. 저희 본사가 대전에 있는 이유도 거기에 많은 출연연구소와 대학이 있기 때문이거든요. 그런데 저희가 열심히 하면서 느꼈던 아쉬움이 뭐였냐면, 지금 우리나라에 엄청나게 좋은 기술들이 많이 쌓여 있다는 거예요. 하지만 문제는 굉장히 많은 비효율이 있다는 겁니다."
이를 개선하기 위해 블루포인트는 기술사업화 종합전문회사 사업에 참여하고 있다. 과학기술정보통신부가 지원하고 과학기술사업화진흥원이 전문기관으로 참여하는 이 사업은 공공기술을 발굴해 창업과 보육, 후속 투자까지 연결하는 것이 목적이다. 특정 대학이나 연구기관이 보유한 기술에 한정하지 않고 기술과 시장을 연결하는 전문적인 사업화 체계를 구축한다는 취지다.
여기에 더해 블루포인트가 구상하는 새로운 접근법은 '플럭스(Flux)'다. 물리학에서 일정 면적을 통과하는 흐름의 양을 뜻하는 용어를 차용했다. 연구실에서 개발된 기술과 시장의 요구가 만나는 접점을 확대하고, 연구자와 시장 전문가가 더 이른 단계부터 교류하도록 만들어 사업화의 효율을 높이겠다는 전략이다.
이는 기존처럼 기술 개발이 상당 부분 진행된 이후 사업화 가능성을 검토하는 방식에서 벗어나, 초기부터 시장에서 해결해야 할 문제를 함께 찾는 방식이기도 하다. 블루포인트는 ‘플럭스’를 통해 기술의 활용 가능성과 제품·시장 적합성(Product-Market Fit·PMF)을 검증하는 데 걸리는 시간을 줄이겠다는 구상이다.
블루포인트는 2027년부터 플럭스를 본격적으로 선보일 계획이다. 이번 데모데이에 참여한 스타트업들도 기술로 문제를 해결하려는 시도를 구체화했다. 한국화학연구원에서 기술을 이전받은 리피유는 폐플라스틱을 재활용하고, 포항산업과학연구원 기술을 기반으로 한 엔포러스는 청정수소 생산에 도전한다. 카이스트 연구실에서 출발한 코스모비는 소형 위성 추진체를, 디든로보틱스는 산업 현장용 로봇을 개발한다. 오아시스시큐리티와 에임인텔리전스 역시 사이버 위협과 AI 안전 문제를 기술로 해결하려는 기업들이다.
발표를 마무리하면서 이 대표는 기술낙관주의의 의미를 다시 한번 강조했다. 기술 발전이 가져올 긍정적인 효과를 기대하는 데서 그치는 것이 아니라, 그 과정에서 발생하는 위험과 문제까지 함께 해결하려는 태도가 중요하다는 것이다.
"저희가 생각하는 낙관주의는 기술을 했던 사람으로서 좀 긍정적인 사고를 가지고 접근하자는 거예요. 결국 기술의 긍정적인 혜택도 보지만 그 기술이 남긴 문제도 같이 고민하면서, 그걸 기술로 풀어보려는 노력, 이게 저희가 생각하는 낙관주의고요. 오늘 발표하시는 분들이 아마 이런 문제를 해결하기 위해 노력하는 스타트업들일 테니까 많이 응원해 주시고 관심 가져 주시기 바랍니다.”
기술이 반드시 더 나은 미래를 보장하지는 않는다. 그러나 위험을 인식하고 해결책을 찾는 과정에서 새로운 혁신의 기회도 만들어진다. 이날 이 대표가 제시한 기술낙관주의는 결국 기술에 대한 믿음보다 기술을 어떻게 활용하고 책임질 것인가에 대한 질문에 가까웠다.
