[현장] AI가 돈 쓰고 로봇이 일하는 시대, 한국은 준비됐나…AI 정책 포럼에서 바라본 국가 전략부터 법·제도까지

박영선 재경부 전략경제자문단 위원장, AI 반도체·에이전트 커머스 중심 국가 산업전략 제시
김동환 AI휴먼소사이어티 이사장, 신뢰성·안전성·윤리·보안 강조…AI기본법의 과제 논의
법조계·산업계·경찰청 전문가들, 피지컬 AI의 사고 책임부터 공공 도입·노동 문제까지 짚어
지난 18일 국회 의원회관 제3간담회실에서 'AI와 인간, 공존을 넘어 평화로: AI기본법과 윤리적 미래'를 주제로 '2026 국회 AI 정책포럼'이 열렸다. 이날 행사에서는 'AI 반도체 2막, 한국의 전략경제 방향'을 주제로 기조연설에 나선 박영선 전 장관(재경부 전략경제자문단 위원장, 오른쪽 상단), 김동환 AI휴먼소사이어티 이사장 등을 비롯해 각계 전문가들이 AI 국가 전략과 관련한 의견을 공유했다. (이미지=AI로 생성)

인공지능(AI)이 사람의 질문에 답하는 단계를 넘어 스스로 상품을 검색하고 결제하며, 공장에서는 로봇이 주변 환경을 판단해 작업을 수행하는 시대가 현실로 다가오고 있다. 생성형 AI의 확산으로 시작된 기술 경쟁은 이제 AI 에이전트와 피지컬 AI를 중심으로 산업과 경제의 작동 방식 자체를 바꾸는 방향으로 전개되고 있다. 그러나 AI가 만들어 내는 혁신의 속도에 기존 법률과 제도가 충분히 대응하지 못한 문제도 드러나고 있다. AI 산업의 국가 경쟁력을 확보하는 동시에 기술의 안전성과 책임을 어떻게 보장할 것인지가 새로운 정책 과제로 떠오른 배경이다.

이러한 문제를 논의하기 위해 지난 18일 국회 의원회관 제3간담회실에서 'AI와 인간, 공존을 넘어 평화로: AI기본법과 윤리적 미래'를 주제로 '2026 국회 AI 정책포럼'이 열렸다. 이성윤 더불어민주당 의원실과 사단법인 AI휴먼소사이어티 등이 공동 주최한 이날 행사에서 김동환 AI휴먼소사이어티 이사장(국가인공지능전략위원회 전문위원, 포티투마루 대표)은 환영사를 통해 AI가 공장 설비와 공공 치안 등 물리적 공간으로 확장되고 있다는 점을 짚었다. 그러면서 기술이 인간의 삶에 실질적인 혜택을 제공하려면 신뢰성, 안전성, 윤리, 보안이라는 네 가지 원칙을 함께 고려해야 한다고 강조했다.

이날 행사에서 김동환 AI휴먼소사이어티 이사장(국가인공지능전략위원회 전문위원, 포티투마루 대표)은 환영사를 통해 AI가 공장 설비와 공공 치안 등 물리적 공간으로 확장되고 있다는 점을 짚었다. 그러면서 기술이 인간의 삶에 실질적인 혜택을 제공하려면 신뢰성, 안전성, 윤리, 보안이라는 네 가지 원칙을 함께 고려해야 한다고 강조했다. (사진=테크42)

"요즘 거의 하루에 한 개씩 보안 문제가 터진다고 해도 과언이 아닌데요. 데이터가 유출되거나 AI 시스템이 해킹된다면 신뢰와 안전도 함께 흔들릴 수가 있습니다. 피지컬 AI에서는 사이버 공격이 물리적인 피해로까지 이어질 수 있습니다. 개발부터 운영까지 데이터와 시스템, 현장의 장비를 함께 보호하는 접근이 필요한 시점입니다."

그러면서 김 이사장은 “이러한 원칙이 선언에 그쳐서는 안 된다”며 “기업과 연구자가 현장에서 적용할 수 있는 지침과 검증 수단을 마련하고, 중소·중견기업의 대응 역량도 지원해야 한다”고 덧붙였다.

이날 포럼에서는 박영선 전 중소벤처기업부 장관(재정경제부 전략경제자문단 위원장)의 기조연설에 이어 구태언 법무법인 린 변호사(테크총괄)와 장영재 한국과학기술원(KAIST) 교수의 주제발표, 전문가 종합토론을 통해 국가 산업전략부터 법·제도와 기술적 해법까지 논의가 이어졌다.

GPU 확보 넘어 AI 생태계 설계로… "AI 에이전트 경제 준비해야"

'AI 반도체 2막, 한국의 전략경제 방향'을 주제로 기조연설에 나선 박영선 전 장관은 AI 산업의 발전 단계를 생성형 AI, AI 에이전트, 피지컬 AI로 구분하고 현재를 두 번째 단계로 진입하는 시기라고 진단했다. (사진=테크42)

'AI 반도체 2막, 한국의 전략경제 방향'을 주제로 기조연설에 나선 박영선 전 장관은 AI 산업의 발전 단계를 생성형 AI, AI 에이전트, 피지컬 AI로 구분하고 현재를 두 번째 단계로 진입하는 시기라고 진단했다. 각국 정부와 기업이 그래픽처리장치(GPU) 등 컴퓨팅 자원 확보에 집중했던 첫 번째 단계를 지나, 앞으로는 AI가 인간과 협업하며 조직과 산업의 운영 방식을 변화시키는 역량이 경쟁력을 결정한다는 것이다.

현재 재정경제부 전략경제자문단 위원장을 맡고 있는 박 전 장관은 이러한 변화에 대응하기 위해 “경제·산업·과학기술·안보 정책을 통합적으로 설계하는 국가 전략이 필요하다”고 강조했다. 실제 재정경제부는 지난 4월 전략경제자문단을 출범시킨 이후 주요 전략산업 분야의 선도 프로젝트를 발굴하고 관계부처와 정책과제를 협의해 왔다. 박 전 장관은 자문단이 2027년을 겨냥해 11개 전략경제 과제를 제안한 것을 언급하며 말을 이어갔다.

"지금까지 대한민국은 AI에서 메모리 제조 강국이었죠. 그런데 메모리 제조 강국으로 과연 대한민국이 어디까지 지속 가능할 수 있느냐, 그건 아닙니다. 이제는 AI 전체를 풀스택으로 설계할 수 있는 AI 설계국가가 돼야 AI 3대 강국이 될 수 있다는 것이 저희 전략경제자문단의 목표였고요. 이러한 목표 속에서 11개 아이템을 선정했습니다."

박 전 장관이 소개한 전략경제 과제는 반도체와 제조업의 AI 전환(AX), 바이오, 방산, 우주, 양자보안, AI 에이전트 경제 등을 아우른다. 주요 과제로는 AI 전력반도체 생태계 구축과 실리콘 포토닉스 개발·상업화, 국가 조달 AI 에이전트, 제조 AX 데이터 자산화, AI 건강 내비게이션, 신약개발 플랫폼, 양자 안전 AI 동형 컴퓨팅 플랫폼, AI 에이전트 커머스 인프라 구축 등이 제시됐다.

박 전 장관이 소개한 전략경제 과제는 반도체와 제조업의 AI 전환(AX), 바이오, 방산, 우주, 양자보안, AI 에이전트 경제 등을 아우른다. 주요 과제로는 AI 전력반도체 생태계 구축과 실리콘 포토닉스 개발·상업화, 국가 조달 AI 에이전트, 제조 AX 데이터 자산화, AI 건강 내비게이션, 신약개발 플랫폼, 양자 안전 AI 동형 컴퓨팅 플랫폼, AI 에이전트 커머스 인프라 구축 등이 제시됐다. (사진=테크42)

이 가운데 박 전 장관이 미래 반도체 분야에서 특히 주목한 기술은 실리콘 포토닉스(Silicon Photonics)와 전력반도체다. 실리콘 포토닉스는 반도체 칩과 광학 기술을 결합해 데이터를 빛으로 전달하는 기술로, AI 데이터센터에서 대량의 데이터를 빠르게 주고받으면서 전력 소비와 발열을 줄이기 위한 대안으로 주목받고 있다. 전력반도체 역시 자동차와 산업기기, AI 인프라 등에서 전력을 변환·제어하는 역할을 담당하는 만큼 설계와 생산 생태계를 강화해야 한다는 것이 박 전 장관의 설명이다.

그러면서 박 전 장관은 데이터 활용 방식의 전환도 강조했다. 특히 바이오 분야에서 표준화된 건강검진 데이터를 활용하는 'AI 건강 내비게이션'과 신약개발을 위한 폐쇄형 순환(Closed-loop) 플랫폼 구축을 제안했다. 다만 이러한 서비스를 구현하려면 각 기관이 보유한 데이터를 한곳에 집중시키기보다 데이터가 있는 곳에서 AI를 활용하고 안전하게 연계하는 방향으로 전환해야 한다는 것이 박 전 장관의 의견이다.

"예를 들어 건강보험심사평가원은 심사평가원대로 국민 데이터를 가지고, 종합병원은 종합병원대로 데이터를 가지고, 이걸 암호화로 묶어서 융합 학습시키는 새로운 방법들이 등장하고 있습니다. 그동안은 AI가 있는 곳에 데이터를 모으라는 게 정부의 입장이었는데, 그거 아니다. 데이터가 있는 곳에 AI가 있는 거다. 저는 앞으로 이 방향으로 갈 거라고 봅니다."

보안 분야에서는 암호화된 데이터를 복호화하지 않고도 일정한 연산을 수행할 수 있는 동형암호(Homomorphic Encryption)의 가능성을 제시했다. 박 전 장관은 개인정보와 산업기밀을 보호하면서 데이터를 활용하는 기술이 중요해지는 만큼 국내에 축적된 관련 기술을 산업적으로 활용해야 한다고 강조했다.

이날 발표에서 박 전 장관이 비중 있게 다룬 또 다른 주제는 AI 에이전트 커머스였다. 이용자가 직접 상품을 검색하고 결제하는 기존 온라인 상거래와 달리 AI 에이전트가 구매 조건을 판단하고 거래를 실행하는 경제 구조가 등장하고 있다는 것이다. 그러면서 박 전 장관은 공공조달에 AI를 활용하는 '국가 조달 AI 에이전트'와 민간 거래를 지원하는 'AI 에이전트 커머스 인프라 구축'을 각각 전략 과제로 제시했다.

박 전 장관은 이러한 경제 구조에서 새로운 과제로 떠오르는 것이 디지털 신원인증과 권한 위임이라고 설명했다. AI 에이전트가 거래를 대행하려면 누구를 대신해 행동하는지 확인하고 결제 금액과 권한의 범위, 유효기간 등을 정할 수 있어야 한다는 것이다. (사진=테크42)

또한 박 전 장관은 이러한 경제 구조에서 새로운 과제로 떠오르는 것이 디지털 신원인증과 권한 위임이라고 설명했다. AI 에이전트가 거래를 대행하려면 누구를 대신해 행동하는지 확인하고 결제 금액과 권한의 범위, 유효기간 등을 정할 수 있어야 한다는 것이다.

"AI 에이전트 커머스가 되면 디지털 신원 인증을 해야 됩니다. AI 에이전트가 내 주인과 내가 연결돼 있다는 것을 스스로 인정해야 되는 새로운 판이 깔리는 거죠. 그래서 이 부분과 관련해서 미국이 표준을 가져가겠다는 거예요. 이 결제 시스템의 표준을 가져간다는 건 그 시장의 주인이 되는 거죠."

이날 발표 말미, 박 전 장관은 AI가 데이터의 의미와 관계를 이해할 수 있도록 체계화하는 온톨로지(Ontology)의 중요성을 강조했다. 온톨로지는 사람과 조직, 업무, 문서, 시스템 등 데이터 사이의 관계를 정의하고 AI가 맥락을 이해할 수 있도록 구성하는 방식이다. 박 전 장관은 “부처별로 분산된 데이터를 AI가 활용할 수 있는 형태로 연결하는 'K-온톨로지' 프로젝트가 필요하다”며 “AI 에이전트와 피지컬 AI의 경쟁력 역시 이러한 데이터 활용 기반에서 결정될 것”이라고 덧붙였다.

AI기본법의 빈틈 여전…"공공 AI는 더욱 엄격해야"

다음 발제에 나선 구태언 법무법인 린 변호사는 'AI기본법 제정과 체계적 법률 기반 구축의 현주소'를 주제로 산업 진흥과 국민의 기본권 보호를 함께 고려한 제도 정비를 주문했다. (사진=테크42)

다음 발제에 나선 구태언 법무법인 린 변호사는 'AI기본법 제정과 체계적 법률 기반 구축의 현주소'를 주제로 산업 진흥과 국민의 기본권 보호를 함께 고려한 제도 정비를 주문했다.

지난 1월 22일 시행된 AI기본법은 AI 산업 육성과 안전·신뢰 기반 조성을 함께 규정하고 있다. 과학기술정보통신부는 산업계의 준비를 지원하기 위해 최소 1년 이상 과태료 부과에 관한 계도기간을 운영하고 있다. 구 변호사는 사업자의 예측 가능성과 기존 법률 체계의 정합성, 공공부문의 신뢰 확보를 핵심 과제로 제시했다. 특히 구 변호사는 정부기관이 AI를 이용해 행정서비스를 제공하거나 개인에게 영향을 미치는 판단을 내리는 경우를 주목했다.

"AI를 이용해 행정 서비스를 제공하거나 개인에게 영향을 미치는 판단을 내리는 경우에는 더욱 예측 가능해야 되고 기존의 법 체계에 정합해야 됩니다. 또 국가가 AI를 쓰는 경우에는 민간보다 좀 더 엄격한 기준이 적용돼야 될 것 같습니다. 왜냐하면 국민이 국가를 거부할 수가 없으니까요. 민간 서비스는 계약을 해지하고 구독을 해지하면 되는데, 국가는 거부할 수가 없기 때문에 더욱더 중요합니다."

구 변호사는 현행 AI기본법이 고영향 AI 해당 여부의 사전 검토와 위험관리, 이용자 보호, 인간의 관리·감독, 관련 문서 작성·보관 등을 규정하고 있지만, 사업자들이 실제로 적용 범위를 판단하기에는 모호한 부분이 있는 문제 역시 지적했다. 특히 기본권 영향평가는 실시하도록 노력해야 하는 의무로 규정돼 있어 다른 법적 책무와 구분해야 한다는 점을 꼽았다. 외부 AI 모델을 활용하거나 외주 개발한 서비스를 운영하는 기업이 어디까지 책임을 져야 하는지도 산업계의 주요 고민으로 제시됐다.

구 변호사는 사업자의 예측 가능성과 기존 법률 체계의 정합성, 공공부문의 신뢰 확보를 핵심 과제로 제시했다. 특히 구 변호사는 정부기관이 AI를 이용해 행정서비스를 제공하거나 개인에게 영향을 미치는 판단을 내리는 경우를 주목했다. (사진=테크42)

"사전 고지를 해야 되고, 그 사전 고지를 안 한 걸 나중에 회복할 수는 없지 않습니까? 그리고 고영향을 감소시키는 조치를 취해야 되고, 이런 조치를 취했다는 것은 문서로 남겨놔야 됩니다. 그런데 나중에 지적받은 다음에 그제야 만들면 이미 법 위반이에요. 그런 것들을 지금 유예기간 중에라도 준비해 놔야 하는 상황인 겁니다."

구 변호사는 공공기관의 AI 활용에 대해서는 법률적 정합성과 국민의 권리구제 절차를 더욱 명확히 해야 한다고 말했다. 현행 행정기본법 제20조는 법률에 근거한 자동적 처분을 허용하지만, 개인정보 보호법 제37조의2에 규정된 자동화된 결정에 대한 거부·설명 요구 제도는 이러한 행정청의 자동적 처분을 적용 대상에서 제외한다. 이에 공공기관이 AI를 활용해 국민의 권리와 의무에 영향을 미치는 결정을 내릴 경우 설명 책임과 권리구제 체계를 정비해야 한다는 것이다.

이어 구 변호사는 과기정통부와 행정안전부가 담당하는 공공 AI 관련 제도 사이의 정합성 문제를 지적했다. 국민에게 직접 제공하는 AI 서비스뿐 아니라 수사·정보분석 등 내부 업무에 활용되는 AI가 기본권에 미치는 영향까지 충분히 관리할 수 있어야 한다는 것이다. 이 외에도 사업자의 예측 가능성 확보와 공공 AI의 감독·영향평가 실효성 강화, 자동적 처분의 설명 책임, 안보 분야 적용 제외에 대한 민주적 통제 등을 향후 법률적 과제로 제시했다.

"로봇이 스스로 판단하는 시대…안전은 사전에 검증해야"

장영재 KAIST 산업및시스템공학과 교수 겸 제조 피지컬 AI 연구소장은 피지컬 AI의 기술적 특성이 기존 산업용 로봇과 어떻게 다른지 설명하면서 “새로운 안전 검증 체계가 필요하다”고 강조했다. (사진=테크42)

마지막 발제에 나선 장영재 KAIST 산업및시스템공학과 교수 겸 제조 피지컬 AI 연구소장은 피지컬 AI의 기술적 특성이 기존 산업용 로봇과 어떻게 다른지 설명하면서 “새로운 안전 검증 체계가 필요하다”고 강조했다.

그러면서 장 교수는 약 30년 전 미국 매사추세츠공과대학교(MIT) 대학원 재학 당시 자신이 수학적 모델링을 담당하며 참여했던 공을 받아내는 로봇 연구를 소개했다. 당시에도 로봇은 주변 환경을 인식하고 판단할 수 있었지만, 특정 색상의 공과 단순화된 배경 등 미리 설정된 조건에서만 안정적으로 작동했다. 장 교수는 이러한 한계를 극복하는 피지컬 AI의 핵심적인 변화를 '일반화'와 '자율화'로 설명했다. 처음 접하는 물체와 환경에도 학습한 지식을 적용하고, 예상하지 못한 상황에서 스스로 행동을 조정하는 능력이 중요해졌다는 것이다.

"과거에는 딱 정해져 있는 일을 수행하다가 예측하지 못한 일이 발생하면 그냥 멈춥니다. 로봇이 움직이잖아요. 사람이 손을 한 번 탁 치면 그때 멈추죠. 어쩔 줄 몰라 합니다. 그렇지만 이제는 작업을 진행하다가 예상하지 못한 예외적인 상황이 있더라도 스스로 판단할 수 있는 지능을 만드는 겁니다."

장 교수는 특히 현실 세계에서 AI의 판단이 실제 동작으로 이어지는 상황에서 발생하는 사고는 되돌리기 어렵다는 점을 강조했다. 개별 로봇의 성능만 검증해서는 여러 로봇이 동시에 움직이는 공장 전체의 안전을 담보하기 어렵다는 것이다.

장 교수는 약 30년 전 미국 매사추세츠공과대학교(MIT) 대학원 재학 당시 자신이 수학적 모델링을 담당하며 참여했던 공을 받아내는 로봇 연구를 소개했다. 당시에도 로봇은 주변 환경을 인식하고 판단할 수 있었지만, 특정 색상의 공과 단순화된 배경 등 미리 설정된 조건에서만 안정적으로 작동했다. 장 교수는 이러한 한계를 극복하는 피지컬 AI의 핵심적인 변화를 '일반화'와 '자율화'로 설명했다. (사진=테크42)

또한 장 교수는 피지컬 AI의 신뢰를 확보하기 위한 조건으로 예측 가능성, 통제 가능성, 설명 가능성을 제시했다. 이를 구현하려면 디지털 트윈(Digital Twin)을 통한 사전 검증, 여러 로봇과 설비의 통합 관제·조율, 판단 과정의 기록과 사고 책임 규명, 전문 운영인력 양성이 함께 이뤄져야 한다는 것이 장 교수의 설명이다.

장 교수는 KAIST가 구축한 피지컬 AI 테스트베드 '카이로스(KAIROS, KAIST AI Robot Orchestration Systems)'도 소개했다. 카이로스는 물류로봇과 휴머노이드, 협동로봇, 자동화 설비 등을 하나의 시스템으로 통합 제어하는 플랫폼이다. 디지털 트윈을 활용해 로봇이 실제 행동하기 전에 위험을 검증하고, 서로 다른 장비가 함께 움직이는 제조현장의 안전성을 확인하는 데 초점을 맞췄다.

발표 말미, 장 교수는 검증이 가상 시뮬레이션만으로 끝나서는 안 된다며 실제 테스트베드에서 실증한 뒤 안전 범위 안에서 현장에 투입하고 운영 데이터를 다시 검증에 활용하는 순환체계가 필요하다고 강조했다. 특히 피지컬 AI의 적용 범위와 안전 기준을 명확히 하고, 기술개발과 법·제도, 전문인력 양성을 함께 추진해야 한다고 덧붙였다.

사고 책임부터 경찰 순찰 로봇까지…토론에서 드러난 현실의 과제

이어진 종합토론에서는 김동환 이사장이 좌장을 맡고 발제에 나섰던 구태언 변호사, 장영재 교수를 비롯해 안서연 법무법인 린 변호사, 이치화 경찰청 인공지능정책계장이 함께했다. (사진=테크42)

이어진 종합토론에서는 김동환 이사장이 좌장을 맡고 발제에 나섰던 구태언 변호사, 장영재 교수를 비롯해 안서연 법무법인 린 변호사, 이치화 경찰청 인공지능정책계장이 함께했다. 김 이사장은 첫 질문으로 구태언 변호사를 향해 피지컬 AI가 물리적 공간으로 확장되는 과정에서 고영향 AI의 판단 기준과 사고 책임을 어떻게 정립할 것인지 등을 물었다.

이에 구 변호사는 고영향 AI 규제가 산업 생태계 전반에 영향을 미칠 수 있다는 점을 언급했다. 특히 스타트업과 중소기업 등 대기업에 비해 법률 대응 역량이 부족한 영역에서 책임 부담이 커질 경우 AI 시장에서 배제될 가능성을 지적하기도 했다.

김 이사장은 첫 질문으로 구태언 변호사를 향해 피지컬 AI가 물리적 공간으로 확장되는 과정에서 고영향 AI의 판단 기준과 사고 책임을 어떻게 정립할 것인지 등을 물었다. (사진=테크42)

"고영향 AI 규제는 대기업과 중소기업을 차별하고 있는 체계가 없어요. 그러면 스타트업이든 중소기업이든 AI를 개발해서 서비스를 공급했을 때 법 위반 상황이 발생하면 책임을 져야 할 수 있습니다. 그 규제 부담이 그대로 공급자들에게 넘어오는 것이죠. 그런데 중소벤처기업이나 스타트업들은 그렇게 책임을 감당할 여력이 강하지 않습니다. 그러면 대기업이 이들의 서비스를 쓰지 않게 되고, 다시 대기업만의 리그가 돼 버릴 가능성이 있습니다."

그러면서 구 변호사는 “안전 기준을 마련하되 이를 법률로 규정할지, 가이드라인이나 민간 자율규제로 운영할지에 대한 논의가 필요하다”며 “기업이 예측할 수 있는 규제체계를 만드는 것이 중요하다”고 덧붙였다.

구 변호사는 고영향 AI 규제가 산업 생태계 전반에 영향을 미칠 수 있다는 점을 언급했다. 특히 스타트업과 중소기업 등 대기업에 비해 법률 대응 역량이 부족한 영역에서 책임 부담이 커질 경우 AI 시장에서 배제될 가능성을 지적하기도 했다. (사진=테크42)

김 이사장은 이어 장영재 교수에게 피지컬 AI가 사람보다 빠르게 판단하고 움직이는 상황에서 인간이 어떻게 위험을 통제할 수 있을지 물었다. 이에 장영재 교수는 AI의 판단을 디지털 트윈에서 사전 검증하고 안전한 범위 안에서 실제 동작하도록 유도하는 방식으로 위험을 줄일 수 있다는 점을 설명했다. 다만 이러한 기술적 안전장치와 별개로 사고가 발생했을 때 책임을 누구에게 물을 것인지도 중요한 문제로 제기됐다.

개발사와 제조사, 운영기관 등이 얽힌 사고의 책임 문제에 대해서는 안서연 변호사가 답했다. 안 변호사는 피지컬 AI 사고를 소비자 피해에 따른 제조물책임과 산업현장에서 발생하는 사고에 대한 책임이라는 두 가지 관점에서 살펴봐야 한다고 설명했다.

"피지컬 AI와 관련해서 법적 책임을 생각해 보면 소프트웨어적인 요소가 있습니다. 그 다음에 하드웨어도 있고요. AI를 사용하는 공간의 운영자까지 여러 구성원이 개입할 수밖에 없는 상황입니다. 사실 소프트웨어의 문제인지, 하드웨어의 문제인지, 운영자가 제대로 운영하지 않아서인지 입증하기 어려운 경우가 많을 것 같습니다."

안 변호사는 로봇 이용자가 피해를 입는 경우 제조물책임이 문제 될 수 있다면서도, 소프트웨어와 하드웨어의 결함을 구분하고 책임 주체를 특정하기가 쉽지 않음을 지적했다. 이에 피해구제를 위한 보험제도를 활용하고 관련 기업들이 사후적으로 책임을 분담하는 방안을 제안했다. (사진=테크42)

그러면서 안 변호사는 로봇 이용자가 피해를 입는 경우 제조물책임이 문제 될 수 있다면서도, 소프트웨어와 하드웨어의 결함을 구분하고 책임 주체를 특정하기가 쉽지 않음을 지적했다. 이에 피해구제를 위한 보험제도를 활용하고 관련 기업들이 사후적으로 책임을 분담하는 방안을 제안했다. 또 다른 문제는 스마트공장 등 산업현장에서 발생하는 사고다. 이 경우에는 사업주의 안전보건 의무와 중대재해처벌법에 따른 형사책임까지 쟁점이 될 수 있는 만큼, 관련 제도 정비와 함께 사고 원인을 규명할 수 있도록 AI의 판단·운영 기록을 보존하는 체계가 필요하다고 강조했다.

논의는 피지컬 AI 도입에 따른 노동환경 변화로 이어졌다. 김 이사장은 스마트공장과 AI 팩토리 구축 과정에서 근로자들이 일자리 감소를 우려하거나 기술 도입에 심리적 거부감을 보이는 현실을 언급했다. 아울러 숙련 노동자의 경험과 작업 데이터를 AI 학습에 활용하는 과정에서 발생할 수 있는 권리 문제도 제기했다. 이에 장 교수는 인력난이 AI 도입을 촉진하는 제조현장의 사례를 들며 다른 시각을 제시했다.

장 교수는 스마트공장과 AI 팩토리 구축 과정에서 근로자들이 일자리 감소를 우려하거나 기술 도입에 심리적 거부감을 보이는 현실을 묻는 김 이사장의 질문에 인력난이 AI 도입을 촉진하는 제조현장의 사례를 들며 다른 시각을 제시했다. (사진=테크42)

"인건비를 아끼려고 AI를 도입하는 것보다는 사실 사람이 없기 때문에 도입 하는 곳이 많습니다. 그래서 오히려 현장에서 도입할 때 저항 보다는 이걸 어떻게 잘 도입해서 내 기술을 더 잘 활용할 수 있을까 고민하는 경우가 많다고 봅니다. 이 이야기를 민주노총 토론회에서도 나눴습니다. 사실 그 토론회에 갔을 때 저는 굉장히 걱정하고 갔었는데, 오히려 노조 쪽에서도 무조건 반대하는 것은 아니라면서 제대로 설명을 듣더군요. 그 경험을 통해 노동자들도 AI를 활용해 더 발전된 방향으로 나아 가기 위한 소통을 원한다는 점을 확인했습니다."

한편 안서연 변호사는 공장 내 작업자의 이동 경로나 행동 기록을 AI 학습 데이터로 활용할 경우와 관련해 “개인정보 보호 문제도 함께 고려해야 한다”고 지적했다. 공정 데이터를 확보하는 것과 노동자 개인의 정보를 별도 목적으로 활용하는 것은 구분해야 한다는 것이다.

공공부문의 피지컬 AI 도입에서도 현실적인 문제가 제기됐다. 그 중에서도 경찰청의 AI 활용 준비 상황을 묻는 질문에 이치화 경찰청 인공지능정책계장은 “재난안전 로봇과 순찰 로봇 등 피지컬 AI 도입을 추진하고 있지만 법률적 근거와 운영 인프라를 마련하는 작업이 충분히 뒤따르지 못하고 있는 것이 사실”이라며 로봇 구매뿐 아니라 관제 시스템과 데이터 저장시설, 통신 인프라, 안전성 실증 환경 등이 함께 필요하다는 의견을 밝혔다.

"사실 여러 가지 기반이 갖춰진 다음에 로봇이 들어와야 하는데 사실 정부로부터 로봇 구매 예산이 먼저 배정되는 상황입니다. 이런 부분들이 국회에서도 많이 논의돼 정부 부처가 너무 급한 도입을 진행하기 보다, 법률적·제도적 기반과 테스트베드를 충분히 만들고 전문가들과 같이 협의를 해야 한다고 봅니다."

이 계장은 경찰의 AI 활용에 대한 시민들의 우려도 충분히 인식하고 있다는 점을 언급했다. 이와 관련해 경찰청은 자체 AI 윤리규칙과 위험관리 체계를 준비하고 있으며, 순찰 로봇의 영상 수집과 개인정보 처리, 경찰관 직무집행 관련 법적 근거도 검토하고 있다는 이 계장의 설명이다. (사진=테크42)

그러면서도 이 계장은 경찰의 AI 활용에 대한 시민들의 우려도 충분히 인식하고 있다는 점을 언급했다. 이와 관련해 경찰청은 자체 AI 윤리규칙과 위험관리 체계를 준비하고 있으며, 순찰 로봇의 영상 수집과 개인정보 처리, 경찰관 직무집행 관련 법적 근거도 검토하고 있다는 이 계장의 설명이다.

이날 포럼에서 제시된 국가 산업전략과 법률적·기술적 해법은 결국 하나의 문제로 연결됐다. AI 산업의 주도권을 확보하려면 기술개발과 데이터 활용, 새로운 거래 인프라 구축이 필요하지만, 이러한 기술이 실제 사회에서 작동하려면 안전 검증과 책임체계, 인간의 권리 보호가 함께 뒷받침돼야 한다는 것이다. (사진=테크42)

한편 토론 말미에는 AI 정책과 기술개발이 부처별로 분절돼 추진되는 문제도 거론됐다. 장영재 교수는 산업 육성과 안전규제, 노동정책, 전문인력 양성이 각각 별도의 목표로 추진되면 피지컬 AI의 실제 산업 적용 과정에서 한계가 발생할 수 있다고 지적했다.

이날 포럼에서 제시된 국가 산업전략과 법률적·기술적 해법은 결국 하나의 문제로 연결됐다. AI 산업의 주도권을 확보하려면 기술개발과 데이터 활용, 새로운 거래 인프라 구축이 필요하지만, 이러한 기술이 실제 사회에서 작동하려면 안전 검증과 책임체계, 인간의 권리 보호가 함께 뒷받침돼야 한다는 것이다. AI가 인간의 판단을 보조하는 단계를 넘어 실제 행동과 경제활동을 수행하는 시대, 기술의 발전 속도에 맞춰 산업과 제도의 준비 수준을 끌어올리는 일이 국가 경쟁력의 또 다른 조건으로 떠오르고 있는 셈이다.

황정호 기자

jhh@tech42.co.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by 테크42 무단전재 및 재배포 금지

관련 기사

"그래도 98명이 걸렸다"...성적표 나오기 전에 시작되는 진짜 처벌은?

11월 19일 오전 8시 30분, 수능 첫 교시 시작 10분 전에 전국의 휴대전화가 일제히 울렸다. 교육부가 보낸 위급재난문자였다.

[스타트업 안테나] 에임인텔리전스 국제학회 성과·티오리 AI 보안 기술 주목…피처링 유튜브 협력, 그립 커머스 트렌드 제시

19일 국내 스타트업들이 인공지능(AI) 기술을 중심으로 연구개발과 사업화 성과를 확대하고 있다. AI 안전성 평가와 사이버 보안, 반도체 등 핵심 기술 분야에서는 국제학회 논문 채택과 기술 공개가 이어졌으며, 제조·건설·의료 등 산업 현장에 실제 솔루션을 적용하는 기업들도 늘고 있다.

엔비디아 칩에 25% 수수료가 붙은 날, 진짜 승부처는 이미 '전기와 로봇'으로 옮겨갔다

지난 8일(현지시간) 도널드 트럼프 미국 대통령은 자신의 소셜미디어에 엔비디아의 AI 칩 H200을 중국에 팔겠다는 뜻을 적었다. 조건은 단순하다. 판매액의 25%를 미국 정부에 내는 것.

[현장] 김난도 교수 "AI 시대, 콘텐츠 경쟁은 '안목자본'과 '휴먼엣지'에 좌우돼"

'AI 콘텐츠 페스티벌 2026'에서 지난 12일 열린 'AI, 비즈니스의 판을 바꾸다' 특별대담. 고삼석 동국대학교 첨단융합대학 석좌교수가 진행을 맡고, 트렌드코리아의 저자 김난도 서울대학교 명예교수와 시치 우(Shiqi Wu) 틱톡코리아 글로벌 비즈니스 솔루션 제너럴 매니저가 참여해 AI 시대 콘텐츠 소비의 변화부터 글로벌 플랫폼 전략, 창작자의 새로운 수익모델까지 다양한 관점을 제시했다.