글로벌 AI CRM 전문 기업 세일즈포스는 21일 조직의 생성형 AI 사용에 관한 장기적인 인사이트 도출을 위한 ‘직장 내 생성형 AI 활용 전망과 위험’에 대한 연구조사 결과를 발표했다.
세일즈포스의 이번 조사는 영국, 독일, 프랑스, 캐나다 등 전세계 14개국 내 1만4000여명의 직장인들을 대상으로 실시됐다. 조사 결과, 전세계 직장인들이 생성형 AI가 업무 생산성과 커리어 발전에 중요한 영향을 미칠 것이라고 인식하고 있음에도 불구하고, 현재 대부분의 사용자들은 기업로부터의 교육, 지도 또는 플랫폼에 대한 명확한 승인 없이 해당 기술을 활용하고 있는 것으로 나타났다.
세일즈포스에 따르면 현재 전세계 직장인의 4분의 1 이상(28%)이 직장에서 생성형 AI를 사용 중이며, 사용자 중 71%가 생성형 AI를 통해 업무 생산성이 더욱 높아졌다고 응답했다. 또한 전체 응답자의 42%가 생성형 AI 기술에 대한 숙련도가 향후 승진 또는 커리어 발전에 긍정적인 영향을 줄 것이라고 응답했다.
또한 응답자의 절반에 달하는 47%가 생성형 AI를 적극적, 선도적으로 도입하는 기업에 더 큰 매력을 느끼고 있었으며, 50%는 생성형 AI 도입으로 취업 시장에서의 경쟁이 보다 치열해질 것이라고 전망했다. 그러나 이처럼 직장 내 생성형 AI의 영향력이 증가하고 있음에도 불구하고, 응답자들은 신뢰와 안전성 측면에서 다양한 위험 요소들이 존재하고 있다는데 동의했다.
직장 내 생성형 AI 사용자 중 55%는 공식적으로 승인되지 않은 생성형 AI 기술을 사용한 경험이 있는 것으로 확인되었으며 사용자의 64%가 생성형 AI로 도출한 작업물을 자신의 창작물로 활용한 험이 있다고 응답했다. 취업을 위해 본인의 생성형 AI 활용 능력을 과장할 의향이 있다고 응답한 비율도 41%였다.
특히 전체 응답자 중 79%가 기업 내 생성형 AI 활용에 대한 명확한 가이드라인과 방침이 부재하다고 응답한 것으로 나타났다. 응답자의 69%가 생성형 AI에 관한 교육을 이수한 경험이 전혀 없다고 응답했으며, 71%의 응답자가 생성형 AI 활용 윤리에 대한 교육을 받지 못했다고 답했다. 안전성에 대한 교육을 받지 못한 비율 역시 69%에 달했다.
생성형 AI 활용 윤리를 위한 주요 조건으로 응답자들은 ▲결과물에 대한 사실 확인 진행 ▲정확성이 검증된 툴만 사용 ▲승인된 프로그램만 사용 등의 항목을 꼽았다. 생성형 AI를 안전하게 활용하기 위한 주요 조건으로는 ▲승인된 프로그램만 사용 ▲기밀 데이터 사용 금지 ▲식별 가능한 고객 데이터를 사용 금지 등의 항목이 상위에 선정되었다. 기업이 직원들로 하여금 신뢰할 수 있는 생성형 AI 플랫폼을 활용할 수 있도록 장려하고, 윤리적이고 안전한 사용을 위한 문화를 정립해야 할 필요성이 증가한다는 것을 의미한다.
폴라 골드만(Paula Goldman) 세일즈포스 최고 윤리 및 인도적 사용 최고 책임자는 "생성형 AI의 잠재력을 최대한으로 실현하기 위해서는 기술 자체만큼 기술을 사용하는 직원들을 위한 투자가 병행되어야 한다"며 "명확한 가이드라인과 트레이닝을 통해 AI 활용간의 위험 요소는 줄이고 잠재력과 혁신성을 높여, 직원들의 커리어 개발을 지원하고, 비즈니스 생산성을 향상시켜야 한다”고 언급했다.
손부한 세일즈포스 코리아 대표는 “AI 기술은 국내 시장 비즈니스 리더들에게도 최우선 관심사이나, 그와 동시에 과반수 이상의 리더들이 AI의 신뢰성과 안정성에 대한 우려를 표하고 있다”며 “세일즈포스는 300개 이상의 AI 유관 특허와 227개의 AI 연구 논문을 발표한만큼 축적한 노하우를 바탕으로 안전한 AI 기술 활용을 위한 패러다임 전환에 앞장설 것"이라고 전했다.
