AI, 어디까지 왔나? 생성형 AI 톺아보기 (3)

- 생성형 AI ‘책임 있게’ 사용하기

생성형 AI 리스크, 어떻게 관리해야 할까?

생성형 AI의 무한한 잠재력만큼, 다양한 리스크도 뒤따른다. 실제 ‘기업을 경영하는 데 어떤 리스크 요소가 있는지’ 묻는 가트너의 2023년 2Q 설문조사에서 ‘생성형 AI’가 2위로 급부상했다. 먼저 생성형 AI가 초래하는 리스크를 살펴보자.

* Source: Mckinsey&Company / IGM 재구성

도입 전에

기업이 생성형 AI의 리스크를 사전대응하기 위해 중점을 둬야 할 핵심 키워드는 ‘신뢰’와 ‘윤리’다. 생성형 AI를 적극적으로 도입하기 전에 다음과 같은 질문부터 던져보자.

‘AI 기술을 개발하고 배포하는 과정이 윤리적이고 사회적 가치를 존중하는 방향으로 이뤄졌는가?’

‘사용자들은 생성형 AI 애플리케이션이 내놓은 답을 믿을 수 있는가?’

‘믿을 수 없다면, 앞으로 어떻게 해야 신뢰할 수 있는가?’

활용할 때

글로벌 컨설팅사, ‘맥킨지(Mckinsey&Company)’는 생성형 AI의 ‘리스크’와 ‘가치 창출’의 균형을 맞추는 것이 중요하다고 말한다. 기업 자체적으로 생성형 AI의 윤리 원칙과 가이드라인을 세우고, 리스크와 가치의 균형을 고려해 활용해볼 만한 사례를 찾아야 한다. 가령, 마케팅 콘텐츠 초안을 작성하는 업무처럼 가치와 리스크가 모두 낮은 작업에 생성형 AI를 먼저 활용해본 후, 점진적으로 가치와 리스크 모두 높은 작업도 계획해보는 것이다.

평소에

기업은 생성형 AI 규제 동향을 파악하고, 이를 고려해 안전 대책을 마련해 나가야 한다. 현재 미국, 영국, EU, 한국 등 주요 국가들은 AI 규제에 대한 주도권을 둘러싸고 규제 방향과 내용에 대해 열띤 논의를 펼치고 있다. 2023년 11월, 제1회 AI 안전 정상회담에서 28개 국가들은 AI 위험성을 공동으로 논의하고 관리하기 위한 ‘블레츨리 선언’에 합의했다. 얼마 후, 미국, 한국, 영국 등 18개 국가는 AI 국제 가이드라인을 발표했다. AI 시스템 설계부터 개발, 배포, 유지, 관리까지 프로세스 단계마다 필요한 권장 사항을 담았다. 또한 각 국가마다 실질적인 규제 내용이 다르기 때문에, 그에 맞게 기업 내부 프로세스, 문화, 인력 등도 적절히 조정할 필요가 있다.

[EU, 미국, 영국, 한국의 AI 규제 동향]


생성형 AI 탐색을 넘어, 그 이상을 시작해야 할 때

얼마 전, 국제학술지 ‘네이처(Nature)’의 ‘2023년 과학자 10인’에 ‘챗GPT’가 선정됐다. 사람이 아닌 기술이 선정된 것은 최초다. 생성형 AI가 과학계에서 주목할 만한 성과를 냈고, 앞으로의 과학 발전에 중요한 역할을 한다는 것을 인정받은 것이다.

2023년 과학 발전에 기여한 10명(그리고 비인간 1명) (이미지: nature.com)

이제 생성형 AI를 통한 기술 발전과 비즈니스 혁신은 거스를 수 없는 흐름이다. 리스크 관리, 구성원의 리스킬링 등 기술 발전에 수반되는 과제를 해결하면서, 우리 산업과 조직에 어떻게 생성형 AI를 접목하여 경쟁력을 강화할 수 있을지 고민해야 한다. 이때 단순히 생산성을 높이는 사례 뿐 아니라, 생성형 AI를 전략적 파트너로 삼고 자사의 데이터를 최대한 활용할 수 있는 방식으로 접근하는 사례를 발굴하는 것이 중요하다. 그러려면 AI 전문가가 아닌, 업무 전문가가 생성형 AI를 이해하고 어떻게 활용할지 판단할 수 있어야 할 것이다. 그 어느 때보다 AI 기술이 대중화되고 있는 지금, 우리 조직은 생성형 AI 생태계 위에 올라탈 준비를 마쳤는가?


<References>

“Phi-2: The surprising power of small language models”, 2023. 12. 12, Microsoft Blog
“Capturing the full value of generative AI in banking”, 2023. 12. 5, Mckinsey&Company
“Citi Used Generative AI to Read 1,089 Pages of New Capital Rules”, 2023. 10. 27, Bloomberg
“The state of generative AI adoption in business”, 2023. 10. 23, Kearney
“Top 10~12 Strategic Technology Trends for 2022, 2023, 2024”, 2023. 9. 15, Gartner
“Generative AI Market Size, 2023-2030”, Fortune Business Insights
“New A.I. Chatbot Tutors Could Upend Student Learning”, 2023. 6. 8, The New York Times 
“Managing the Risks of Generative AI”, 2023. 6. 6, Harvard Business Review
“What every CEO should know about generative AI”, 2023. 5. 12, Mckinsey&Company
“Goldman Sachs CIO Tests Generative AI”, 2023. 5. 2, Wall Street Journal
“Exploring opportunities in the generative AI value chain”, 2023. 4. 26, Mckinsey&Company
“가장 유능하고 범용적인 AI 모델 제미나이(Gemini)를 소개합니다”, 2023. 12. 7, Google Blog
“Generative AI가 바꿀 미래, 기업은 어떻게 준비할까?”, 2023. 11. 13, Kearney Blog
“삼성전자, ‘삼성 AI 포럼’서 자체 개발 생성형 AI ‘삼성 가우스’ 공개”, 2023. 11. 8, 삼성 뉴스룸
“‘직원을 신나게 하라’, 월마트의 생성형 AI 여정 살펴보기”, 2023. 10. 23, CIO Korea
“웅진씽크빅, Azure OpenAI 기반 생성 AI로 소통과 교육의 새로운 연결고리 만들어”, 2023. 8. 29, Microsoft
“새로운 초현실 세계로, 영화를 바꾸고 있는 생성형 AI”, 2023. 6. 9, MIT Technology Review


본 기사의 원문은 여기서 볼 수 있습니다.

IGM세계경영연구원

insightlab@igm.or.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

에이블리, 첫 연간 흑자 전환 이후의 과제는

이번 에이블리의 첫 흑자 전환은 무엇보다 서비스 매출 성장에 힘입은 바가 컸습니다. 전체 매출액 성장은 45.3%였는데, 서비스 매출은 99.3%이나 증가했고, 상품 매출은 13.1% 늘어나는데 그쳤거든요. 이러한 매출 성장을 이끈 요인은 크게 2가지였습니다. 

20대에 구글에 회사를 판 천재 루이스 폰 안의 비결

로그인할 때, 찌그러진 글자를 제대로 입력 하라거나 “자동차가 있는 이미지를 모두 고르세요” 같은 요구를 받으신 적 있으시죠? 또는 아래 그림처럼 “나는 로봇이 아닙니다”에 체크한 적 한번쯤은 있으실 텐데요. 

앤스로픽 AI에 투자한 아마존

아마존이 앤스로픽에 언급했던 투자 금액 40억 달러를 모두 던지면서 두 회사의 전략적 협업 관계는 이제 시작이라고 말했습니다. 알다시피 아마존에는 AWS(Amazon Web Service)라는 클라우드 컴퓨팅 솔루션이 있죠. 앤스로픽 역시 아마존의 AWS를 사용합니다.

미래가치 : 열정의 시대

인공지능 기술의 발전이 가속화되며 생활에 침투하는 범위가 넓어지고 있습니다. 기계가 사람을 대체할 수 있는 분야가 늘어남에 따라 우리는 다가올 일자리...