라이더 인권 침해는 AI 탓?

[AI 요약]
배달앱 기업이 운영 책임을 AI 탓으로 넘기고 있는 상황에서, 이 같은 기업의 행태가 바로 AI와는 관계 없다는 지적이 나왔다. 배달앱은 AI 알고리즘에 따른 결과이며, 관련 알고리즘과 데이터는 지적재산권의 영역이라고 한다. 공공성을 가진 기관을 통해 확인할 수 있음에도 거부한다는 것은 서비스 자체의 공공 검증을 거부하고 책임을 회피하고 있는 것으로 보인다.


배달앱 기업이 AI 알고리즘을 서비스에 결합해 제공하면서 운영 책임을 AI 탓으로 넘기고 있는 가운데, 이같은 기업의 행태가 정작 AI와는 관계 없다는 지적이 나왔다.

기업, "AI 결정, 우리도 알 수 없다"

코로나19로 인한 비대면 분위기 속에서 배달업계는 최근 3년새 약 6.4배 성장했다. 특히 주문 배달 방식의 온라인 음식 서비스 거래액은 2020년 기준 약 17조 4000억원에 달했다. 배달의민족(배민), 요기요, 쿠팡이츠와 같은 배달 주문 플랫폼(배달앱)은 해당 시장의 성장을 견인하는 동시에 폭발적인 성장세로 기업 규모를 키울 수 있었다.

배달앱 업계는 배달 서비스 질 향상, 즉 빠른 배달을 위해 라이더의 배차 시스템에 AI를 도입했다. 그러나 의도와는 다르게 기능 개선을 통한 서비스 충족이 아닌, 앱 노동자인 라이더를 옥죄는 방식으로 활용되는 양상이다.

가장 먼저 AI 배차 시스템을 도입한 배달의민족은 AI 배차 거절 시 임의적으로 배차를 지연할 수 있는 경고를 준다. 요기요는 90% 이상의 일정 기준 AI 배차를 수락하지 않으면 배달 대행료를 줄이거나 라이어 등급을 떨어뜨렸다. 또 1주문 1건 배달 정책으로 배달 시장 점유율을 높인 쿠팡이츠는 AI 지시를 라이더가 거부할 경우 계정을 정지 시키기도 했다. 요기요 AI의 경우, 화장실을 찾는 과정에서 AI가 지정한 배차를 받지 않은 라이더의 등급을 강등 시키기도 했다. AI는 주문 배차는 물론 라이더 평가도 알고리즘을 통해 진행하고 있다.

이러한 상황들에 대해 해당 기업은 AI 알고리즘에 따른 결과이며, 관련 알고리즘과 데이터는 지적재산권(IP)의 영역이라고 발을 빼고 있다. 요기요 측은 "AI가 판단한 결과이기 때문에 정확하게 알 수 없다"라며, "데이터로 결정"된다고 설명했다. 배차를 거절해야 했던 이유는 중요하지 않은 것으로 보인다. 이 때문에 라이더는 '쉬면 배차가 끊긴다'는 압박 때문에 계속 콜을 받아야 하고, 결국 기업은 효율성을 극대화할 수 있다.

"라이더 매칭은 AI까지 깊이 들어가지 않고, 코드만 봐도 편향 판단할 수 있어"

그러나 'AI의 결정이기 때문에 알 수 없다'는 기업 논리에 대한 비판이 있다.

최재식 카이스트 AI대학원 설명가능AI연구센터 교수는 "라이더가 AI배차를 받지 않으면 라이더의 등급 내리는 것은 통계 데이터를 보고도 알 수 있는 부분"이라고 설명했다. 이어 "굳이 복잡하게 AI 내부로 들어가지 않아도 된다"라고 지적했다. 즉 AI 알고리즘과는 관계 없이 개발 코드만 봐도 기업의 라이더 인권 침해 여부를 알 수 있다는 것.

더불어 배달앱 기업이 알고리즘과 데이터를 제공하지 않고 숨기는 것에 대해 최 교수는 "(기업이) 편향이 있게 만들어 놓고 보여주고 싶지 않기 때문에 공개할 수 없다는 것인지, 아니면 그 정말로 지적재산권이 외부로 나갈까 봐 말을 안 하는 것인 지 외부에서는 알 수 없다"고 덧붙였다.

석대건 기자

daegeon@tech42.co.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

유럽 자금 쓸어모으는 ‘생성형 AI 스타트업’들의 공통점

유럽과 이스라엘에서 대규모 자금을 지원받고 있는 생성형 AI 스타트업들이 주목받고 있다. 이 창업자들 중에서는 이미 애플, 아마존, 메타, 구글, 마이크로소프트, 딥마인드 등 미국 빅테크에서 근무한 이력을 바탕으로 스타트업을 설립한 것으로 나타났다. 새로운 스타트업 창업자를 배출하는 이른바 ‘창업자 공장 역할’을 하고 있는 대학들도 눈에 띈다.

한국 스타트업에게 기회의 땅 되고 있는 일본 진출 전략은?

일본 정부의 전폭적인 스타트업 육성 정책은 그간 디지털 전환이 더디다는 인식을 빠르게 바꾸며 SaaS, 딥테크 스타트업 중심의 성장세를 만들어가고 있다. 그렇다면 일그렇다면 일본 진출을 고려하는 한국 스타트업이 알아야 할 일본 스타트업 생태계의 특징은 무엇일까? ‘글로벌 브레인’ 이경훈 한국 대표의 ‘일본 스타트업 생태계 이해하기’ 발표에서 그 답을 알아봤다.

온난화 주범 탄소가?···풍력발전 터빈에 발전에너지 저장

스웨덴 회사 시누누스(Sinonus)는 탄소를 이용한 풍력발전소 터빈 날(블레이드)이 거대한 배터리로 바뀔 수 있다고 말하고 있다. 미국 매사추세츠공대(MIT) 연구원들은 탄소(카본 블랙)와 시멘트를 배합한 콘크리트를 사용해 태양광이나 풍력으로 발전한 재생에너지를 건축물에 저장할 수 있음을 시험으로 확인했다고 밝혔다. 이들의 성과와 가능성, 그리고 해결 과제 등을 전문가의 평가와 함께 소개한다.

‘엔비디아’가 MS·애플 제치고 ‘세계 1위 기업’ 등극한 비결은?

AI 붐의 중심에 있는 엔비디아가 눈부신 상승세를 이어가며 마이크로소프트와 애플을 제치고 세계 시가총액 1위 기업으로 올라섰다. 엔비디아의 컴퓨터 칩과 소프트웨어는 생성형 AI의 이미지 생성기 및 챗봇 뒤에 있는 AI 알고리즘 교육을 위한 중요한 기술로 평가받고 있다.