[AI 요약]
배달앱 기업이 운영 책임을 AI 탓으로 넘기고 있는 상황에서, 이 같은 기업의 행태가 바로 AI와는 관계 없다는 지적이 나왔다. 배달앱은 AI 알고리즘에 따른 결과이며, 관련 알고리즘과 데이터는 지적재산권의 영역이라고 한다. 공공성을 가진 기관을 통해 확인할 수 있음에도 거부한다는 것은 서비스 자체의 공공 검증을 거부하고 책임을 회피하고 있는 것으로 보인다.

배달앱 기업이 AI 알고리즘을 서비스에 결합해 제공하면서 운영 책임을 AI 탓으로 넘기고 있는 가운데, 이같은 기업의 행태가 정작 AI와는 관계 없다는 지적이 나왔다.

기업, "AI 결정, 우리도 알 수 없다"

코로나19로 인한 비대면 분위기 속에서 배달업계는 최근 3년새 약 6.4배 성장했다. 특히 주문 배달 방식의 온라인 음식 서비스 거래액은 2020년 기준 약 17조 4000억원에 달했다. 배달의민족(배민), 요기요, 쿠팡이츠와 같은 배달 주문 플랫폼(배달앱)은 해당 시장의 성장을 견인하는 동시에 폭발적인 성장세로 기업 규모를 키울 수 있었다.

배달앱 업계는 배달 서비스 질 향상, 즉 빠른 배달을 위해 라이더의 배차 시스템에 AI를 도입했다. 그러나 의도와는 다르게 기능 개선을 통한 서비스 충족이 아닌, 앱 노동자인 라이더를 옥죄는 방식으로 활용되는 양상이다.

가장 먼저 AI 배차 시스템을 도입한 배달의민족은 AI 배차 거절 시 임의적으로 배차를 지연할 수 있는 경고를 준다. 요기요는 90% 이상의 일정 기준 AI 배차를 수락하지 않으면 배달 대행료를 줄이거나 라이어 등급을 떨어뜨렸다. 또 1주문 1건 배달 정책으로 배달 시장 점유율을 높인 쿠팡이츠는 AI 지시를 라이더가 거부할 경우 계정을 정지 시키기도 했다. 요기요 AI의 경우, 화장실을 찾는 과정에서 AI가 지정한 배차를 받지 않은 라이더의 등급을 강등 시키기도 했다. AI는 주문 배차는 물론 라이더 평가도 알고리즘을 통해 진행하고 있다.

이러한 상황들에 대해 해당 기업은 AI 알고리즘에 따른 결과이며, 관련 알고리즘과 데이터는 지적재산권(IP)의 영역이라고 발을 빼고 있다. 요기요 측은 "AI가 판단한 결과이기 때문에 정확하게 알 수 없다"라며, "데이터로 결정"된다고 설명했다. 배차를 거절해야 했던 이유는 중요하지 않은 것으로 보인다. 이 때문에 라이더는 '쉬면 배차가 끊긴다'는 압박 때문에 계속 콜을 받아야 하고, 결국 기업은 효율성을 극대화할 수 있다.

"라이더 매칭은 AI까지 깊이 들어가지 않고, 코드만 봐도 편향 판단할 수 있어"

그러나 'AI의 결정이기 때문에 알 수 없다'는 기업 논리에 대한 비판이 있다.

최재식 카이스트 AI대학원 설명가능AI연구센터 교수는 "라이더가 AI배차를 받지 않으면 라이더의 등급 내리는 것은 통계 데이터를 보고도 알 수 있는 부분"이라고 설명했다. 이어 "굳이 복잡하게 AI 내부로 들어가지 않아도 된다"라고 지적했다. 즉 AI 알고리즘과는 관계 없이 개발 코드만 봐도 기업의 라이더 인권 침해 여부를 알 수 있다는 것.

더불어 배달앱 기업이 알고리즘과 데이터를 제공하지 않고 숨기는 것에 대해 최 교수는 "(기업이) 편향이 있게 만들어 놓고 보여주고 싶지 않기 때문에 공개할 수 없다는 것인지, 아니면 그 정말로 지적재산권이 외부로 나갈까 봐 말을 안 하는 것인 지 외부에서는 알 수 없다"고 덧붙였다.