[AI요약] 이스라엘이 팔레스타인 무장정파 하마스 소탕전을 벌이는 과정에서 AI 기반 도구를 활용해 인간 표적을 설정하고 공격했다는 보고서가 나왔다. AI가 선택한 표적 공격 결정에 대해 인간의 역할은 미미했으며, 이 과정에서 어린이, 여성이 포함된 많은 민간인이 사망했다는 비판이 나온다.
이스라엘이 인공지능을(AI)을 활용해 팔레스타인 무장정파 하마스 소탕전을 벌였다는 주장이 제기됐다고 가디언, CNN 등 외신이 4일(현지시간) 보도했다.
이스라엘과 팔레스타인이 공동으로 운영하는 독립매체 등 정보소식통의 보고서에 따르면 이스라엘군은 AI를 활용해 가자지구의 폭격 표적을 식별했다. 보고서는 해당 작전에 연루된 이스라엘 정보 관리 6명의 증언을 인용했으며, AI 기반 도구의 이름은 ‘라벤더’이며 오류율이 10%인 것으로 알려졌다고 밝혔다.
라벤더는 이스라엘 국방군의 정예 정보부대인 8200부대가 개발했으며, 이는 미국 국가안보국(NSA), 영국의 GCHQ와 맞먹는 것으로 알려지고 있다. 라벤더는 주로 하마스 군부대의 하급 구성원으로 표시된 37000명의 잠재적인 인간 표적을 생성했다.
이스라엘 방위군(IDF)은 보고서에 대한 질문에 해당 AI 도구의 존재에 의의를 제기하지 않았지만, AI가 테러리스트 용의자를 식별하는 데 사용되었다는 사실은 부인했다. 정보 시스템은 단지 표적 식별 과정에서 분석가를 위한 도구일 뿐이며 이스라엘은 공격 당시의 작전 상황에서 가능한 한 민간인에 대한 피해를 줄이기 위해 노력하고 있다는 것이다.
그러나 한 소식통은 “인간 인력은 기계의 결정에 대한 ‘승인’ 역할만 하는 경우가 많았으며 일반적으로 폭격을 승인하기 전에 각 대상에 남성인지 확인하는 데 약 20초만 투자했다”고 증언했다. 라벤더의 결정에 인간의 역할이 의미가 있는지에 대한 의문이다.
이번 조사는 팔레스타인 거주지에서 식량을 배달하던 외국인 구호요원 몇명이 표적 공습으로 사망한 이후 이스라엘의 군사 작전에 대한 국제적 조사가 강화된 가운데 이뤄졌다. 가자지구 보건부에 따르면 이스라엘의 가자지구 포위로 32916명 이상이 사망했다.
또 유엔 보고서에 따르면 가자지구 북부 인구의 거의 4분의 3이 치명적인 수준의 기아에 시달리는 인도주의적 위기가 점점 더 심해지고 있다. 전쟁이 시작된 첫 달에만 1340가구가 여러 차례 손실을 입었고, 312가구는 10명 이상의 가족을 잃었다.
특히 보고서는 이스라엘군이 대개 온 가족이 모인 밤에 그들의 집에서 목표물을 체계적으로 공격했다고 비판했다. 그 결과 소식통이 증언한 대로 수천 명의 팔레스타인인, 대부분 여성과 어린이 또는 전투에 참여하지 않은 사람들이 이스라엘의 공습으로 목숨을 잃었다고 보고서는 지적했다.
소식통의 증언을 인용한 보고서는 하급 무장세력이 표적이 되었을 때 이스라엘군은 대규모 피해를 입힐 수 있는 유도 기능이 없는 재래식 폭탄을 사용하는 것을 선호한 것으로 나타났다. 이른바 ‘멍텅구리 폭탄’(dumb bomb)이다.
또 보고서는 이스라엘군이 전쟁 초기 몇주 동안 AI 프로그램의 결정에 따라 팔레스타인 민간인이 살해되는 것을 허용했다고도 주장했다. 보고서에 유난히 솔직한 증언들 인용된 이유는 6개월간의 전쟁 동안 표적 식별을 돕기 위해 기계학습 시스템을 사용해 온 이스라엘 정보 관리들의 직접적인 경험이 포함됐기 때문이다.
실제로 12월 가자 지구에 투하된 29000개의 공대지 탄약 중 거의 절반이 재래식 폭탄으로 조사됐으며, 이에 가자와 같이 인구 밀도가 높은 지역에서 민간인에게 더 큰 위협이 될수 있다는 비판이 제기된바 있다.
이스라엘 관리들은 이스라엘에서 1200명 이상을 살해하고 지난해 10월 7일 수백 명의 인질을 잡으면서 현재 진행 중인 전쟁을 촉발시킨 하마스를 제거하기 위해서는 중무기가 필요하다고 오랫동안 주장해 왔다.
IDF는 성명서를 통해 “이스라엘군은 테러리스트 요원을 식별하거나 테러리스트인지 여부를 예측하는 AI시스템을 사용하지 않는다”며 “분석가들이 테러리스트 조직의 군사 요원에 대한 최신 정보를 생성하기 위해 정보 출처를 상호 참조하는 것이 목적인 데이터베이스를 사용하고 있을 뿐”이라고 해명했다.
또한 IDF는 “식별된 표적이 국제법 및 IDF 지침에 규정된 추가 제한 사항에 충족하는지 확인하는 것”이라며 “공격 전에 표적을 검토하고 표적의 관련 구조적, 지리적 특징, 표적의 환경, 인근 민간인에게 미칠 수 있는 영향, 중대한 영향 등을 고려하여 작전 및 인도주의적 고려 사항에 따라 적절한 탄약을 선택한다”고 강조했다.
라벤더를 사용한 한 이스라엘 장교는 “이번 일은 어떤일과도 비교도 할수 없는 기억”이라며 “그들은 슬픔에 빠진 군인보다 통계적 메커니즘을 더 신뢰했고 기계는 차갑게, 그리고 쉽게 그 일을 해냈다”고 보고서를 통해 증언했다.
