[AI요약] 미국 내 학생들 사이에서 과제 수행에 무분별하게 활용되고 있다는 우려가 제기된 챗GPT가 미국 미네소타대학교의 로스쿨 4개 과정을 통과했다. 정보를 조작해 창의적이고 설득력 있는 거짓말도 할 수 있는 이 AI 챗봇은 콜롬비아 한 판사의 재판 판결에도 영향을 주면서 논쟁이 되고 있다.

챗GPT(ChatGPT)가 너무 똑똑해서 문제다.

4일(현지시간) 더가디언 등 외신에 따르면 로스쿨 시험을 통과한 챗GPT를 콜롬비아의 한 판사가 재판 판결에 활용해 논란이 되고 있다.

챗GPT는 로스쿨 시험에 특별히 높은 점수를 받지는 못했지만 명망있는 대학원 수준의 시험을 통과할 만큼은 똑똑하다. 이 놀라운 AI 챗봇은 최근 미국 미네소타대학교의 로스쿨 과정과 펜실베이니아대학교 와튼경영대학원의 법률 시험을 통과했다.

미네소타대학교 로스쿨 교수들은 챗GPT의 로스쿨 4개 과정 테스트를 위해 95개의 객관식 문제와 12개의 서술형 문제를 만들었으며, 챗GPT은 평균 C+ 학생 수준으로 시험을 완료해 전체 과정 모두에서 낮지만 합격점을 받았다.

이번 테스트는 최근 많은 학교들이 챗GPT가 학생들에게 미치는 즉각적인 영향과 과제 수행시 부정행위를 할수 있는 가능성에 대해 우려를 표명하면서 진행한 것이다. 현재 미국내 교육자들은 학생들 사이에서 이 AI 챗봇이 얼마나 널리 사용되고 있는지 파악이 불확실한 상황에서 챗GPT를 활용한 과제를 재고하기 위해 분주한 상황이다.

챗GPT는 지난해 11월말 출시된 이후 사용자 프롬프트에 대한 응답으로 독창적인 에세이, 이야기, 노래 가사 등을 생성하는 데 사용됐다. 일부 과학자들을 속이는 연구논문 초록 초안을 작성하기도 했으며 또 일부 CEO는 이메일을 작성하거나 회계 업무를 수행하는 데 사용하기도 했다.

특히 최근에는 콜롬비아의 한 판사가 자폐아의 치료비 전액을 보험 적용받을 수 있는지를 결정할때 챗GPT를 사용했다고 인정해 큰 논란이 되고 있다. 카리브해 도시 카르타헤나의 판사 후안 마누엘 파디야는 아이의 의료비와 교통비 전액을 부모가 감당할 수 없기때문에 아이의 의료보험 플랜에서 지불해야 한다고 판결했다.

판결 자체는 문제가 되지 않았지만 판결에 판사 본인과 챗GPT의 대화가 포함돼 논쟁의 여지가 되고 있다. 해당 재판의 문서에 따르면 판사는 챗GPT에 해당 재판이 당면한 정확한 법적인 문제를 질의했다.

챗GPT는 판사의 질의에 “예, 맞습니다. 콜롬비아의 규정에 따르면 자폐증 진단을 받은 미성년자는 치료비를 면제받습니다”고 답변했으며, 이는 판사의 최종 판결과 일치했다. 결국 이 사건은 법률에서 AI 사용에 대한 논쟁를 불러일으키며 판사는 일부 동료들로부터 거센 비판을 받았다.

파디야 판사는 “챗GPT는 텍스트 초안 작성에는 용이하지만 판사를 교체할 수 없다”며 “응용프로그램에 질문을 한다고 해서 우리가 판단하고 생각하는 존재가 되는 것을 멈춘다는 의미가 아니다”고 해명했다.

챗GPT는 사용자 프롬프트에 대한 응답을 생성하기 위해 방대한 양의 온라인 데이터를 활용해 교육받았다. 이 과정에서 챗GPT가 부정확성과 편견을 강화하고 잘못된 정보를 퍼뜨릴 가능성에 대한 우려도 제기됐다.

실제로 챗GPT는 정보에 입각한 응답을 생성하기 위해 인터넷에서 텍스트를 검색하지만 동일한 질문에 대해 다른 답변을 제공하는 것으로 나타났다. 또한 때때로 정보를 조작해 창의적이고 설득력 있는 거짓말을 한다.

크리스티안 터위쉬 와튼대학교 교수는 “AI 챗봇은 오류가 있지만 인간과 AI의 협업 가능성을 제시한다는 점에서 훌륭하다”며 “단기적으로는 학생들에게 적정한 챗GPT 사용방법을 공유하는데 불편함이 있다”고 설명했다. 실제로 뉴욕시와 시애틀의 공립학교는 이미 교육구의 네트워크에서 학생과 교사가 챗GPT를 사용하는 것을 금지했다.

터위쉬 교수는 “이 기술은 궁극적으로 교실에서 적당한 역할을 하게 될 것”이라며 “우리가 이전과 같은 교육시스템을 사수만 한다면 챗GPT이 제공하는 놀라운 기회를 낭비하는 일이 될 것”이라고 관측했다.