Cases of lawyers being disciplined for citing non-existent legal precedents in court documents are increasingly reported in the United States. These attorneys, relying on generative AI tools like ChatGPT for legal research, have submitted filings containing errors — some even including fake citations — and have, in some cases, been fined by the court. The main reasons for using AI are time constraints and the desire to improve work efficiency. According to a 2024 survey by Thomson Reuters, 63% of U.S. lawyers said they have used AI, and 12% reported using it regularly. Experts point out that while AI can be useful in legal services, fact-checking remains essential due to hallucination issues. One attorney described ChatGPT as a “junior-level associate” and said he always verifies the citations himself. As AI’s influence on legal documents grows, the American Bar Association (ABA) issued its first official guidance on lawyers' use of AI tools in 2024. The guidance emphasizes that attorneys must understand both the benefits and risks of AI, maintain confidentiality, and take responsibility for verifying the accuracy of information generated by these tools.
법률 문서에 존재하지 않는 판례를 인용해 징계를 받는 변호사 사례가 미국에서 잇따르고 있다. 이들은 ChatGPT 같은 생성형 AI를 법률 조사에 활용하다 오류를 내고 있으며, 일부는 가짜 인용문이 포함된 서류를 법원에 제출해 벌금형을 받기도 했다. AI를 사용하는 이유로는 시간 부족과 업무 효율성 개선이 꼽힌다. 실제로 2024년 톰슨로이터 조사에 따르면 미국 변호사 63%가 AI를 사용해본 적이 있으며, 12%는 정기적으로 사용하고 있다고 응답했다. 전문가들은 AI가 법률 서비스에 유용할 수 있지만, 환각(hallucination) 현상 등으로 인해 사실 검증이 필수라고 강조한다. 한 변호사는 ChatGPT를 "신입 변호사 수준의 보조자"로 여기고 사용하되, 인용은 반드시 직접 확인한다고 밝혔다. AI가 법률 문서에 미치는 영향이 커지자, 미국변호사협회(ABA)는 2024년 변호사의 AI 사용에 대한 첫 공식 지침을 발표했다. 지침은 AI의 이점과 위험을 인지하고, 기밀 유지와 사실 확인 책임을 다해야 한다고 명시했다.
