마가렛 멕케온 제9 순회법원 고위 판사는 태평양 사법 위원회에서 인공지능의 법률 시스템 도입에 대한 장점과 위험성을 강조했습니다. 9월 24일부터 26일까지 사이판 크라운 플라자 리조트에서 열린 회의에서 멕케온 판사는 법률 전문가들과 함께 연사로 나섰습니다.
멕케온 판사는 AI의 가장 큰 문제점으로 ‘환각’ 현상을 지적했습니다. 이는 AI가 허위 인용이나 날조된 법률 정보를 생성하는 것을 의미합니다. 실제로 변호사들이 가짜 인용문이 포함된 서면을 제출하여 법원의 제재와 벌금을 받은 사례가 있었습니다.
멕케온 판사는 마이크로소프트 사장 브래드 스미스와의 대화를 인용하며 “AI는 마법이 아닌 알고리즘일 뿐”이라고 말했습니다. AI는 대규모 데이터 세트를 기반으로 새로운 결과물을 생성하는 도구이므로 인간의 검증이 필수적이라고 강조했습니다.
그녀의 발표는 다음과 같은 주요 내용을 포함했습니다. AI는 법률 전문가에게 유용한 도구가 될 수 있습니다. 기존 법률 기준(예: Rule 11)은 이미 인용문의 정확성을 요구합니다. AI 플랫폼 사용 시 기밀 유지가 중요한 문제입니다. AI가 생성한 콘텐츠에는 인간의 감독이 필수적입니다.
AI의 한계를 설명하기 위해 멕케온 판사는 여러 플랫폼에 법적 불만 사항 초안 작성을 요청했습니다. 그 결과 관할권 인용 오류, 잠재적으로 유해한 사실 포함, 지역 법원 규칙에 대한 이해 부족 등 일관된 결함이 발견되었습니다.
또한, 매사추세츠 주 판사가 변호사들에게 적절한 검증 없이 AI를 사용하지 않도록 경고한 사례도 소개했습니다. 멕케온 판사는 “AI 오류로 인해 전 세계 17개국에서 300건 이상의 사례가 적발되었다”고 밝혔습니다.
위험에도 불구하고 멕케온 판사는 AI의 실질적인 응용 분야를 언급했습니다. 문서 요약, 초안 작성, 행정 업무 자동화 등이 그 예입니다. 그녀는 법률 전문가들에게 AI를 인간의 판단과 전문성을 대체하는 것이 아닌 보조 도구로 활용할 것을 촉구했습니다.
이번 사법 회의는 오늘(금요일) 막을 내립니다. 회의에서는 헌법 및 법률 해석, 사법 윤리, 재판 전 절차, 법률 시스템에서 인공지능의 급부상 등의 주제가 논의될 예정입니다.
원본기사: 마리아나 버라이어티 – Ninth Circuit judge highlights promise, perils of AI in legal system
Saipan Today에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
