AI สร้างคดีปลอม วิกฤตใหม่ในวงการกฎหมายสหรัฐ

ผู้พิพากษาทั่วประเทศเริ่มลงโทษทนายที่ใช้ AI สร้างคดีอ้างอิงปลอม เหตุการณ์เกิดขึ้นแล้วอย่างน้อย 7 กรณี สร้างความกังวลให้วงการกฎหมายยุคใหม่

บริษัทกฎหมายมอร์แกน แอนด์ มอร์แกนส่งอีเมลเตือนด่วนถึงทนายความกว่า 1,000 คน แจ้งว่า AI สามารถสร้างคดีที่ไม่มีอยู่จริง และการนำข้อมูลเท็จไปยื่นศาลอาจถูกไล่ออกได้ เหตุการณ์นี้เกิดขึ้นหลังผู้พิพากษาในรัฐไวโอมิงขู่ลงโทษทนายสองคนที่อ้างถึงคดีปลอมในการฟ้องร้องวอลมาร์ท หนึ่งในทนายยอมรับว่าใช้โปรแกรม AI ที่ “แต่งเรื่อง” คดีเหล่านั้นขึ้นมาเอง และขอโทษสำหรับความผิดพลาดที่เกิดขึ้นโดยไม่ตั้งใจ

จากการค้นพบของรอยเตอร์ส ปัญหา AI แต่งเรื่องในเอกสารศาลทำให้ผู้พิพากษาทั่วประเทศต้องสอบสวนหรือลงโทษทนายความแล้วอย่างน้อย 7 คดีในช่วงสองปีที่ผ่านมา คดีวอลมาร์ทโดดเด่นเพราะเกี่ยวข้องกับบริษัทกฎหมายชื่อดังและบริษัทยักษ์ใหญ่ เหตุการณ์คล้ายกันนี้เกิดขึ้นในการฟ้องร้องหลายประเภทนับตั้งแต่ ChatGPT เข้ามามีบทบาท ซึ่งชี้ให้เห็นความเสี่ยงใหม่ในการดำเนินคดี ผู้พิพากษาในแมนฮัตตันเคยปรับทนายนิวยอร์กสองคน 5,000 ดอลลาร์ (ประมาณ 6,700 สิงคโปร์ดอลลาร์) เมื่อเดือนมิถุนายน 2023 เพราะอ้างคดีที่ AI แต่งขึ้นในคดีบาดเจ็บส่วนบุคคลกับสายการบิน

เทคโนโลยี AI ช่วยลดเวลาที่ทนายความต้องใช้ในการค้นคว้าและร่างเอกสารกฎหมาย ทำให้บริษัทกฎหมายจำนวนมากเริ่มใช้บริการจากผู้ให้บริการ AI หรือพัฒนาเครื่องมือของตนเอง จากการสำรวจในปี 2024 พบว่า 63% ของทนายความใช้ AI ในการทำงาน และ 12% ใช้เป็นประจำ อย่างไรก็ตาม AI มีปัญหาสร้างข้อมูลเท็จอย่างมั่นใจ ซึ่งในวงการเรียกว่า “hallucinations” เพราะโมเดล AI สร้างคำตอบจากรูปแบบทางสถิติที่เรียนรู้จากข้อมูลขนาดใหญ่ แทนที่จะตรวจสอบข้อเท็จจริงในข้อมูลเหล่านั้น

กฎจริยธรรมของทนายความกำหนดให้ต้องตรวจสอบและรับผิดชอบต่อเอกสารที่ยื่นศาล มิฉะนั้นอาจถูกลงโทษทางวินัย สมาคมเนติบัณฑิตอเมริกันแจ้งสมาชิกกว่า 400,000 คนในปี 2024 ว่าความรับผิดชอบนี้รวมถึง “แม้แต่ข้อผิดพลาดโดยไม่ตั้งใจ” ที่เกิดจาก AI แอนดรูว์ เพิร์ลแมน คณบดีคณะนิติศาสตร์มหาวิทยาลัยซัฟฟอล์กกล่าวว่า “เมื่อทนายถูกจับได้ว่าใช้ ChatGPT หรือเครื่องมือ AI ใดๆ สร้างการอ้างอิงโดยไม่ตรวจสอบ นั่นคือความไม่รู้จริง ชัดเจนมาก” ศาสตราจารย์แฮร์รี่ เซอร์เดนจากมหาวิทยาลัยโคโลราโดระบุว่า ตัวอย่างที่เพิ่มขึ้นแสดงถึง “การขาดความรู้เรื่อง AI” ในวงการกฎหมาย แต่เทคโนโลยีเองไม่ใช่ปัญหา “ทนายเคยทำผิดพลาดในเอกสารมาก่อนยุค AI แล้ว นี่ไม่ใช่เรื่องใหม่”

อ้างอิงจาก : blognone, Straitstimes