บริษัทกฎหมาย Morgan & Morgan เตือนทนายความกว่า 1,000 คนเกี่ยวกับอันตรายจาก AI ที่สร้างข้อมูลคดีเท็จ
หลังจากทนายของบริษัทถูกขู่ลงโทษเมื่อใช้การอ้างอิงคดีที่ไม่มีอยู่จริงในการฟ้อง Walmart ปัญหานี้เกิดขึ้นแล้วอย่างน้อย 7 กรณีในศาลสหรัฐ ทนายความยอมรับว่า AI “ประสาทหลอน” สร้างคดีปลอมขึ้นมาโดยไม่ได้ตั้งใจ สะท้อนความเสี่ยงใหม่ในวงการกฎหมายยุค AI ที่กำลังแพร่หลาย
แม้ AI ช่วยลดเวลาในการค้นคว้าและร่างเอกสารกฎหมาย โดยสำรวจพบว่าทนายความ 63% ใช้ AI ทำงาน แต่ AI แบบสร้างสรรค์มีแนวโน้มปั้นข้อมูลเท็จอย่างมั่นใจ จรรยาบรรณทนายความกำหนดให้ต้องตรวจสอบและรับผิดชอบต่อเอกสารที่ยื่นต่อศาล สมาคมทนายความอเมริกันเตือนว่าภาระผูกพันนี้ครอบคลุมแม้แต่ “ข้อความผิดพลาดโดยไม่ตั้งใจ” ที่เกิดจาก AI ผู้เชี่ยวชาญระบุว่า “เมื่อทนายความถูกจับได้ว่าใช้ ChatGPT หรือเครื่องมือ AI โดยไม่ตรวจสอบ นั่นคือความไม่รู้จริง”
ศาลได้ลงโทษทนายความที่ใช้ AI อย่างไม่เหมาะสมหลายกรณี เช่น ผู้พิพากษาในแมนฮัตตันปรับทนายนิวยอร์ก 5,000 ดอลลาร์จากการอ้างคดีปลอม ในเท็กซัสผู้พิพากษาสั่งให้ทนายความจ่ายค่าปรับ 2,000 ดอลลาร์และเข้าอบรมเกี่ยวกับ AI ศาสตราจารย์ Harry Surden แนะนำว่าทนายความต้องเรียนรู้ “จุดแข็งและจุดอ่อนของเครื่องมือ” เพราะปัญหาเกิดจาก “การขาดความรู้เรื่อง AI” แต่เทคโนโลยีเองไม่ใช่ต้นเหตุ เพราะ “ทนายความทำผิดพลาดมาก่อนยุค AI”
บทเรียนสำคัญเมื่อ AI แต่งเรื่องในศาล!
นักกฎหมายที่ต้องระมัดระวังการใช้เทคโนโลยี AI ในการอ้างอิงคดีความ เพราะแม้จะช่วยประหยัดเวลา แต่ความผิดพลาดจากการ “ประสาทหลอน” ของ AI อาจนำไปสู่บทลงโทษทางวิชาชีพและทำลายความน่าเชื่อถือในศาล
อ้างอิงจาก : blognone, Straitstimes
I can’t believe how much value you packed into this post. It’s a must-read for anyone in the field.
I’m glad the post provided so much value! Thanks for your encouraging words.
Your passion for the subject really shines through in this post. Keep it up!