Федеральний суддя США опинився в центрі скандалу після того, як у його рішенні були виявлені численні помилки та вигадані факти, що викликало підозру щодо використання штучного інтелекту для підготовки судового документа. Як повідомляє Mississippi Today, у документі були згадані неіснуючі позивачі, фальшиві цитати та справи, яких насправді не існує, пише NewDay.
Це питання порушує важливу проблему щодо використання ШІ в юридичних процесах і піднімає серйозні питання відповідальності суддів за помилки, що виникають при застосуванні новітніх технологій. Суддя Генрі Вінґейт у своєму рішенні зупинив дію закону щодо програм різноманіття та інклюзивності в освіті штату Міссісіпі, однак документ містив безліч неточностей, які зазвичай є характерними для “галюцинацій” ШІ.
У оригінальній версії рішення позивачами були вказані організації, які не брали участі в процесі, а також була надана інформація про справи та цитати, яких не існує. Це викликало здивування серед юристів, які заявили, що ніколи не стикалися з подібним. Після виправлення рішення суддею помилки залишилися, і навіть після заміни постанови в документі все одно залишалося посилання на неіснуючу справу 1974 року.
Цей інцидент викликав обговорення серед правозахисників і юристів щодо того, хто несе відповідальність за помилки, допущені при використанні ШІ. Якщо юристів можуть оштрафувати за неправильне використання ШІ, то що буде з суддею, який використовував штучний інтелект для підготовки рішення?
Незважаючи на популярність ШІ в юридичній сфері, його застосування викликає серйозні занепокоєння щодо точності, етики та конфіденційності. Однією з основних проблем є так звані “галюцинації” системи, коли ШІ генерує вигадану, але правдоподібну інформацію. Це створює великі ризики для юридичних процесів, де точність і надійність джерел є критично важливими.
Такі помилки підривають довіру до судової системи і можуть призвести до серйозних фінансових та юридичних наслідків. Вже зараз деякі суди запровадили вимогу, щоб юристи підтверджували відсутність “галюцинацій” у поданих документах. Однак питання етики та упередженості в ШІ також залишається важливим, оскільки алгоритми можуть відображати соціальні упередження, які впливають на прийняття рішень.
Нагадаємо, раніше ми писали про те, чи можна народити в космосі.
По темі
Путін готовий до переговорів з Зеленським та назвав умови
