Катерина Левицька Авторка новин видання "Межа". В медіа з 2015 року, пишу про софт, IT-бізнес та кіно. 14 серпня, 13:19 0
Суддя штату Коннектикут виніс покарання чоловікові, який таємно додав до судових паперів інструкції для ШІ. Текст, непомітний для людського ока, мав на меті схилити будь-яку систему штучного інтелекту на користь позивача під час аналізу документів. Про це повідомляє Reuters.
Суддя Волтер Спейдер-молодший виявив у матеріалах позивача Меттью Елліота білий текст, надрукований дуже дрібним шрифтом. Ця підказка була невидимою для зору людини, але програмне забезпечення, яке обробляло документ, змогло її розпізнати.
По темі: Юридична фірма із ШІ вперше виграла справу в Британії – позивачка повернула $9 500, витративши 6% суми
Імовірно, Елліот застосував промпт-ін’єкції – техніку, за якої спеціально створений текст змушує моделі штучного інтелекту ігнорувати попередньо встановлені правила та виконувати нові директиви. У цьому конкретному випадку, за словами судді, інструкції мали спонукати інструменти ШІ видавати результат, вигідний позивачу, та вважати попереднє рішення судового клерка помилковим.
Цікаво, що вже після попередження судді, в інших судових документах також були виявлені ШІ-підказки від Елліота, проте вони не стосувалися промпт-ін’єкцій.
Чоловік, який самостійно представляє свої інтереси у справі, стверджує, що додав прихований текст для “перевірки процесу розгляду документів судом”, а слова, включені до подальших документів, були “жартом”. Суддя Спейдер, тим часом, зазначив, що загалом позитивно ставиться до ШІ і навіть сам користується цим інструментом, однак спроба позивача додати набір інструкцій “демонструє зловмисний намір”.
Суддя також зазначив, що судова система Коннектикуту не використовує інструменти ШІ для перевірки або прийняття рішень щодо поданих матеріалів, тому спроба позивача навряд чи була б успішною. В результаті Елліоту заборонили подавати документи в електронному вигляді та зобов’язали надавати паперові копії до канцелярії суду.
Адвокат юридичної фірми Garfunkel Wild, яка спеціалізується на медичному праві та представляє відповідача New York Bariatric Group, поки не відповів на запит про коментар. Сам позов включає звинувачення, пов’язані з наданням медичної документації, дискримінацією та іншими претензіями.