У США зафіксували випадок подання дипфейку як доказу в суді

У США суди все частіше стикаються з підробленими матеріалами, створеними штучним інтелектом. Дипфейкові відео, змінені голоси та фальшиві документи потрапляють у судові справи, через що суддям доводиться уважніше перевіряти докази. Це додатково уповільнює роботу системи, яка й так перевантажена. Про це повідомляє NBC News.
Зазначається, що один із найпоказовіших випадків стався в Каліфорнії у межах житлової суперечки Mendones v. Cushman & Wakefield. Суддя Вікторія Колаковські запідозрила, що відеосвідчення, яке подали адвокати однієї зі сторін, було створене ШІ. Підставами стали монотонний голос, розмиті риси обличчя та неприродно повторювані мімічні рухи. За словами судді, відео мало очевидні ознаки генеративної обробки. У вересні Колаковські відхилила позов, а в листопаді – вдруге відмовила у його поновленні.
Як вважають експерти, цей інцидент одним із перших зафіксованих випадків, коли дипфейк був поданий як справжнє свідчення. Фахівці попереджають, що хвиля ШІ-фальсифікацій лише посилюється, а система правосуддя не встигає адаптуватися.
Був випадок, коли американський юрист отримав штраф у $15 000 за подання документів із вигаданими посиланнями на неіснуючі справи, які згенерував ШІ. Судді наголошують, що небезпека ширша, бо ШІ-голоси можуть бути використані для створення фальшивих погрозливих записів, а підроблені документи здатні непомітно потрапляти до офіційних матеріалів.
Однак формальних протоколів роботи з ШІ-доказами досі немає. Організації на кшталт National Center for State Courts лише пропонують суддям контрольні списки для перевірки походження та автентичності матеріалів.