Джерело: phys.org, переклад: Хроніки Обухова
У межах чотирирічного проєкту науковці виявили 70 інструментів ШІ, які вже використовуються, тестуються або розробляються для автоматизації роботи — від сортування звернень та складання показань свідків до цифрової експертизи й розпізнавання облич. Наразі 27 із цих систем працюють у реальному часі, а понад половина програмного забезпечення постачається комерційними компаніями переважно для потреб патрульних, розвідки та проведення розслідувань.
Попри те, що ШІ приносить реальну користь у розшифруванні записів, аналізі злочинів та виявленні вразливостей, темпи його інтеграції суттєво випереджають розвиток інституційних, доказових та управлінських структур. Особливе занепокоєння викликає формальність принципу «людини в контурі», коли підпис відповідального співробітника під результатами роботи алгоритму стає лише ілюзією контролю, а не реальним запобіжником від помилок.
Дослідники вказують на парадоксальний ризик: що вищою стає точність системи, то менше люди перевіряють її висновки, через що рідкісні збої залишаються непоміченими і призводять до серйозних наслідків. Небезпека посилюється, коли кілька ШІ-систем об'єднуються в один ланцюжок, оскільки кожна наступна програма успадковує, нашаровує та примножує помилки, допущені на попередніх етапах аналізу.
Для виправлення ситуації автори звіту сформулювали 26 рекомендацій для уряду, поліції та розробників, наголошуючи на необхідності створення відкритих державних реєстрів та обов'язкової прозорості алгоритмів. Вчені також розробили перший інтерактивний інструмент картографування цих технологій, який має стати відкритим ресурсом для політиків, юристів та громадськості задля повернення контролю над цифровою трансформацією правосуддя.
