Источник: phys.org, перевод: Хроники Обухова
В рамках четырехлетнего проекта ученые выявили 70 инструментов ИИ, которые уже используются, тестируются или разрабатываются для автоматизации работы — от сортировки обращений и составления показаний свидетелей до цифровой экспертизы и распознавания лиц. В настоящее время 27 из этих систем работают в режиме реального времени, а более половины программного обеспечения поставляется коммерческими компаниями преимущественно для нужд патрульных, разведки и проведения расследований.
Несмотря на то, что ИИ приносит реальную пользу в расшифровке записей, анализе преступлений и выявлении уязвимостей, темпы его интеграции существенно опережают развитие институциональных, доказательных и управленческих структур. Особое беспокойство вызывает формальность принципа «человека в контуре», когда подпись ответственного сотрудника под результатами работы алгоритма становится лишь иллюзией контроля, а не реальной защитой от ошибок.
Исследователи указывают на парадоксальный риск: чем выше становится точность системы, тем реже люди проверяют её выводы, из-за чего редкие сбои остаются незамеченными и приводят к серьёзным последствиям. Опасность усиливается, когда несколько ИИ-систем объединяются в одну цепочку, поскольку каждая последующая программа наследует, наслаивает и умножает ошибки, допущенные на предыдущих этапах анализа.
Для исправления ситуации авторы отчета сформулировали 26 рекомендаций для правительства, полиции и разработчиков, подчеркнув необходимость создания открытых государственных реестров и обязательной прозрачности алгоритмов. Учёные также разработали первый интерактивный инструмент картографирования этих технологий, который должен стать открытым ресурсом для политиков, юристов и общественности с целью восстановления контроля над цифровой трансформацией правосудия.
