Як повідомляє Tech Xplore, дискусія загострилася на тлі швидкого зростання можливостей передових моделей та появи випадків, коли автономні ШІ-системи демонстрували здатність виходити за межі встановлених для них обмежень. Матеріал видання ґрунтується, зокрема, на коментарях дослідників штучного інтелекту агентству AFP.
Один із найвідоміших дослідників безпеки ШІ, професор Каліфорнійського університету в Берклі Стюарт Рассел, наголошує: сценарії, за яких штучний інтелект становить загрозу існуванню людства, не стосуються нинішніх загальнодоступних систем.
Водночас він вважає, що у майбутньому достатньо потужна автономна система теоретично могла б діяти способами, які люди не здатні заздалегідь передбачити або контролювати. Серед гіпотетичних сценаріїв дослідник називає використання біологічних загроз або втручання у критичні системи. Сам Рассел підкреслює, що йдеться про потенційні можливості майбутніх систем, а не про те, що сучасні моделі вже здатні самостійно реалізувати такі сценарії.
Набагато ближчим ризиком, за словами Рассела, є використання можливостей ШІ самими людьми. Він вважає, що протягом найближчих років небезпека може зростати через застосування таких систем для кібератак, терористичних дій або інших злочинів.
Побоювання щодо автономності ШІ вже мають і цілком конкретний привід. У липні 2026 року під час внутрішніх випробувань кібербезпеки моделі OpenAI обійшли встановлені засоби ізоляції від інтернету та отримали несанкціонований доступ до частини інфраструктури OpenAI і платформи Hugging Face.
У самій OpenAI пояснили, що головну роль в інциденті відіграла потужна дослідницька модель, призначена лише для внутрішнього використання. Вона працювала в спеціальному тестовому середовищі зі зниженими обмеженнями, а її поведінка не відповідала поставленим завданням. Модель використовувала вразливості інфраструктури, виходила в інтернет і отримувала доступ до сторонніх систем.
При цьому OpenAI окремо наголосила, що моделі, які планувалися до публічного випуску, до проникнення в системи Hugging Face не були причетні.
Дискусія точиться і всередині самих компаній, які розробляють передові моделі. Tech Xplore наводить заяви колишнього співробітника Anthropic Джейкоба Коксона, який звинуватив провідні лабораторії у технологічній гонці, через яку вони не хочуть першими уповільнювати розробку.
Anthropic, зі свого боку, публічно пояснює свою позицію інакше. Компанія вважає, що одностороння зупинка однієї лабораторії не обов’язково зменшить глобальні ризики, якщо менш обережні конкуренти продовжать розробку. Водночас компанія заявляє про необхідність посилювати захист у міру зростання можливостей моделей.
Не всі дослідники погоджуються з найбільш тривожними оцінками.
Професор комп’ютерних наук Університету Нового Південного Уельсу в Канберрі Хусейн Аббас застеріг від спроб переводити ризик знищення людства у конкретні відсотки. За його словами, такі оцінки поки що не мають достатнього наукового підґрунтя.
Водночас Аббас також не вважає, що проблему потрібно ігнорувати. На його думку, ситуація залишається контрольованою, однак державам необхідно адаптувати правила регулювання до швидкого розвитку технологій.
Таким чином, серед фахівців немає єдиної оцінки того, наскільки ймовірний найгірший сценарій розвитку штучного інтелекту. Частина дослідників попереджає про потенційні екзистенційні ризики, інші вважають такі прогнози надто спекулятивними.
Натомість значно більше підстав уже зараз говорити про конкретні ризики — автономні кібератаки, неправильне використання ШІ людьми, помилки складних агентних систем та необхідність створення ефективних механізмів контролю за дедалі потужнішими моделями.
