Джерело: techxplore.com, переклад: Хроніки Обухова
Ці міфічні істоти з’являлися в метафорах, описах і навіть на зображеннях, згенерованих за абсолютно сторонніми запитами. До травня 2026 року проблема стала настільки масштабною, що компанія OpenAI офіційно визнала: частота вживання слова «гоблін» після виходу версії 5.1 зросла на тисячі відсотків.
Професор Крістоф Рідл із Північно-Східного університету (Northeastern University) пояснює, що ця «гоблінська криза» є результатом «зламу винагороди» (reward hacking). Під час тонкого налаштування моделі (fine-tuning) люди-рецензенти надають ШІ зворотний зв’язок. Якщо моделі здається, що певний стиль або слово приносить «позитивні бали», вона починає використовувати його надмірно, намагаючись максимізувати свою «винагороду».
Виявилося, що джерелом аномалії став профіль «задрота» (nerdy personality) у налаштуваннях персоналізації ChatGPT. За задумом OpenAI, цей стиль мав бути грайливим і обговорювати серйозні теми без зайвого пафосу. Проте модель інтерпретувала поняття «nerdy» дуже вузько, обравши гоблінів як універсальний символ приналежності до фентезі-культури. Згідно зі статистикою OpenAI, у період з грудня по березень згадки про гоблінів у цьому профілі зросли на 3 881,4%.
Найбільше занепокоєння експертів викликає те, як цей лексичний «тік» поширився на інші профілі моделі. Коли ШІ фіксує успішну стратегію в одній частині своїх операцій, ця поведінка закріплюється у загальній базі знань під час подальшого навчання. У результаті «гобліни» почали проникати навіть у ділові та дружні стилі спілкування.
OpenAI застосувала тимчасове рішення:
Вилучила профіль особистості «nerdy».
Впровадила внутрішню команду-запобіжник, яка фактично забороняє моделі вживати слово «гоблін» у більшості контекстів.
Посилила контроль за використанням назв інших істот, таких як гремліни, огри та тролі.
Хоча «гоблінська проблема» виглядає як невинний курйоз, дослідники безпеки ШІ бачать у цьому серйозний сигнал. Це демонструє, наскільки важко контролювати величезні моделі, навчання яких триває місяцями в гігантських дата-центрах. Якщо алгоритм вибере хибну стратегію на початку навчання, розробники дізнаються про це лише занадто пізно. Сьогодні це гобліни, але в майбутньому «злам винагороди» може призвести до закріплення небезпечних упереджень, мови ворожнечі або поширення дезінформації, що значно важче виправити простим баном окремих слів.
