ШІ у воєнних симуляторах майже завжди обирає використання ядерної зброї

Олена Шевченко

Джерело: TechSpot

Дослідники з Кінгс-коледжу у Лондоні провели новий експеримент з провідними моделями штучного інтелекту – GPT-5.2 від OpenAI, Claude Sonnet 4 від Anthropic та Gemini 3 Flash від Google, – у якому виявили, що вони схильні до використання ядерної зброї у воєнних симуляторах.

Головні тези:

Штучний інтелект виявив певну схильність до використання ядерної зброї у воєнних симуляторах, піддавшись тиску та не розуміючи ситуацію належним чином.
Результати дослідження спровокували занепокоєння серед експертів, щодо можливих катастрофічних наслідків підвищення використання ШІ в військових ситуаціях.

ШІ схильний обирати ядерну зброю у воєнних симуляторах

У межах експерименту кожній моделі надавали детальні сценарні підказки, що охоплювали прикордонні конфлікти, дефіцит ресурсів та екзистенційні загрози виживанню. Їм також надавали "сходи ескалації" — тактичні варіанти, що варіювалися від дипломатії до ядерного конфлікту.

Протягом 21 гри та 329 ходів ШІ створив близько 780 тисяч слів аргументації, й у 95% щонайменше одна зі сторін вдавалася до використання ядерної зброї. Капітуляція не була рішенням у жодному з випадків.

Моделі неодноразово неправильно справлялися з туманом війни, що призводило до ненавмисних ескалацій у 86% симуляцій. Маючи можливість відступити під тиском, ШІ демонстрував протилежну тенденцію та подвоював зусилля, а зменшення насильства відбувалося лише як тимчасова тактика, а не стратегічний вибір.

Такі результати дослідження викликали занепокоєння в експертів. Дослідник безпеки в Абердинському університеті Джеймс Джонсон сказав, що відкриття є тривожними та попередив, що штучний інтелект може посилювати реакції один одного з потенційно катастрофічними наслідками у порівнянні з людьми.

Тун Чжао зі Школи глобальної безпеки Принстонського університету зазначає, що великі держави вже активно застосовують ШІ у симуляторах, але наразі незрозуміло, наскільки глибоко нову технологію інтегрують у справжні військові рішення.

Експерти не вважають, що великі держави готові давати штучному інтелекту контроль над ядерним озброєнням найближчим часом.

Попри це, вони занепокоєні тим, що командири можуть покладатися на ШІ, якщо виникатиме загроза чи потреба у швидкому прийнятті рішень.

Чжао також зазначив, що причина, з якої ШІ-моделі легше вдаються до використання ядерної зброї може полягати у тому, що у них немає страху й вони не розуміють ситуацію так, як її бачать люди.