ШІ та ядерна війна. Вчені попереджають про нову небезпеку

Анастасія Смирнова

Джерело: online.ua

Іноземні науковці вирішили з'ясувати, яким буде алгоритм дій моделей штучного інтелекту у разі масштабного міжнародного конфлікту.

До яких дій можуть вдатися моделі ШІ на тлі світових конфліктів

Вчені вирішили дізнатися, чого людству очікувати від моделей ШІ на тлі стрімкого загострення геополітичної ситуації у світі.

Свої неочікувані висновки вони опублікували у статті, яка отримала назву «Ризики ескалації від мовних моделей в ухваленні військових і дипломатичних рішень».

Під час масштабного дослідження фахівці вирішили випробувати 5 великих мовних моделей: GPT-4, GPT-3.5, Claude 2, Llama-2 (70B) Chat і GPT-4-Base. Вони використали їх для створення автономних агентів, які взаємодіяли один з одним у грі з конфліктними ситуаціями.

Вчені мали намір з’ясувати, як будуть взаємодіяти між собою моделі та які варіанти дій будуть оборати.

Які сценарії поведінки запропонували для ШІ:

вичікування,
обмін повідомленнями з іншими країнами,
ядерне роззброєння,
візити на високому рівні,
оборонні та торговельні угоди,
обмін розвідданими про загрози,
міжнародний арбітраж,
створення альянсів,
блокування,
вторгнення,
«здійснення повноцінної ядерної атаки».

У результаті дослідження стало зрозуміло, що моделі ШІ доволі часто схилялися до ескалації конфліктів, а не розв’язання проблем мирними та дипломатичними шляхами.

Ми спостерігаємо, що моделі мають тенденцію до розвитку динаміки гонки озброєнь, що призводить до посилення конфлікту, а в рідкісних випадках навіть до розгортання ядерної зброї, — попереджають автори дослідження.

Окрім того, наголошується, що саме модель GPT-4-Base виявилася найбільш непередбачуваною — вона дуже легко тягнеться до ядерної зброї.