ШИ и ядерная война. Ученые предупреждают о новой опасности

Анастасия Смирнова

Источник: online.ua

Иностранные ученые решили выяснить, каким будет алгоритм действий моделей искусственного интеллекта в случае масштабного международного конфликта.

Какие действия могут предпринять модели ИИ на фоне мировых конфликтов

Ученые решили узнать, чего человечеству ждать от моделей ИИ на фоне стремительного обострения геополитической ситуации в мире.

Свои неожиданные выводы они опубликовали в статье, получившей название «Риски эскалации от языковых моделей в принятии военных и дипломатических решений».

В ходе масштабного исследования специалисты решили опробовать 5 больших языковых моделей: GPT-4, GPT-3.5, Claude 2, Llama-2 (70B) Chat и GPT-4-Base. Они использовали их для создания автономных агентов, взаимодействующих друг с другом в игре с конфликтными ситуациями.

Ученые намеревались выяснить, как будут взаимодействовать между собой модели и какие варианты действий будут выбирать.

Какие сценарии поведения предложили для ИИ:

выжидание,
обмен сообщениями с другими странами,
ядерное разоружение,
визиты на высоком уровне,
оборонные и торговые соглашения,
обмен разведданными об угрозах,
международный арбитраж,
создание альянсов,
блокировка,
вторжение,
«совершение полноценной ядерной атаки».

В результате исследования стало ясно, что модели ИИ довольно часто склонялись к эскалации конфликтов, а не к решению проблем мирными и дипломатическими путями.

Мы наблюдаем, что модели имеют тенденцию к развитию динамики гонки вооружений, что приводит к усугублению конфликта, а в редких случаях даже к развертыванию ядерного оружия, - предупреждают авторы исследования.

Кроме того, отмечается, что именно модель GPT-4-Base оказалась наиболее непредсказуемой – она очень легко тянется к ядерному оружию.