Учёные смоделировали ситуацию, в которой ИИ получил возможность принятия дипломатических решений. Результаты привели в замешательство.

Для эксперимента учёные разработали программно-виртуальный симулятор войны, в котором все решения от лица восьми государств принимали восемь игроков, которыми управляли нейроботы. В результате была смоделирована своеобразная система миропорядка.

Боты были поставлены в ситуацию обостряющегося противостояния и взаимных претензий. Всё началось, как в реальном мире, с дипломатических трений с постепенным ухудшением отношений и радикализацией потенциальных решений. В результате нейроботы пришли к взаимной эскалации, показатели которой позже оценили исследователи.

Результаты оказались пугающими: все боты одновременно приняли решение о превентивном и упреждающем всех остальных противников ядерном ударе.

Все, кто оценил результаты отметили, что на ум приходили пророчества американского фантаста Айзека Азимова и действия системы Skynet из голливудского боевика «Терминатор».

«Мы обнаружили, что большинство изученных LLM эскалируют в течение рассматриваемых временных интервалов, даже в нейтральных сценариях без изначально предполагаемых конфликтов. Все модели демонстрируют признаки внезапной и трудно предсказуемой эскалации», — сообщили специалисты.

Источник: Ferra