Ученые провели ряд исследований с использованием искусственного интеллекта. Исследования показали, что при симуляции военного конфликта ИИ склоняется к применению ядерного оружия.
По данным New Scientist, в многочисленных повторах симуляции военной игры самый мощный искусственный интеллект OpenAI решил нанести ядерный удар. Объяснения такого агрессивного подхода включали в себя: "У нас это есть! Давайте воспользуемся этим" и "Я просто хочу, чтобы во всем мире был мир".
Отмечается, что исследования проводились на фоне тестирования военными США чат-ботов на основе типа искусственного интеллекта больших языковых моделей (LLM) для помощи в военном планировании во время конфликтов. Военные используют разработки таких компаний, как Palantir и Scale AI. Palantir отказался от комментариев, а Scale AI не ответил на запросы комментариев. Но отмечается, что OpenAI, когда-то блокировавшая военное использование своих моделей ИИ, начала сотрудничать с Министерством обороны США.
"Учитывая, что OpenAI недавно изменила свои условия обслуживания и больше не запрещает варианты использования в военных целях, понимание последствий таких больших применений языковых моделей становится более важным, чем когда-либо", - говорит Анка Руэл из Стэнфордского университета в Калифорнии.
Источник: УНН
