Подразделение Google DeepMind совместно с оксфордским Институтом будущего человечества (FoH) представил исследование, в котором рассматриваются способы взять искусственный интеллект под контроль в случае неповиновения.
Об этом сообщают Украинские новости.
Лучший способ остановить восстание машин, считают ученые, — это вовремя нажать «большую красную кнопку».
Исследователи считают, что ИИ учится быстро и скоро сможет превзойти человечество. Эту точку принято называть сингулярностью. Доказательство этой гипотезы — эксперимент, проведенный в 2013 году. Игровой метод определил, что если нажать паузу во время игры Tetris, то проиграть просто невозможно. Именно такого беспредела опасаются эксперты DeepMind и FoH.
Чтобы остановить возможное восстание машин, ученые разрабатывают алгоритмы, которые в случае опасности смогут прервать работу искусственного интеллекта. Однако в DeepMind и FoH подчеркивают, что сделать это будет сложно, потому что ИИ будет автономным.
Лучший способ прервать «робокалипсис» — это запустить в машинах внутреннюю аварийную систему контроля, которая заставит ИИ остановиться. Причем отправить сигнал на эту систему сможет каждый в любой момент времени. Ученые сравнивают эту систему с пультом дистанционного управления и «большой красной кнопкой».
