В OpenAI и Google DeepMind предупредили о риске "вымирания человечества": причина

Работники OpenAI и Google DeepMind предупредили о риске "вымирания человечества" из-за искусственного интеллекта (ИИ).

Как передает "Хвиля", об этом сообщает агентство Reuters.

Обеспокоенность относительно рисков, связанных с этой технологией, выразила группа бывших и нынешних работников компаний, занимающихся искусственным интеллектом (ИИ), включая OpenAI и Google DeepMind.

Так, в открытом письме 11 бывших и нынешних сотрудников OpenAI, а также одного бывшего и одного нынешнего сотрудника Google DeepMind говорится, что финансовые мотивы компаний, занимающихся ИИ, препятствуют эффективному контролю.

"Мы не верим, что специальные структуры корпоративного управления достаточны для изменения этой ситуации", - пишут они.

Кроме того, авторы письма предупреждают о рисках нерегулируемого ИИ, начиная от распространения дезинформации до потери контроля над независимыми системами ИИ и углубления существующего неравенства, что может привести к "вымиранию человечества".

При этом исследователи обнаружили примеры генераторов изображений от компаний, включая OpenAI и Microsoft, которые создают фотографии с дезинформацией, связанной с выборами, несмотря на политику против такого контента.

Вдобавок к этому в письме говорится, что компании, занимающиеся ИИ, имеют "слабые обязательства" по обмену информацией с правительствами о возможностях и ограничениях своих систем. Авторы также добавили, что на эти фирмы нельзя полагаться, чтобы они добровольно делились этой информацией.

Как отмечается, это открытое письмо является очередным, который вызывает беспокойство относительно безопасности технологии генеративного ИИ, которая может быстро и дешево создавать текст, изображения и аудио, похожие на человеческие.

Следовательно, группа призвала компании, занимающиеся ИИ, способствовать процессу, при котором нынешние и бывшие сотрудники могут выражать беспокойство относительно рисков, и не применять соглашения о конфиденциальности, которые запрещают критику.

Напомним, Apple представила новые iPad Pro на M4, iPad Air и Apple Pencil Pro.

Смотрите также: