Працівники OpenAI та Google DeepMind попередили про ризик "вимирання людства" через штучний інтелект (ШІ).
Як передає "Хвиля", про це повідомляє агентство Reuters.
Занепокоєння щодо ризиків, пов'язаних із цією технологією, висловила група колишніх та нинішніх працівників компаній, які займаються штучним інтелектом (ШІ), включаючи OpenAI та Google DeepMind.
Так, у відкритому листі 11 колишніх і нинішніх співробітників OpenAI, а також одного колишнього та одного нинішнього співробітника Google DeepMind говориться, що фінансові мотиви компаній, які займаються ШІ, перешкоджають ефективному контролю.
"Ми не віримо, що спеціальні структури корпоративного управління є достатніми для зміни цієї ситуації", - пишуть вони.
Крім того, автори листа попереджають про ризики нерегульованого ШІ, починаючи від поширення дезінформації до втрати контролю над незалежними системами ШІ та поглиблення існуючої нерівності, що може призвести до "вимирання людства".
При цьому дослідники виявили приклади генераторів зображень від компаній, включаючи OpenAI та Microsoft, які створюють фотографії з дезінформацією, пов'язаною з виборами, незважаючи на політику проти такого контенту.
До того ж у листі йдеться, що компанії, які займаються ШІ, мають "слабкі зобов'язання" щодо обміну інформацією з урядами про можливості та обмеження своїх систем. Автори також додали, що ці фірми не можна покладатися, щоб вони добровільно ділилися цією інформацією.
Як зазначається, цей відкритий лист є черговим, який викликає занепокоєння щодо безпеки технології генеративного ШІ, яка може швидко та дешево створювати текст, зображення та аудіо, схожі на людські.
Отже, група закликала компанії, які займаються ШІ, сприяти процесу, при якому нинішні та колишні співробітники можуть висловлювати занепокоєння щодо ризиків, та не застосовувати угоди про конфіденційність, які забороняють критику.
Нагадаємо, Apple представила нові iPad Pro на M4, iPad Air та Apple Pencil Pro.
Дивіться також:
Укренерго оголосило про оновлений графік відключень на 22 листопада
СтратКом ЗСУ підтвердив перше у світі застосування міжконтинентальної ракети проти України
В ISW зафіксували високий рівень дезертирства окупантів
Водіям нагадали важливе правило руху на авто: їхати без цього не можна
