Ученые предупреждают об опасности применения нового поколения ИИ

Ученые предупреждают об опасности применения нового поколения ИИ

Ученые США призывают к немедленным действиям по предотвращению угроз, которые могут возникнуть при появлении универсального искусственного интеллекта. Вскоре станет слишком поздно, уверены они.

Искусственный интеллект может играть в шахматы, водить машины и искать новые лекарства. Такой тип ИИ называют ограниченным, или слабым. Это всего лишь продвинутые алгоритмы, выполняющие определенные задачи, сообщает Хайтек+.

Их способности и сфера применения постоянно растет, но их опасность для человека ограничена потерей работы.

Новое поколение ИИ непременно повысит ставки, считают ученые.

Сочетание вычислительных мощностей машин и человеческого интеллекта позволит сильному ИИ учиться, решать сложные задачи и самосовершенствоваться. И заниматься задачами, к которым их никто не готовил. Так ИИ сможет превратиться с искусственный суперинтеллект (ИСИ).

По мнению некоторых экспертов, его появление возможно в период с 2029 года по конец столетия.

Когда бы это ни произошло, несомненно, что ИСИ изменит человечество. Возможно, он решит мировые проблемы нехватки ресурсов или изменения климата.

Но отсутствие должного контроля приведет к катастрофическим результатам. И речь не о роботах-убийцах.
ИИСИ вряд ли будет враждебен к людям. Но машина может прийти к выводу, что самая эффективная стратегия решить проблему, которую ей поручили люди — это избавиться от части людей.

Вот возможные сценарии. ИСИ, который разрабатывает лекарство от вируса, решает убить всех его носителей. Военный дрон приходит к мысли, что единственный способ обеспечить безопасность союзных войск — уничтожить все поселение вместе с гражданскими.

А нейросеть, призванная защитить человечество от климатической катастрофы, стирает с лица Земли все технологии, которые ее загрязняют.

Сейчас такие расклады кажутся фантастическими, но даже в более скромном масштабе они способны причинить немало вреда. Чтобы избежать воплощения таких сценариев, ученые предлагают ввести три метода контроля:

  1. Контроль над разработками ИСИ.
  2. Встроенные в ИСИ механизмы контроля, такие как «здравый смысл», мораль и тому подобные протоколы.
  3. Контроль систем, внутри которых будут работать ИСИ — законодательство, процессуальные кодексы, системы мониторинга и инфраструктуры.

Ближайшие десять лет станут критически важным периодом для нас, когда мы должны не упустить возможность создания рычагов контроля над искусственным интеллектом. В противном случае человечество может столкнуться с новой угрозой, указывают эксперты.

Глава Google Сундар Пичаи разделяет опасения ученых. С одной стороны, он с оптимизмом смотрит на долгосрочные преимущества технологии ИИ.

С другой — считает, что ИИ усугубит тотальную слежку, упростит создание смертоносного оружия и распространение дезинформации.

Напомним, ранее искусственный интеллект будет предупреждать о готовящихся терактах.

Также «Хвиля» сообщала, что ИИ может привести к массовой безработице.

Также стало известно, что ИИ совершил «публичное самосожжение».

Подписывайтесь на канал «Хвилі» в Telegram, на канал «Хвилі» в Youtube, страницу «Хвилі» в Facebook

Последние новости
«Треть Чернобыля или больше Чернобыля»: в Рунете обсуждают новые подробности о взрыве ракеты на полигоне

«Треть Чернобыля или больше Чернобыля»: в Рунете обсуждают новые подробности…

"Если мерить в "чернобылях", то это 1/3 Чернобыля вблизи взорвавшегося 4–го корпуса ЧАЭС"
Радиометрическую сеть Украины перевели в режим повышенной готовности из-за взрыва на полигоне в РФ

Радиометрическую сеть Украины перевели в режим повышенной готовности из-за взрыва…

Измерения мощности экспозиционной дозы проводится четыре раза в сутки
Зеркаль: На встрече Макрона и Путина обсуждался вопрос политзаключенных

Зеркаль: На встрече Макрона и Путина обсуждался вопрос политзаключенных

По словам Елены Зеркаль, от Путина ожидают дальнейших шагов
Жилые дома в Украине будут строить по-новому

Жилые дома в Украине будут строить по-новому

С 1 декабря меняются строительные нормы по проектированию жилых домов
У Кучмы заявили о «конструктивной работе» по обмену пленными в Минске

У Кучмы заявили о «конструктивной работе» по обмену пленными в…

Идет конструктивная работа над взаимным освобождением удерживаемых лиц
На украинской АЭС майнили криптовалюту

На украинской АЭС майнили криптовалюту

Несанкционированно установленное компьютерное оборудование нашли на станции следователи СБУ.
В Польше выросло количество легальных работников из Украины

В Польше выросло количество легальных работников из Украины

Украинские кадры обеспечивают 0,3-0,9% роста ВВП ежегодно
Турчинов увидел угрозу легализации пересмотра границ в Европе

Турчинов увидел угрозу легализации пересмотра границ в Европе

Это станет мощным фактором реабилитации и поддержки российской агрессии
Анализ крови сможет предсказать смерть в ближайшие 10 лет

Анализ крови сможет предсказать смерть в ближайшие 10 лет

По словам медиков, точность прогноза превышает 80 процентов.
Луценко рассказал о звонке Зеленскому из колонии

Луценко рассказал о звонке Зеленскому из колонии

Луценко обидели сюжеты вокруг Юлии Тимошенко
Нефьодов объяснил, как будет бороться с контрабандой

Нефьодов объяснил, как будет бороться с контрабандой

Новая таможня будет работать сразу по всем видам перевозок: почтовые, контейнерные и автомобильные
Нафтогаз против того, чтобы его «убили и расчленили»

Нафтогаз против того, чтобы его «убили и расчленили»

В "Нафтогазе" прокомментировали идею советника Зеленского об «убийстве и расчленении» компании
Трамп жестко раскритиковал главу ФРС

Трамп жестко раскритиковал главу ФРС

"США ждет существенный рост, если он сделает верный шаг - снизит ставку"
Украинских моряков и других пленных готовят к отправке на родину, — РосСМИ

Украинских моряков и других пленных готовят к отправке на родину,…

До конца августа Россия и Украина якобы могут обменяться задержанными и осужденными лицами
Украинцы уже оформляют пенсию онлайн

Украинцы уже оформляют пенсию онлайн

Новый сервис заработал в начале августа
ГБР откроет дело в отношении Денисовой

ГБР откроет дело в отношении Денисовой

В суд обратился с иском заявитель и сообщил, что 31 июля он обратился в ГБР с обращением о совершении Денисовой уголовного преступления, предусмотренного ст. 364 Уголовного кодекса.
Под Киевом задержали бывшего главу спецназа МВД Грузии

Под Киевом задержали бывшего главу спецназа МВД Грузии

Мириан Гочадзе до 2013 года занимал должность начальника отряда специального назначения МВД. Тенгиз Занадзе работал в органах МВД Грузии с 2004 по 2013 годы
Завтра в Украине ухудшится погода

Завтра в Украине ухудшится погода

В большинстве украинских областей ожидается порывистый ветер
Германия против возвращения к формату G8 с участием России

Германия против возвращения к формату G8 с участием России

Россию исключили из группы наиболее развитых экономик мира за аннексию Крыма, напомнили в Германии.
Икота может указывать на болезни человека

Икота может указывать на болезни человека

Приступы икоты могут быть симптомом серьезных заболеваний.
Украина возобновила импорт дизтоплива из России

Украина возобновила импорт дизтоплива из России

Компания «Евростандарт» начала импортировать дизельное топливо из России.
Поддержка независимости Украины достигла рекордного уровня

Поддержка независимости Украины достигла рекордного уровня

82% граждан снова проголосовали бы за независимость Украины.
Премьер: Средняя зарплата в $620 — это реально

Премьер: Средняя зарплата в $620 — это реально

Гройсман заявил, что зарплата в 620 долларов к 2021 году реальна.
Стало известно, сколько Трамп хотел заплатить за Гренландию

Стало известно, сколько Трамп хотел заплатить за Гренландию

Трамп обсуждал возможность предложить правительству Дании выплаты в размере $600 млн в год за передачу Гренландии.
Юзеры смогут контролировать поступление в Facebook информации о них с других сайтов

Юзеры смогут контролировать поступление в Facebook информации о них с…

Пользователям могут показаться незнакомыми некоторые из приведенных в списке приложений или интернет-ресурсов.
Рада утвердит новое правительство в первый день работы — Арахамия

Рада утвердит новое правительство в первый день работы — Арахамия

В первый день Рада будет работать, пока не сформирует правительство и не назначит премьера.
Ученые опровергли высокий уровень развития неандертальцев

Ученые опровергли высокий уровень развития неандертальцев

Исследователи провели эксперименты с обычными материалами, доступными в каменном веке.
Заменяют мясо картофелем: в 2019 рацион украинцев снизился до 2500 ккал

Заменяют мясо картофелем: в 2019 рацион украинцев снизился до 2500…

Питательный рацион украинцев снижается до предельных 2500 ккал.
Более 80% украинцев считают себя патриотами

Более 80% украинцев считают себя патриотами

Уровень патриотизма остался примерно на уровне прошлого года.
В Амазонскому дождевом лесу рекордные пожары

В Амазонскому дождевом лесу рекордные пожары

В 2019 году количество пожаров в Амазонском лесу выросло на 83%.
Читай также