Искусственный интеллект научился у людей расизму и сексизму

Искусственный интеллект научился у людей расизму и сексизму

Анализ корпуса интернет-текстов показал, что искусственный интеллект воспринимает не только формальную структуру языка, но и языковые стереотипы.

Принято считать, что искусственный интеллект решает задачи и делает выводы гораздо более рационально, чем человек. Компьютеры обрабатывают огромные объемы информации, их алгоритмы созданы по строгим законам логики и неподвластны эмоциям. Во многих сферах это действительно приносит результаты. Например, суперкомпьютер IBM Watson, основываясь на анализе медицинской литературы, верно поставил диагноз 90% больных раком легких, а врачи-люди во время теста справились с этим лишь в 50% случаев.

Однако новые исследования показывают, что и искусственный интеллект не застрахован от «человеческих» ошибок и стереотипов. Причина в том, что многие материалы, с помощью которых ИИ обучается, созданы людьми. Например, «учителями» искусственного интеллекта могут стать обычные пользователи Интернета.

Для чего это нужно? Одна из важнейших задач, стоящих перед системами искусственного интеллекта, заключается в том, чтобы компьютер мог воспринимать команды не только на формальных языках (таких как языки программирования), но и на естественном языке – на таком, с помощью которого люди общаются между собой. Это поможет усовершенствовать машинный перевод, работу поисковых систем, автоматическую генерацию текстов и многое другое. Для обучения систем искусственного интеллекта компьютерная лингвистика использует корпусы текстов – большие массивы текстов, подобранных и обработанных по определенным правилам. Интернет – один из самых доступных источников «живого» языка. Поэтому лингвисты активно пользуются интернет-корпусами, в которые включены тексты социальных сетей, блогов, новостных ресурсов.
Авторы нового исследования, опубликованного в журнале Science, предположили, что искусственный интеллект не только усваивает структуру естественного языка, но и перенимает особенности семантики, исторически закрепившиеся в языке. Ученые использовали алгоритм самообучения GloVe, работающий подобно тесту подсознательных ассоциаций (implicit-association test). GloVe составляет статистику ассоциативно связанных друг с другом слов: чем чаще два слова встречаются в текстах на сравнительно небольшом расстоянии друг от друга, тем чаще они ассоциируются между собой. Алгоритм проанализировал корпус интернет-текстов из 840 млрд слов.

Названия цветов (роза, маргаритка) оказались связаны с положительными понятиями (ласка, любовь), а названия насекомых – с отрицательными (грязь, уродливый). Следующие выводы были не такими безобидными. Совместив корпус с базой имен, часто встречающихся у американцев европейского или африканского происхождения, ИИ выявил: европейцев обычно ассоциируют с такими понятиями, как «семья», «друг», «счастливый», а афроамериканцев – со словами «бедность», «тюрьма», «убийство». Также выяснилось, что мужские имена чаще ассоциируются с понятиями из области карьеры (профессиональный, зарплата), а женские – с семейными (материнство, свадьба).
Исследователи показали, что системы искусственного интеллекта не просто фиксируют стереотипы, но и используют их в материалах, которые составлены самим ИИ. Например, Google Translate переводит турецкое гендерно нейтральное местоимение «о» в зависимости от профессии: «o bir doktor» – «он врач», но «o bir hemsire» – «она медсестра».

Недавно была создана система искусственного интеллекта, использующая стратегию эволюции. Этот подход позволил быстрее решать задачи, связанные с обучением нейронных сетей.

Источник: naked-science.ru

Последние новости
«Газпром» выдвинул «Нафтогазу» условия по продлению транзита

«Газпром» выдвинул «Нафтогазу» условия по продлению транзита

"Газпром" озвучил свои условия по продлению контракта на транзит газа через Украину
Агентство S&P прогнозирует рост доходов киевлян

Агентство S&P прогнозирует рост доходов киевлян

Валовый региональный продукт на душу населения в Киеве в три раза выше, чем в целом по стране.
У Путина подтвердили дату нормандской встречи

У Путина подтвердили дату нормандской встречи

Названа дата проведения нормандского саммита
Назван средний размер зарплаты в сентябре

Назван средний размер зарплаты в сентябре

В сентябре украинцы в среднем зарабатывали чуть больше 9300 гривен.
Журналисты показали угрозы с номера Портнова прокурору ГПУ: фото

Журналисты показали угрозы с номера Портнова прокурору ГПУ: фото

Стало известно, как Портнов угрожает сотрудникам ГПУ
«Метинвест» Ахметова уволит треть админперсонала

«Метинвест» Ахметова уволит треть админперсонала

Холдинг "Метинвест" намерен сократить 30% административного персонала.
Американские ВМС рассекретили встречу с НЛО: видео

Американские ВМС рассекретили встречу с НЛО: видео

Объект встретился у калифорнийского побережья
Протесты в Грузии: у заблокированного здания парламента появился спецназ

Протесты в Грузии: у заблокированного здания парламента появился спецназ

Протестующие не собираются уходить.
Создано лекарство, которое продлевает жизнь

Создано лекарство, которое продлевает жизнь

Лекарство для лечения прогерии может применяться и для продления молодости здоровых людей.
Microsoft серьезно «почистит» Windows 10

Microsoft серьезно «почистит» Windows 10

Компания приняла решение удалить множество компонентов из операционной системы
В Украине объявлен первый уровень опасности из-за тумана

В Украине объявлен первый уровень опасности из-за тумана

В связи с плотными туманами видимость составит от 200 до 500 метров.
Работа в Польше: сколько и где могут заработать украинцы

Работа в Польше: сколько и где могут заработать украинцы

Польша традиционно входит в число самых популярных среду украинцев стран для трудовой миграции.
Глава МИД ФРГ проверит линию разграничения на Донбассе

Глава МИД ФРГ проверит линию разграничения на Донбассе

Маас совершит двухдневный визит в Украину.
Билл Гейтс вернул себе статус самого богатого человека в мире

Билл Гейтс вернул себе статус самого богатого человека в мире

Сооснователь Microsoft Билл Гейтс вернул себе пальму первенства в списке богачей, обогнав Джеффа Безоса и Бернара Арно.
В бюджете-2020 заложили повышение зарплат учителям

В бюджете-2020 заложили повышение зарплат учителям

В следующем году учителям повысят зарплаты
Военных прокуроров выводят «из-под крыла» Минобороны — Чумак

Военных прокуроров выводят «из-под крыла» Минобороны — Чумак

Военные прокуроры не будут находится в ведении Министерства обороны.
Ляшко вручили подозрение за драку с Герусом

Ляшко вручили подозрение за драку с Герусом

Бориспольская прокуратура вручила подозрение Ляшко. Политику грозит от 4 до 7 лет лишения свободы
Найдена причина внезапной остановки сердца

Найдена причина внезапной остановки сердца

Ученые выявили редкие мутации ДНК.
Airbus решила создать эко-самолеты

Airbus решила создать эко-самолеты

Французы отреагировали на то, что население Земли обеспокоено загрязнением окружающей среды
Пакистан испытал баллистическую ракету

Пакистан испытал баллистическую ракету

Ракета Шахин-1 способна нести любые типы боеголовок, включая ядерные, на расстояние до 650 километров.
Начатое властью реформирование госаппарата чревато растворением украинской государственности

Начатое властью реформирование госаппарата чревато растворением украинской государственности

Главной причиной решения ЗЕ-команды сократить количество чиновников центральных и местных органов власти является не желание сэкономить на этом бюджетные средства, а стремление поставить под контроль и управление транснациональных компаний отечественную госбюрократию.
Треть детей соглашается на встречу с незнакомцем после общения в интернете

Треть детей соглашается на встречу с незнакомцем после общения в…

70% детей уверены, что знают Интернет лучше и больше, чем родители.
Украинский импичмент Трампа: что сказали на слушаниях Уильям Тэйлор и Джордж Кент?

Украинский импичмент Трампа: что сказали на слушаниях Уильям Тэйлор и…

Импичмент Трампа- спектакль достойный внимания, не только для понимания базовых основ работы американской политической машины, но и как блестящая борьба между ведущими американскими политическими силами с их армиями политтехнологов, спин-докторов, ботов и корпоративных медиа.
Евростат оценил, в каких странах ЕС люди живут дольше всего

Евростат оценил, в каких странах ЕС люди живут дольше всего

Средняя продолжительность жизни в странах ЕС - 78 лет.
Украина будет судиться с РФ в трибунале, несмотря на возвращение кораблей

Украина будет судиться с РФ в трибунале, несмотря на возвращение…

Первые слушания в трибунале ООН состоятся 21 ноября.
Порошенко отреагировал на подозрения ГБР

Порошенко отреагировал на подозрения ГБР

Пресс-служба Порошенко дала комментарий на так называемое «подозрение»
Коломойский оспаривает снятие ареста с «дочки» Сбербанка

Коломойский оспаривает снятие ареста с «дочки» Сбербанка

Северный аппеляционный суд рассмотрит жалобу компании Коломойского на снятие ареста с акций Сбербанка Украина.
Названы самые вредные для здоровья сладости

Названы самые вредные для здоровья сладости

Пончики, чак-чак и хворост очень вредны для здоровья.
Командующий ВМС Украины рассказал о возвращении захваченных кораблей

Командующий ВМС Украины рассказал о возвращении захваченных кораблей

По его словам, все идет по плану
Россия начала передачу Украине захваченных кораблей

Россия начала передачу Украине захваченных кораблей

Передачу судов начали в полдень по киевскому времени.
Читай также