Amazon отказалась от своей нейросети из-за дискриминации женщин

3 0 Amazon отказалась от своей нейросети из-за дискриминации женщин

Amazon является одной из крупнейших компаний мира, имея тысячи офисов и сотни тысяч сотрудников. Неудивительно, что онлайн-ритейлер давно решил сделать ставку на автоматизацию.

Как сообщает Reuters, в 2014 году команда инженеров в шотландском Эдинбурге начала разработку нейросети, которая помогла бы HR-департаментам подыскивать новых работников. Была создана пара сотен алгоритмов, которая просмотрела резюме предыдущих соискателей, и вывела 50 тыс. ключевых пунктов. Получив необходимую информацию, нейросеть начинала поиск подходящих кандидатов в интернете.

«Руководство хотело создать инструмент, которому бы дали 100 резюме, а оно выбрало бы топ-5, которых мы бы и наняли», — заявил один из источников, знакомый с проектом.

Год спустя в созданном искусственном интеллекте обнаружилась странная деталь.

Инженеры выяснили, что ИИ не нравятся кандидаты-женщины, если речь идет о позиции разработчика софта или инженера.

Как оказалось, нейросеть обучалась на преимущественно «мужских» резюме, так как за последние десять лет на эти должности в Amazon шли в основном мужчины. Таким образом, ИИ решил, что предпочтительнее нанимать именно мужчин, поэтому ставил низкие оценки резюме, содержащим внутри слово «женский», а также данные об образовании в колледжах, где учатся исключительно девушки.

Инженеры попытались исправить сексистские задатки своего детища, но не смогли гарантировать того, что нейросеть не найдет другие маркеры для дискриминации тех или иных резюме.

В результате в начале 2017 года команда была распущена, а работа над ИИ полностью прекратилась. Пресс-служба Amazon отказалась комментировать этот проект, заявив, что нейросеть «никогда не использовалась рекрутерами для оценки соискателей». Тем не менее, компания не опровергла информацию о том, что сотрудники отдела кадров просматривали рекомендации, подготовленные компьютером.

Согласно исследованию CareerBuilder, около 55% HR-департаментов считают, что искусственный интеллект станет неотъемлемой частью их работы в ближайшие пять лет. Тем не менее, ученые в этой сфере настроены не так оптимистично, ведь пока невозможно сделать так, чтобы нейросеть была максимально непредвзята и объективна — все-таки, ее обучают настоящие люди, имеющие свои взгляды и принципы.

«Я совершенно точно не стал бы доверять ИИ принимать решение о найме. Технология еще не готова», — заявил вице-президент по HR компании LinkedIn Джон Джерсин.

Что же касается Amazon, один из источников сообщил о том, что компания продолжает использовать нейросети при найме, но она выполняет лишь рутинные функции — например, удаляет дубликаты резюме, попавшие в базу данных дважды. Другой источник уверяет, что в Эдинбурге уже созвана новая команда, которая работает над другим проектом, который поможет сохранить разнообразие в коллективе.

На прошлой неделе стало известно об еще одном скандале, связанном с Amazon. После многочисленных демонстраций со стороны сотрудников, глава Amazon и по совместительству самый богатый человек на планете Джефф Безос решил поднять минимальную зарплату работников складов своей компании до $15 в час.

Источник: www.Gazeta.ru

Похожие статьи

Со склада Amazon госпитализировали 24 человека после инцидента с роботом

Двадцать четыре сотрудника склада Amazon оказались в больнице после несчастного случая с роботом - машина пробила баллон с медвежьим репеллентом, что привело к...

07.12.18 10 1

Amazon допустил утечку личных данных из-за "технического сбоя"

Amazon уведомила своих клиентов о масштабной утечке - личные данные покупателей компании, включая имена и электронные адреса, оказались в общем доступе в интернете....

22.11.18 1 1

Кремниевая долина зарабатывает миллионы, продавая технологии для слежки

Компания Amazon решительно настроена продать свой софт для распознавания лиц Иммиграционной и таможенной полиции США (ICE), которая использует его для поиска...

24.10.18 5 1

Джефф Безос лишил своих сотрудников бонусов после того, как повысил зарплату

В начале текущей недели стало известно, что глава Amazon повысил минимальный уровень зарплаты для своих сотрудников до $15 в час - таким образом Джефф Безос...

04.10.18 2 1

Amazon грозит штраф за нарушение антимонопольного законодательства

Компании Amazon может грозить крупный штраф - ритейл-гиганта обвиняют в антиконкурентных практиках, мешающих деятельности других продавцов. За дело Amazon взялась...

20.09.18 4 1

Сотрудники Amazon рассказали об ужасающих рабочих условиях в компании

Сотрудники Amazon, работающие на многочисленных складах по всей Америке, жалуются на невыносимые условия труда - они получают травмы, падают от изнеможения на рабочем...

31.07.18 3 1

Самое интересное в рубрике