Amazon отказалась от своей нейросети из-за дискриминации женщин

1 0 Amazon отказалась от своей нейросети из-за дискриминации женщин

Amazon является одной из крупнейших компаний мира, имея тысячи офисов и сотни тысяч сотрудников. Неудивительно, что онлайн-ритейлер давно решил сделать ставку на автоматизацию.

Как сообщает Reuters, в 2014 году команда инженеров в шотландском Эдинбурге начала разработку нейросети, которая помогла бы HR-департаментам подыскивать новых работников. Была создана пара сотен алгоритмов, которая просмотрела резюме предыдущих соискателей, и вывела 50 тыс. ключевых пунктов. Получив необходимую информацию, нейросеть начинала поиск подходящих кандидатов в интернете.

«Руководство хотело создать инструмент, которому бы дали 100 резюме, а оно выбрало бы топ-5, которых мы бы и наняли», — заявил один из источников, знакомый с проектом.

Год спустя в созданном искусственном интеллекте обнаружилась странная деталь.

Инженеры выяснили, что ИИ не нравятся кандидаты-женщины, если речь идет о позиции разработчика софта или инженера.

Как оказалось, нейросеть обучалась на преимущественно «мужских» резюме, так как за последние десять лет на эти должности в Amazon шли в основном мужчины. Таким образом, ИИ решил, что предпочтительнее нанимать именно мужчин, поэтому ставил низкие оценки резюме, содержащим внутри слово «женский», а также данные об образовании в колледжах, где учатся исключительно девушки.

Инженеры попытались исправить сексистские задатки своего детища, но не смогли гарантировать того, что нейросеть не найдет другие маркеры для дискриминации тех или иных резюме.

В результате в начале 2017 года команда была распущена, а работа над ИИ полностью прекратилась. Пресс-служба Amazon отказалась комментировать этот проект, заявив, что нейросеть «никогда не использовалась рекрутерами для оценки соискателей». Тем не менее, компания не опровергла информацию о том, что сотрудники отдела кадров просматривали рекомендации, подготовленные компьютером.

Согласно исследованию CareerBuilder, около 55% HR-департаментов считают, что искусственный интеллект станет неотъемлемой частью их работы в ближайшие пять лет. Тем не менее, ученые в этой сфере настроены не так оптимистично, ведь пока невозможно сделать так, чтобы нейросеть была максимально непредвзята и объективна — все-таки, ее обучают настоящие люди, имеющие свои взгляды и принципы.

«Я совершенно точно не стал бы доверять ИИ принимать решение о найме. Технология еще не готова», — заявил вице-президент по HR компании LinkedIn Джон Джерсин.

Что же касается Amazon, один из источников сообщил о том, что компания продолжает использовать нейросети при найме, но она выполняет лишь рутинные функции — например, удаляет дубликаты резюме, попавшие в базу данных дважды. Другой источник уверяет, что в Эдинбурге уже созвана новая команда, которая работает над другим проектом, который поможет сохранить разнообразие в коллективе.

На прошлой неделе стало известно об еще одном скандале, связанном с Amazon. После многочисленных демонстраций со стороны сотрудников, глава Amazon и по совместительству самый богатый человек на планете Джефф Безос решил поднять минимальную зарплату работников складов своей компании до $15 в час.

Источник: www.Gazeta.ru

Похожие статьи

Джефф Безос лишил своих сотрудников бонусов после того, как повысил зарплату

В начале текущей недели стало известно, что глава Amazon повысил минимальный уровень зарплаты для своих сотрудников до $15 в час - таким образом Джефф Безос...

04.10.18 1 1

Amazon грозит штраф за нарушение антимонопольного законодательства

Компании Amazon может грозить крупный штраф - ритейл-гиганта обвиняют в антиконкурентных практиках, мешающих деятельности других продавцов. За дело Amazon взялась...

20.09.18 3 1

Сотрудники Amazon рассказали об ужасающих рабочих условиях в компании

Сотрудники Amazon, работающие на многочисленных складах по всей Америке, жалуются на невыносимые условия труда - они получают травмы, падают от изнеможения на рабочем...

31.07.18 2 1

Глава Amazon Джефф Безос стал богатейшим человеком в современной истории

Глава Amazon Джефф Безос снова стал богатейшим человеком, который когда-либо ступал по земле. Но даже состояние в $151 млрд не гарантирует устранение всех проблем,...

17.07.18 2 1

У "Яндекса" появилась своя "умная" колонка

Мир "умных" колонок, способных заказать такси или рассказать о погоде, пополнился новым гаджетом от компании "Яндекс". "Газета.Ru" вспомнила, какие еще крупные...

29.05.18 3 1

Роскомнадзор начал блокировать адреса Amazon из-за Telegram

Роскомнадзор приступил к активной фазе "битвы против Telegram", заблокировав сотни тысяч IP-адресов, которыми может пользоваться мессенджер, при этом под раздачу...

26.04.18 3 1

Самое интересное в рубрике