Виртуальный рекрутер Amazon оказался сексистом


То, что крупные корпорации используют искусственный интеллект, чтобы ускорить и улучшить поиск новых сотрудников уже не новость.

Таким путем пошла не только компания Unilever, но и Amazon. Но последняя столкнулась с неожиданной проблемой — ее ИИ оказался сексистом.

Известно, что команда работала над соответствующей программой с 2014 года. Главное, чего хотели достичь разработчики, это полной автоматизации, которая позволит доминировать в области электронной коммерции. Потому что вообще речь шла об организации работы внутри компании, а впоследствии и о принятии решений по ценообразованию.

Экспериментально виртуальный рекрутер использовал ИИ, чтобы оценивать соискателей по шкале от одной до пяти звезд — так же, как покупатели оценивают товары Amazon.

В 2015 году в компании поняли, что их новая система имеет предвзятое отношение к женщинам, которые претендовали на должности разработчиков программного обеспечения и другие технические вакансии.

Дело в том, что компьютерный алгоритм должен проверять соискателей, анализируя закономерности их резюме за 10 лет. Большинство кандидатов были мужского пола, и это отражало мужское доминирование в технологической отрасли. Поэтому система и сделала вывод, что лучше выбирать кандидатов-мужчин. Поэтому и отвергала резюме, где встречалось слово «женский». Например, «капитан женского клуба шахмат».

Отмечается, что в программу внесли соответствующие правки. Однако гарантий того, что в будущем ИИ не окажет других дискриминационных выводов, не было.

В конце концов в начале 2017 года команду этого проекта распустили, потому что руководство компании утратило надежду, что система заработает как надо.

В Amazon отказались от комментариев по этому поводу.

Источник


Comments 6


24.10.2018 20:33
0

💡 @dartvader1987 получил апвоут на 17% (VotingPower 9296.66).
Апайте посты блога: /@djimirji и будете получать апвоуты на 40%
Пост может попасть в двухдневный рейтинг и получить награду в случае АПА поста
Пост может попасть в еженедельный рейтинги получить награду в случае АПА поста

Условия вызова бота:

  • Кто угодно может оставить призыв под автором поста, находящимся у меня в подписчиках.
  • Бот можно вызывать не более 3-х раз за 24 часа.
  • АП на 20%, если "батарейка" более 93%. АП на 17% если батарейка от 92% до 85%. АП 12% если ниже 85%.
  • После АПОВ коментариев бот голосует с большей силой.
24.10.2018 20:47
0

25.10.2018 01:01
0

Сюда приплывал Моби Дик

27.10.2018 07:36
0

💡 Поздравляю, Ваш пост попал в рейтинг: Еженедельный рейтинг постов от djimirji. Неделя 22.10.2018-28.10.2018.

В случае апвоута поста с наградой, вознаграждение составило бы: 0.250 GOLOS

31.10.2018 10:01
0