Узнавая новые языки искусственный интеллект становится расистом

"Если в систему онлайн перевода ввести фразу "он/она является доктором" на языке, в котором он и она обозначаются одним словом, искусственный интеллект переведет ее как "он врач". Однако если написать "он/она является медсестрой", машина переведет это как "она медсестра"", - рассказывает руководитель исследования Айлин Калискан. "Таким образом, искусственный интеллект отражает половые и расовые предрассудки, встроенные в человеческие языки", — подытоживает она.

Дальнейшее исследование показало, что машина ассоциирует слово "приятный" чаще с европейцами и американцами европейского происхождения, чем с жителями других частей мира. Имена мужчин и "мужские" местоимения ассоциируются с карьерой, властью и управлением бизнесом. В то же время, имена афро-американцев искусственный интеллект ассоциирует с неприятными словами.

Подобным образом слова, связанные с женщинами чаще всего связываются с семьей, искусством и подчиненными ролями в обществе, тогда как "мужские" слова - с математикой и наукой.