После протестов мусульманских защитников Google Translate недавно обновил запись для арабского слова, которое усилило оскорбительные стереотипы по отношению к арабам и более широкому мусульманскому сообществу.Освежая арабскую лексику, один пользователь отметил, что перевод в Google Translate для арабского слова "تخطط" (в переводе на русский – "план") сопровождался примером "планировать взорвать машину". Google обратился к этой проблеме вскоре после того, как СМИ и Совет по американо-исламским отношениям (CAIR) связался с компанией, отметив, что ошибка возникла в результате того, что искусственный интеллект (ИИ) воспроизвел оскорбительную лексику.
За последние пару лет Google неоднократно публично обращался к этим проблемам, отмечая, что он осведомлен об оскорбительном уклоне в некоторых своих переводах и работает над его уменьшением.
Такая предвзятость, хотя и вызывает беспокойство, не является ошибкой разработчиков: системы машинного перевода обучаются на огромных наборах данных человеческого языка, они также могут копировать человеческие предубеждения. Эксперты по технологии заявили, что разработчики должны учитывать последствия воспроизведения стереотипов и работать над их максимально возможным уменьшением.
Google удалил оскорбительную фразу из примеров к слову вскоре после получения критики.
"Мы приветствуем быстрое решение этой проблемы и надеемся, что будут приняты меры для обеспечения того, чтобы службы перевода не выдавали таких стереотипных результатов для любого языка", – сказал Нихад Авад, национальный исполнительный директор CAIR.
