В июне 2017 года специалисты Facebook по исследованию возможностей искусственного интеллекта (FAIR) опубликовали результаты обучения ботов обычному человеческому общению в разных ситуациях. Сначала все шло хорошо, но в какой-то момент боты перешли на свой собственный вариант языка, непонятный для человека. Чтобы избежать непредсказуемых последствий, учёные решили отключить систему искусственного интеллекта и запрограммировать общение ботов только на английском языке.
С подобной проблемой столкнулись и в Microsoft, Google, Amazon и Apple.
Специалисты считают, что необходима осторожность с ИИ, так как машины могут многое сделать лучше нас.
Компьютеры научились распознавать изображения, речь (Siri на смартфонах). Они уже обыгрывают чемпионов в шахматы, определяют раковые клетки, изучают человеческий мозг.
Автопилот в машинах и поиск в Google и Яндекс - это тоже про искусственный интеллект.
Мы не можем понять как мыслит система ИИ, не имея возможности видеть их мыслительный процесс.
Чтобы искусственный интеллект не вышел из-под контроля человека, необходимо жёстко регулировать исследования ИИ, чтобы остановить ботов в случае опасности.
