|
|
|
|
|
|
|
|
|
|
BERT - языковая модель от Google (часть 2) |
|
|
 Идея в основе BERT лежит очень простая: давайте на вход нейросети будем подавать фразы, в которых 15% слов заменим на [MASK], и обучим нейронную сеть предсказывать эти закрытые маской слова. 
Например, если подаем на вход нейросети фразу "Я пришел в [MASK] и купил [MASK]", она должна на выходе показать слова "магазин" и "молоко". Это упрощенный пример с официальной страницы BERT, на более длинных предложениях разброс возможных вариантов становится меньше, а ответ нейросети однозначнее.
А для того, чтобы нейросеть научилась понимать соотношения между разными предложениями, дополнительно обучим ее предсказывать, является ли вторая фраза логичным продолжением первой. Или это какая-то случайная фраза, не имеющая никакого отношения к первой.
Так, для двух предложений: "Я пошел в магазин." и "И купил там молоко.", нейросеть должна ответить, что это логично. А если вторая фраза будет "Карась небо Плутон", то должна ответить, что это предложение никак не связано с первым.
Обучив таким образом нейронную сеть на корпусе текстов из Wikipedia и сборнике книг BookCorpus в течении 4 дней, получили BERT.
Есть известная китайская поговорка 民以食为天 – люди почитают пищу как небо. Из этого перевода, можно понять, насколько важна и незаменима еда в жизни китайцев. В данной статье 6 выражений, которые доказывают данное утверждение. |
SEO развивается, адаптируясь к быстрому развитию технологий искусственного интеллекта (ИИ) и машинного обучения. |
Глоссарий предназначен в первую очередь для переводчиков текстов, связанных с искусственным интеллектом, нейросетями и чатботами. Но будет интересен и для широкого круга читателей, интересующихся вопросами, связанными с использованием нейронных сетей.
|
Исскуственный интеллект (ИИ) все больше и больше переплетается с нашим будущим, и по мере того, как язык ИИ проникает в разговоры, изучение специальной лексики ИИ может быть полезным для понимания многих ключевых технологических достижений. |
Сотрудники компании «Яндекса» Алексей Тихонов и Иван Ямщиков создали алгоритм, который пишет рифмованные тексты в стиле вокалиста Nirvana Курта Кобейна. |
Согласно статистике, приведенной в региональных разделах сайта wikimedia.org, русскоязычный раздел популярной онлайн-энциклопедии Wikipedia по количеству словарных статей опередил польский раздел, поднявшись на седьмую строчку с более 935 тыс. статей. |
Mother's Day is celebrated to honor all mothers. People take the day as an opportunity to pay tribute to their mothers and thank them for all their love and support. Most countries including US, Australia, Canada and India celebrate Mothers Day on the second Sunday of May. |
"21st Century Media: New Frontiers, New Barriers" is the theme of this year's World Press Freedom Day, celebrated on 3 May, with major events in Washington DC and New York (USA), alongside local and regional events all over the world. |
Показать еще
|
|
|
|
| | | |                                | | | |
 |
Последний наш перевод:
"Письмо / Letter
", Личная корреспонденция
метки перевода:
Переводы в работе: 80
Загрузка бюро: 27% |
|
 |
| | | |
| | |
| |
|
