|
|
|
|
|
|
|
|
|
|
Не все слова равны - обращайте внимание только на важные |
|
|
 С момента своего появления в 2015 году механизм внимания встроен в современные модели НЛП, такие как Google BERT и OpenAI GPT-3. Ключевым нововведением механизма внимания является избирательность - он может сделать вывод, какие слова или фразы в предложении являются наиболее важными, на основе сравнения со словосочетаниями, с которыми алгоритм ранее сталкивался на этапе обучения. Модели НЛП требуют огромной нагрузки на компьютер.
Важность ключевых слов лежит в основе нового популярного инструмента обработки естественного языка (НЛП) компьютерами: механизма внимания. Когда он закодирован в более широкий алгоритм НЛП, механизм внимания сосредотачивается на ключевых словах, а не рассматривает каждое слово с равной важностью. Это дает лучшие результаты в задачах НЛП, таких как определение положительных или отрицательных настроений или прогнозирование того, какие слова должны быть следующими в предложении.
Исследователи Массачусетского технологического института разработали комбинированную систему, получившую название SpAtten, которая специализируется на работе механизма внимания. "Наша система похожа на то, как человеческий мозг обрабатывает язык", - говорит Ханруи Ван. "Мы читаем очень быстро и просто сосредотачиваемся на ключевых словах. Это идея SpAtten".
Исследование будет представлено в этом месяце на Международном симпозиуме IEEE по архитектуре высокопроизводительных компьютеров. Ван - ведущий автор статьи и аспирант кафедры электротехники и компьютерных наук. Соавторы - Чжэкай Чжан и их научный руководитель, доцент Сун Хан.
Дональд Трамп присоединился к тысячам других пользователей социальных сетей, которые были заблокированы или удален их контент. |
Ученые из Королевского технологического института в Стокгольме планируют составить так называемый словарь языка дельфинов. В качестве материала для исследования будут взяты звуки афалин, которые живут в Кольморденском дельфинарии на юге Швеции, пишет издание Futurism. |
Международная исследовательская группа во главе с Расселом Греем из Института Макса Планка (Германия) разработала алгоритм Infomap, способный автоматически определять родство слов в разных языках с точностью 89%. Результаты работы алгоритма были опубликованы в журнале PLoS One. |
Человеческий мозг способен "понимать" иерархическую структуру языка, отличая слова от словосочетаний и предложений, и эта способность является врожденной. К такому выводу пришла группа ученых под руководством Дэвида Поппеля из Нью-Йоркского университета, подтвердив теорию врожденной грамматики Ноама Хомского. |
Компания Google намерена привлечь пользователей к улучшению качества сервиса автоматизированного перевода Google Translate. Об этом сообщается в официальном блоге компании. |
Самой влиятельной персоной в англоязычном сегменте Википедии оказался Фрэнк Синатра. Об этом свидетельствуют результаты анализа статей энциклопедии, проведенного группой исследователей из Университета Тулузы. |
Ученые Технологического института города Карлсруэ (федеральная земля Баден-Вюртемберг, Германия) разработали уникальную программу для автоматического синхронного перевода. |
Несмотря на то, что интернет в последние годы играет все более важную роль в жизни каждого человека, некоторые реалии остаются за бортом, не попадая в интернет. В такой ситуации находится ряд языков, которые хотя и насчитывают миллионы носителей, практически не представлены в интернете. |
Показать еще
|
|
|
|
| | | |                                | | | |
 |
Последний наш перевод:
"Статья по психологии / Article on psychology", Психология и философия
метки перевода: показание, комплекс, анализировать, медицинский.
Переводы в работе: 106
Загрузка бюро: 61% |
|
 |
| | | |
| | |
| |
|
