• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • A
  • A
  • A
  • A
  • A
Обычная версия сайта
  • RU
  • EN
  • Национальный исследовательский университет «Высшая школа экономики»
  • Публикации ВШЭ
  • Глава
  • Transformers: “The End of History” for Natural Language Processing?
  • RU
  • EN
Расширенный поиск
Высшая школа экономики
Национальный исследовательский университет
Приоритетные направления
  • бизнес-информатика
  • государственное и муниципальное управление
  • гуманитарные науки
  • инженерные науки
  • компьютерно-математическое
  • математика
  • менеджмент
  • право
  • социология
  • экономика
по году
  • 2027
  • 2026
  • 2025
  • 2024
  • 2023
  • 2022
  • 2021
  • 2020
  • 2019
  • 2018
  • 2017
  • 2016
  • 2015
  • 2014
  • 2013
  • 2012
  • 2011
  • 2010
  • 2009
  • 2008
  • 2007
  • 2006
  • 2005
  • 2004
  • 2003
  • 2002
  • 2001
  • 2000
  • 1999
  • 1998
  • 1997
  • 1996
  • 1995
  • 1994
  • 1993
  • 1992
  • 1991
  • 1990
  • 1989
  • 1988
  • 1987
  • 1986
  • 1985
  • 1984
  • 1983
  • 1982
  • 1981
  • 1980
  • 1979
  • 1978
  • 1977
  • 1976
  • 1975
  • 1974
  • 1973
  • 1972
  • 1971
  • 1970
  • 1969
  • 1968
  • 1967
  • 1966
  • 1965
  • 1964
  • 1963
  • 1958
  • еще
Тематика
Новости
15 мая 2026 г.
В НИУ ВШЭ разрабатывают нейросеть для сферы науки и инноваций
Исследователи НИУ ВШЭ учат большие языковые модели понимать русскоязычную научную терминологию, увеличивая при этом их энергоэффективность. Адаптированная модель работает в 2,7 раза быстрее и требует на 73% меньше памяти, чем исходная открытая модель, что позволяет запускать ее на более доступном оборудовании. Программа прошла государственную регистрацию.
15 мая 2026 г.
Стартовал совместный спецпроект бренд-медиа Вышки IQ Media и iFORA ИСИЭЗ
В мае 2026 года стартовал научно-популярный проект «Искусственный интеллект: технологии, данные и будущее», который стал результатом работы двух команд — проекта iFORA Института статистических исследований и экономики знаний НИУ ВШЭ и редакции бренд-медиа IQMedia. Медийно-аналитический спецпроект посвящен современному развитию искусственного интеллекта и аналитике больших данных.
14 мая 2026 г.
<a>Ученые ФКН ВШЭ представили работы в сфере ИИ и биоинформатики на ICLR 2026
Ученые Института искусственного интеллекта и цифровых наук факультета компьютерных наук ВШЭи студенты трека «ИИ360: Инженерия искусственного интеллекта» бакалаврской программы «Прикладная математика и информатика» приняли участие в международной конференции ICLR — одном из самых авторитетных мировых форумов в области машинного обучения и представления данных. В этом году конференция состоялась в Рио-де-Жанейро (Бразилия).

 

Нашли опечатку?
Выделите её, нажмите Ctrl+Enter и отправьте нам уведомление. Спасибо за участие!

Публикации
  • Книги
  • Статьи
  • Главы в книгах
  • Препринты
  • Верификация публикаций
  • Расширенный поиск
  • Правила использования материалов
  • Наука в ВШЭ

?

Transformers: “The End of History” for Natural Language Processing?

P. 677–693.
Чернявский А. С., Ильвовский Д. А., Наков П.
Язык: английский
Полный текст
DOI
Текст на другом сайте
Ключевые слова: segmentationtransformerssequence classification
ПУБЛИКАЦИЯ ПОДГОТОВЛЕНА ПО РЕЗУЛЬТАТАМ ПРОЕКТА:
Синтез логических и статистических методов машинного обучения для междисциплинарных приложений (2021)

В книге

Machine Learning and Knowledge Discovery in Databases. Research Track: European Conference, ECML PKDD 2021, Bilbao, Spain, September 13–17, 2021, Proceedings,
* 3. , Springer, 2021.
Похожие публикации
The Third Visual Object Tracking Segmentation VOTS2025 Challenge Results
Kristan M., Matas J., Tokmakov P. и др., , in: 2025 IEEE/CVF International Conference on Computer Vision Workshops (ICCVW).: Honolulu: IEEE, 2025. P. 7472–7490.
Добавлено: 3 мая 2026 г.
Определение фолликулярного резерва яичников по данным ультразвукового исследования на основе методов машинного обучения
Мошкин А. С., Лапутин Ф. А., Сидоров И. В., DIGITAL DIAGNOSTICS 2024 Т. 5 № S1 С. 40–42
Обоснование. Овариальный резерв отражает способность женщины к успешной реализации репродуктивной функции. Оценка овариального резерва является актуальной задачей для клинической практики [1] и важна при проведении научных исследований. Использование методов компьютерной обработки диагностических изображений способно ускорить и облегчить выполнение рутинных задач в клинической практике. Их применение при ретроспективном анализе данных в научных целях позволяет повысить объективность ...
Добавлено: 21 февраля 2026 г.
Multimodal graph, surface, and language-based model for protein protein interaction prediction
Артеага Мореано Б. Д., Червов Н. Р., Попцова М. С., Scientific Reports 2026 Vol. 16 No. 1 Article 4772
Добавлено: 4 февраля 2026 г.
Segmentation of Vertebral Arteries on the MR Images
Prikhodko R., Moshkin A., Романов А. Ю., , in: 2025 International Russian Automation Conference (RusAutoCon).: IEEE, 2025. P. 273–278.
Добавлено: 6 ноября 2025 г.
GraphTyper: Вывод типов из графовой репрезентации кода посредством нейронных сетей
Арутюнов Г. А., Авдошин С. М., Труды Института системного программирования РАН 2024 Т. 36 № 4 С. 69–80
Несмотря на то, что программирование – это творческий процесс, достаточно много времени уходит на решение рутинных задач. Как и в других индустриях в сфере информационных технологий стремятся автоматизировать рутинные задачи. Во многих случаях применяются нейронные сети. Программирование не является исключением: Github заверяют, что уже около 30% кода написано при помощи Copilot. Этот инструмент основан на ...
Добавлено: 1 ноября 2024 г.
Mass Higher Education and the Changing Labour Market for Graduates: Between Employability and Employment
Edward Elgar Publishing, 2024.
As higher education continues to expand and an increasing number of graduates enter the workforce, this insightful book considers the crucial social and economic questions raised by this societal shift. Fátima Suleman, Pedro Videira and Pedro Teixeira bring together an array of experts to illustrate the connections between higher education and the labour market across ...
Добавлено: 15 августа 2024 г.
Analyzing the Robustness of Vision & Language Models
Ширнин А. А., Andreev N., Potapova S. и др., IEEE/ACM Transactions on Speech and Language Processing 2024 Vol. 32 P. 2751–2763
We present an approach to evaluate the robustness of pre-trained vision and language (V&L) models to noise in input data. Given a source image/text, we perturb it using standard computer vision (CV) / natural language processing (NLP) techniques and feed it to a V&L model. To track performance changes, we explore the problem of visual ...
Добавлено: 19 июля 2024 г.
Grammar in Language Models: BERT Study
Chistyakova K., Kazakova Tatiana, / NRU HSE. Series WP BRP "Linguistics". 2023. No. 115.
Добавлено: 29 ноября 2023 г.
Segmentation of Prostate Cancer on TRUS Images Using ML
Zaev R., Романов А. Ю., Solovyev R., , in: 2023 International Russian Smart Industry Conference (SmartIndustryCon), 27-31 March 2023.: Sochi: IEEE, 2023. P. 460–465.
Добавлено: 30 июля 2023 г.
A Pipeline for Traffic Accident Dataset Development
Степанянц В. Г., Mantsa Andzhusheva, Романов А. Ю., , in: 2023 International Russian Smart Industry Conference (SmartIndustryCon), 27-31 March 2023.: Sochi: IEEE, 2023. P. 621–626.
Добавлено: 30 июля 2023 г.
CrowdChecked: Detecting Previously Fact-Checked Claims in Social Media
Hardalov M., Чернявский А. С., Koychev I. и др., , in: Proceedings of the 2nd Conference of the Asia-Pacific Chapter of the Association for Computational Linguistics and the 12th International Joint Conference on Natural Language Processing (Volume 1: Long Papers).: Association for Computational Linguistics, 2022. P. 266–285.
Добавлено: 21 мая 2023 г.
Batch-Softmax Contrastive Loss for Pairwise Sentence Scoring Tasks
Чернявский А. С., Ильвовский Д. А., Kalinin P. и др., , in: Proceedings of the 2022 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (NAACL 2022).: Association for Computational Linguistics, 2022. P. 116–126.
Добавлено: 4 октября 2022 г.
Training Transformers Together
Борзунов А. А., Рябинин М. К., Dettmers T. и др., , in: Proceedings of the NeurIPS 2021 Competitions and Demonstrations Track.: PMLR, 2022. P. 335–342.
Добавлено: 27 июля 2022 г.
Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics
Association for Computational Linguistics, 2022.
Добавлено: 17 мая 2022 г.
Fine-Tuning Transformers: Vocabulary Transfer
Samenko I., Tikhonov A., Kozlovskii B. и др., / Series Computer Science "arxiv.org". 2021.
Добавлено: 17 января 2022 г.
It’s All in the Heads: Using Attention Heads as a Baseline for Cross-Lingual Transfer in Commonsense Reasoning
Tikhonov A., Рябинин М. К., , in: Findings of the Association for Computational Linguistics: ACL-IJCNLP 2021.: Association for Computational Linguistics, 2021. P. 3534–3546.
Добавлено: 30 сентября 2021 г.
LIORI at SemEval-2021 Task 8: Ask Transformer for measurements
Davletov A., Gordeev D., Nikolay Arefyev и др., , in: Proceedings of the 15th International Workshop on Semantic Evaluation (SemEval-2021).: Association for Computational Linguistics, 2021. P. 1249–1254.
Добавлено: 23 сентября 2021 г.
Оттенки "зеленой" коммуникации в ретейле: экономический анализ учета экотренда
Лебедев А. В., Исраелян Е. А., Маркетинговые коммуникации 2021 № 02(114) С. 124–138
Во время пандемии здоровье стало главной ценностью. Продуктовые ретейлеры осознали преимущества коммуникации с экопотребителями. Авторы выделили сегменты покупателей в зависимости от их отношения к ЗОЖ. В статье приведены данные о половозрастной структуре потребителей с указанием средних значений чеков, описаны портреты различных типов экопотребителей и каналы коммуникации с ними. ...
Добавлено: 10 июня 2021 г.
Spatially intermixed objects of different categories are parsed automatically
Хвостов В. А., Лукашевич А. О., Уточкин И. С., Scientific Reports 2021 No. 11 P. 1–8
Добавлено: 26 января 2021 г.
  • О ВЫШКЕ
  • Цифры и факты
  • Руководство и структура
  • Устойчивое развитие в НИУ ВШЭ
  • Преподаватели и сотрудники
  • Корпуса и общежития
  • Закупки
  • Обращения граждан в НИУ ВШЭ
  • Фонд целевого капитала
  • Противодействие коррупции
  • Сведения о доходах, расходах, об имуществе и обязательствах имущественного характера
  • Сведения об образовательной организации
  • Людям с ограниченными возможностями здоровья
  • Единая платежная страница
  • Работа в Вышке
  • ОБРАЗОВАНИЕ
  • Лицей
  • Довузовская подготовка
  • Олимпиады
  • Прием в бакалавриат
  • Вышка+
  • Прием в магистратуру
  • Аспирантура
  • Дополнительное образование
  • Центр развития карьеры
  • Бизнес-инкубатор ВШЭ
  • Образовательные партнерства
  • Обратная связь и взаимодействие с получателями услуг
  • НАУКА
  • Научные подразделения
  • Исследовательские проекты
  • Мониторинги
  • Диссертационные советы
  • Защиты диссертаций
  • Академическое развитие
  • Конкурсы и гранты
  • Внешние научно-информационные ресурсы
  • РЕСУРСЫ
  • Библиотека
  • Издательский дом ВШЭ
  • Книжный магазин «БукВышка»
  • Типография
  • Медиацентр
  • Журналы ВШЭ
  • Публикации
  • http://www.minobrnauki.gov.ru/
    Министерство науки и высшего образования РФ
  • https://edu.gov.ru/
    Министерство просвещения РФ
  • http://www.edu.ru
    Федеральный портал «Российское образование»
  • https://elearning.hse.ru/mooc
    Массовые открытые онлайн-курсы
  • НИУ ВШЭ1993–2026
  • Адреса и контакты
  • Условия использования материалов
  • Политика конфиденциальности
  • Правила применения рекомендательных технологий в НИУ ВШЭ
  • Карта сайта
Редактору