• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • A
  • A
  • A
  • A
  • A
Обычная версия сайта
  • RU
  • EN
  • Национальный исследовательский университет «Высшая школа экономики»
  • Публикации ВШЭ
  • Глава
  • Neural Networks Compression for Language Modeling
  • RU
  • EN
Расширенный поиск
Высшая школа экономики
Национальный исследовательский университет
Приоритетные направления
  • бизнес-информатика
  • государственное и муниципальное управление
  • гуманитарные науки
  • инженерные науки
  • компьютерно-математическое
  • математика
  • менеджмент
  • право
  • социология
  • экономика
по году
  • 2027
  • 2026
  • 2025
  • 2024
  • 2023
  • 2022
  • 2021
  • 2020
  • 2019
  • 2018
  • 2017
  • 2016
  • 2015
  • 2014
  • 2013
  • 2012
  • 2011
  • 2010
  • 2009
  • 2008
  • 2007
  • 2006
  • 2005
  • 2004
  • 2003
  • 2002
  • 2001
  • 2000
  • 1999
  • 1998
  • 1997
  • 1996
  • 1995
  • 1994
  • 1993
  • 1992
  • 1991
  • 1990
  • 1989
  • 1988
  • 1987
  • 1986
  • 1985
  • 1984
  • 1983
  • 1982
  • 1981
  • 1980
  • 1979
  • 1978
  • 1977
  • 1976
  • 1975
  • 1974
  • 1973
  • 1972
  • 1971
  • 1970
  • 1969
  • 1968
  • 1967
  • 1966
  • 1965
  • 1964
  • 1963
  • 1958
  • еще
Тематика
Новости
6 ноября 2026 г.
Ученые НИУ ВШЭ - Санкт-Петербург разработали новый инструмент для речевой терапии после инсульта
Ученые НИУ ВШЭ — Санкт-Петербург совместно с коллегами из отделения нейрореабилитации Федерального Сибирского научно-клинического центра ФМБА в Красноярске разработали корпус упрощенных текстов для пациентов с афазией разной степени тяжести. Клинические исследования показали, что материалы по актуальным тематикам мотивируют активнее заниматься восстановлением речи после инсульта. Исследование опубликовано в журнале Aphasiology.
3 ноября 2026 г.
Физики научили ИИ настраивать пучок частиц в ускорителе
Исследователи Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ и Института ядерной физики СО РАН разработали RLABC — программу, которая помогает подбирать оптимальные настройки ускорителя частиц с помощью обучения с подкреплением. В компьютерном эксперименте программа настроила модель так, что до конца ускорителя доходило около 70% частиц. Исследование опубликовано в журнале Computer Physics Communications.
3 ноября 2026 г.
«Органы на чипе позволяют проверять лекарства без экспериментов на животных»
Лаборатория молекулярной физиологии факультета биологии и биотехнологии НИУ ВШЭ изучает, как молекулярные регуляторы (микроРНК) управляют работой генов и влияют на развитие болезней — онкологических, вирусных и воспалительных, а также осложнений беременности. В Вышке выращивают модели органов человека на чипе: крошечные устройства с живыми клетками, воспроизводящие работу, например, плаценты или кишечника. Модели помогают понять, как возникают болезни и как на них действуют лекарства. «Вышка.Главное» побеседовала с заведующим лабораторией Евгением Князевым.

 

Нашли опечатку?
Выделите её, нажмите Ctrl+Enter и отправьте нам уведомление. Спасибо за участие!

Публикации
  • Книги
  • Статьи
  • Главы в книгах
  • Препринты
  • Верификация публикаций
  • Расширенный поиск
  • Правила использования материалов
  • Наука в ВШЭ

?

Neural Networks Compression for Language Modeling

P. 351–357.
Грачев А. М., Игнатов Д. И., Савченко А. В.
Язык: английский
Полный текст
DOI
Текст на другом сайте
Ключевые слова: quantizationlanguage modelingPruningLSTMRNNLow-rank factorization

В книге

Pattern Recognition and Machine Intelligence. 7th International Conference, PReMI 2017, Kolkata, India, December 5-8, 2017, Proceedings. Lecture Notes in Computer Science book series (LNCS, volume 10597)
Springer, 2017.
Похожие публикации
Amplifying Latent Safety in Large Language Models via Gated Activation Steering
Roman Prosvirnin, Suslov A., Aleksei Soldatov и др., Computation 2026 Vol. 14 No. 10 Article 261
Добавлено: 27 октября 2026 г.
MinMAE calibration method for convolutional neural network quantization
Vasilev A., Kapitanov A., Roman Solovyev и др., PeerJ Computer Science 2026 Vol. 12 Article 3724
Добавлено: 3 мая 2026 г.
Free energy of neural network can predict accuracy after pruning
Сурков А. Ю., Sergei Koltcov, Игнатенко В. В. и др., Physica A: Statistical Mechanics and its Applications 2025 Vol. 681 Article 131085
Добавлено: 30 октября 2025 г.
Применение методов машинного обучения для прогнозирования нефтяных котировок
Назарова В. В., Лодягин Б. А., Круглов Ф. А. и др., AlterEconomics (ранее - Журнал экономической теории) 2025 № 22(3) С. 482–502
Статья посвящена сравнительному анализу точности краткосрочного прогнозирования цен на нефть с использованием традиционных статистических моделей (ARIMA, SARIMAX) и модели глубинного обучения LSTM. Актуальность исследования обусловлена высокой волатильностью нефтя ного рынка и необходимостью повышения точности прогнозов в условиях нестабильной макроэконо мической среды, где нефтяные котировки зависят не только от собственной динамики, но и от внеш них ...
Добавлено: 5 октября 2025 г.
Application of Large Language Models to Solving Differential Equations: Constructing Baseline Models with LSTM and GRU
Сурков А. Ю., Захаров В. Ю., Sergei Koltcov и др., , in: Smart Technologies, Systems and Applications: 4th International Conference, SmartTech-IC 2024, Quito, Ecuador, December 2–4, 2024, Revised Selected Papers, Part IIVol. 2: Revised Selected Papers, Part II.: Springer, 2025. P. 239–252.
Добавлено: 11 сентября 2025 г.
Deep learning deciphers the related role of master regulators and G-quadruplexes in tissue specification
Башкатов А. Б., Andreasyan A., Коновалов Д. Л. и др., Scientific Reports 2025 Vol. 15 Article 23119
G-quadruplexes (GQs) are non-canonical DNA structures encoded by G-flipons with potential roles in gene regulation and chromatin structure. Here, we explore the role of G-flipons in tissue specification. We present a deep learning-based framework for the genome-wide G-flipon predictions across 14 human tissue types. The model was trained using high-confidence experimental maps of GQ-forming sequences ...
Добавлено: 8 августа 2025 г.
Functional models of elementary discursive units in Russian eSports commentary
Микулинский А. Д., , in: Синергия языков и культур 2022: междисциплинарные исследования.: St. Petersburg: -, 2023. P. 335–351.
Добавлено: 12 мая 2024 г.
DeepZ: A Deep Learning Approach for Z-DNA Prediction
Бекназаров Н. С., , in: Z-DNA: Methods and Protocols.: United States of America: Springer, 2023. P. 217–226.
Here we describe an approach that uses deep learning neural networks such as CNN and RNN to aggregate information from DNA sequence; physical, chemical, and structural properties of nucleotides; and omics data on histone modifications, methylation, chromatin accessibility, and transcription factor binding sites and data from other available NGS experiments. We explain how with the ...
Добавлено: 26 декабря 2023 г.
Application of the Method of Multivariate Multi-stage Forecasting Based on the LSTM Deep Learning Model for Bitcoin Price Time Series
Natalia Sizykh, Said Dandamaev, Dmitry Sizykh, , in: 16th International Conference Management of large-scale system development (MLSD).: IEEE, 2023. P. 1–5.
На данный момент методы, основанные на архитектуре глубокого обучения LSTM, показали лучшие результаты в прогнозировании цен на криптовалюту. В данной статье исследуется применение метода многомерного многошагового прогнозирования на основе модели глубокого обучения LSTM для временных рядов цен биткойнов и оценивается его эффективность. Проанализированы варианты реализации многомерного многошагового прогнозирования на основе глубокого обучения LSTM и выбран ...
Добавлено: 22 декабря 2023 г.
Classification of Short Scientific Texts
I. K. Kusakin, Fedorets O. V., A. Y. Romanov, Scientific and Technical Information Processing 2023 Vol. 50 No. 3 P. 176–183
Добавлено: 4 ноября 2023 г.
TAPE: Assessing Few-shot Russian Language Understanding
Такташева Е. В., Shavrina T., Fenogenova A. и др., , in: Findings of the Association for Computational Linguistics: EMNLP 2022.: Association for Computational Linguistics, 2022. P. 2472–2497.
Добавлено: 22 сентября 2023 г.
Исследование методов машинного обучения для классификации научных текстов на русском языке
Кусакин И. К., Федорец О. В., Романов А. Ю., Научно-техническая информация. Серия 2: Информационные процессы и системы 2022 Т. 12 С. 6–9
В данной работе рассматриваются современные подходы к обработке естественного языка и применения технологий искусственного интеллекта в задаче классификации научных текстов на русском языке. Работа посвящена анализу реализаций методов векторизации текстовой информации применительно к задаче обучения различных моделей классификаторов: от классических алгоритмов машинного обучения до нейросетевых архитектур-трансформеров. ...
Добавлено: 31 января 2023 г.
Comparison of different coding schemes for 1-bit ADC
Осипов Д. С., / Series arXiv "math". 2022. No. 1.
Добавлено: 27 декабря 2022 г.
Ad Astra or Astray: Exploring Linguistic Knowledge of Multilingual BERT through NLI Task
Тихонова М. И., Михайлов В. Н., Dina Pisarevskaya и др., Natural Language Engineering 2022 P. 1–30
Добавлено: 21 мая 2022 г.
Are CDS spreads predictable during the Covid-19 pandemic? Forecasting based on SVM, GMDH, LSTM and Markov switching autoregression
Вукович Д., Романюк К. А., Ivashchenko S. и др., Expert Systems with Applications 2022 Vol. 194 No. May 2022 Article 116553
Добавлено: 4 февраля 2022 г.
Geometric Methods in Physics XXXVIII. Workshop, Białowieża, Poland, 2019
Cham: Birkhäuser, 2020.
The book consists of articles based on the XXXVIII Białowieża Workshop on Geometric Methods in Physics, 2019. The series of Białowieża workshops, attended by a community of experts at the crossroads of mathematics and physics, is a major annual event in the field. The works in this book, based on presentations given at the workshop, ...
Добавлено: 3 ноября 2021 г.
Predictive models for metrological data of engineering systems
Lukankin Alexander, Slastnikov Sergey, Journal of Physics: Conference Series 2021 Vol. 1740 P. 1–6
Добавлено: 2 февраля 2021 г.
Deep learning approach for predicting functional Z-DNA regions using omics data
Beknazarov N., Джин С., Попцова М. С., Scientific Reports 2020 Vol. 10 P. 19134
Computational methods to predict Z-DNA regions are in high demand to understand the functional role of Z-DNA. The previous state-of-the-art method Z-Hunt is based on statistical mechanical and energy considerations about B- to Z-DNA transition using sequence information. Z-DNA CHiP-seq experiment results showed little overlap with Z-Hunt predictions implying that sequence information only is not ...
Добавлено: 11 декабря 2020 г.
Linearly Converging Error Compensated SGD
Eduard Gorbunov, Kovalev D., Makarenko D. и др., , in: Advances in Neural Information Processing Systems 33 (NeurIPS 2020).: Curran Associates, Inc., 2020. P. 20889–20900.
Добавлено: 7 декабря 2020 г.
Extensions of vertex algebras. Constructions and applications
Фейгин Б. Л., Russian Mathematical Surveys 2017 Vol. 72 No. 4 P. 707–763
Добавлено: 5 ноября 2020 г.
Leveraging Emotional Signals for Credibility Detection
Giachanou A., Россо П., Crestani F., , in: Proceedings of the 42nd International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR ’19).: NY: Association for Computing Machinery (ACM), 2019. P. 877–880.
Добавлено: 29 октября 2020 г.
Towards trigonometric deformation of 𝔰𝔩ˆ2 coset VOA
Фейгин Б. Л., Jimbo M., Mukhin E., Journal of Mathematical Physics 2019 Vol. 60 No. 7 P. 073507-1–073507-16
Добавлено: 10 декабря 2019 г.
  • О ВЫШКЕ
  • Цифры и факты
  • Руководство и структура
  • Устойчивое развитие в НИУ ВШЭ
  • Преподаватели и сотрудники
  • Корпуса и общежития
  • Закупки
  • Обращения граждан в НИУ ВШЭ
  • Фонд целевого капитала
  • Противодействие коррупции
  • Сведения о доходах, расходах, об имуществе и обязательствах имущественного характера
  • Сведения об образовательной организации
  • Людям с ограниченными возможностями здоровья
  • Единая платежная страница
  • Работа в Вышке
  • ОБРАЗОВАНИЕ
  • Лицей
  • Довузовская подготовка
  • Олимпиады
  • Прием в бакалавриат
  • Вышка+
  • Прием в магистратуру
  • Аспирантура
  • Дополнительное образование
  • Центр развития карьеры
  • Бизнес-инкубатор ВШЭ
  • Образовательные партнерства
  • Обратная связь и взаимодействие с получателями услуг
  • НАУКА
  • Научные подразделения
  • Исследовательские проекты
  • Мониторинги
  • Диссертационные советы
  • Защиты диссертаций
  • Академическое развитие
  • Конкурсы и гранты
  • Внешние научно-информационные ресурсы
  • РЕСУРСЫ
  • Библиотека
  • Издательский дом ВШЭ
  • Книжный магазин «БукВышка»
  • Типография
  • Медиацентр
  • Журналы ВШЭ
  • Публикации
  • http://www.minobrnauki.gov.ru/
    Министерство науки и высшего образования РФ
  • https://edu.gov.ru/
    Министерство просвещения РФ
  • https://elearning.hse.ru/mooc
    Массовые открытые онлайн-курсы
  • НИУ ВШЭ1993–2026
  • Адреса и контакты
  • Условия использования материалов
  • Политика обработки персональных данных
  • Правила применения рекомендательных технологий в НИУ ВШЭ
  • Карта сайта
Редактору