• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • A
  • A
  • A
  • A
  • A
Обычная версия сайта
  • RU
  • EN
  • Национальный исследовательский университет «Высшая школа экономики»
  • Публикации ВШЭ
  • Глава
  • LoRA meets Riemannion: Muon Optimizer for Parametrization-independent Low-Rank Adapters
  • RU
  • EN
Расширенный поиск
Высшая школа экономики
Национальный исследовательский университет
Приоритетные направления
  • бизнес-информатика
  • государственное и муниципальное управление
  • гуманитарные науки
  • инженерные науки
  • компьютерно-математическое
  • математика
  • менеджмент
  • право
  • социология
  • экономика
по году
  • 2027
  • 2026
  • 2025
  • 2024
  • 2023
  • 2022
  • 2021
  • 2020
  • 2019
  • 2018
  • 2017
  • 2016
  • 2015
  • 2014
  • 2013
  • 2012
  • 2011
  • 2010
  • 2009
  • 2008
  • 2007
  • 2006
  • 2005
  • 2004
  • 2003
  • 2002
  • 2001
  • 2000
  • 1999
  • 1998
  • 1997
  • 1996
  • 1995
  • 1994
  • 1993
  • 1992
  • 1991
  • 1990
  • 1989
  • 1988
  • 1987
  • 1986
  • 1985
  • 1984
  • 1983
  • 1982
  • 1981
  • 1980
  • 1979
  • 1978
  • 1977
  • 1976
  • 1975
  • 1974
  • 1973
  • 1972
  • 1971
  • 1970
  • 1969
  • 1968
  • 1967
  • 1966
  • 1965
  • 1964
  • 1963
  • 1958
  • еще
Тематика
Новости
19 мая 2026 г.
Физики НИУ ВШЭ выяснили, что происходит внутри устойчивого вихря
В атмосфере и в океане часто наблюдаются крупные вихри с характерными спиральными рукавами. Физики из НИУ ВШЭ объяснили, как они формируются и почему сохраняют свою структуру. Оказалось, что скорости в точках, расположенных вдоль одной дуги вихря, остаются связанными даже на больших расстояниях. При этом в направлении от центра вихря эта связь быстро ослабевает. Такие различия помогают объяснить образование рукавов и могут улучшить модели атмосферных и океанических течений. Результаты опубликованы в Physical Review Fluids.
18 мая 2026 г.
В Вышке прошла XXX юбилейная научно-техническая конференция имени Е.В. Арменского
Организатором научного события выступает Московский институт электроники и математики им. А.Н. Тихонова ВШЭ. В этом году главный инженерный студенческий форум проходил 30-й раз и собрал рекордное число участников. Студенты, аспиранты и молодые специалисты из 50 вузов и организаций России представили научно-исследовательские доклады в ИТ-области. Отдельная секция была посвящена научно-исследовательским работам школьников.
15 мая 2026 г.
В НИУ ВШЭ разрабатывают нейросеть для сферы науки и инноваций
Исследователи НИУ ВШЭ учат большие языковые модели понимать русскоязычную научную терминологию, увеличивая при этом их энергоэффективность. Адаптированная модель работает в 2,7 раза быстрее и требует на 73% меньше памяти, чем исходная открытая модель, что позволяет запускать ее на более доступном оборудовании. Программа прошла государственную регистрацию.

 

Нашли опечатку?
Выделите её, нажмите Ctrl+Enter и отправьте нам уведомление. Спасибо за участие!

Публикации
  • Книги
  • Статьи
  • Главы в книгах
  • Препринты
  • Верификация публикаций
  • Расширенный поиск
  • Правила использования материалов
  • Наука в ВШЭ

?

LoRA meets Riemannion: Muon Optimizer for Parametrization-independent Low-Rank Adapters

Ch. 20503.
Vladimir Bogachev, Алетов В., Alexander Molozhavenko, Бобков Д. Н., Соболева В. В., Аланов А., Рахуба М. В.
Язык: английский
Полный текст
Текст на другом сайте
Ключевые слова: Smooth manifoldRiemannian optimizationfine-tuninglarge language model (LLM)Diffusion ModelsLow-rank AdaptionFixed matrix rank manifold

В книге

The Fourteenth International Conference on Learning Representations (ICLR 2026)
ICLR, 2026.
Похожие публикации
Bridging the Semantic Gap in Metadata Management using Large Language Models
Сулейкин А. С., Сорокина В., Пятецкий В. Е., , in: 2025 7th International Conference on Control Systems, Mathematical Modeling, Automation and Energy Efficiency.: [б.и.], 2025. P. 748–753.
Добавлено: 17 апреля 2026 г.
Разработка и интеграция AI-ассистента в систему управления обучением.
Караваева Е. А., Василевский В. И., Ланин Г. М. и др., Труды Института системного программирования РАН 2025 Т. 37 № 4 С. 175–190
Продолжающаяся цифровизация образования требует новых способов представления информации и механизмов удержания внимания. Цель представленной работы – предложить решение на основе большой языковой модели, которая будет интерактивно генерировать подсказки различных типов в рамках электронного учебного курса по программированию. Основными подходами являются анализ существующих относительно небольших языковых моделей, TOPSIS-анализ (методика определения порядка предпочтения по сходству с идеальным ...
Добавлено: 25 декабря 2025 г.
Optimization on the Extended Tensor-Train Manifold with Shared Factors
Alexander Molozhavenko, Рахуба М. В., Computational and Applied Mathematics 2026 Vol. 45 No. 6 Article 221
Добавлено: 22 декабря 2025 г.
Prediction of protein-protein interactions using point transformer and spherical Convex Hull graphs
David Arteaga, Попцова М. С., Computational and Structural Biotechnology Journal 2026 Vol. 31 P. 82–93
Добавлено: 22 декабря 2025 г.
3MDBench: Medical Multimodal Multi-agent Dialogue Benchmark
Sviridov I., Miftakhova A., Tereshchenko A. и др., , in: Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing (EMNLP).: Association for Computational Linguistics, 2025. Ch. 1353 P. 26625–26665.
Добавлено: 16 ноября 2025 г.
Comparative Study of LoRA and Full Fine-Tuning in Large Language Models
E.V. Surikova, E.A. Sabidaeva, , in: Параллельные вычислительные технологии – XIX всероссийская конференция с международным участием, ПаВТ'2025, г. Москва, 8–10 апреля 2025 г. Короткие статьи и описания плакатов.: Челябинск: Издательский центр ЮУрГУ, 2025. P. 90–98.
Добавлено: 3 июля 2025 г.
Подход к созданию сервиса генерации программного кода мобильных приложений с использованием больших языковых моделей
Резуник Л., Александров Д.В., ИТ-Стандарт 2024 № 4 С. 34–41
Технологии машинного обучения и различные инструменты для генерации кода в последние годы оказали значительное влияние на сферу разработки программного обеспечения. Хотя большинство существующих решений не созданы специально для генерации кода, программисты применяют их в различных задачах. Не многие из существующих решений для искусственного интеллекта хорошо работают с менее распространенными языками, такими как Kotlin или Swift, ...
Добавлено: 30 декабря 2024 г.
Wrong Answers Only: Distractor Generation for Russian Reading Comprehension Questions Using a Translated Dataset
Логин Н. В., Journal of Language and Education 2024 Vol. 10 No. 4 P. 56–70
Добавлено: 24 декабря 2024 г.
Using large language models for extracting and pre-annotating texts on mental health from noisy data in a low-resource language
Sergei Koltcov, Сурков А. Ю., Кольцова Е. Ю. и др., PeerJ Computer Science, США 2024 Vol. 10 Article e2395
Добавлено: 2 декабря 2024 г.
Training a Tucker Model With Shared Factors: a Riemannian Optimization Approach
Пешехонов И. Д., Aleksey Arzhantsev, Рахуба М. В., , in: Proceedings of The 27th International Conference on Artificial Intelligence and Statistics (AISTATS 2024), 2-4 May 2024, Palau de Congressos, Valencia, Spain. PMLR: Volume 238Vol. 238.: Valencia: PMLR, 2024. Ch. 238 P. 3304–3312.
Добавлено: 29 ноября 2024 г.
Group and Shuffle: Efficient Structured Orthogonal Parametrization
Горбунов М. А., Юдин Н. Е., Соболева В. В. и др., , in: 38th Conference on Neural Information Processing Systems (NeurIPS 2024).: [б.и.], 2024. P. 68713–68739.
Добавлено: 26 ноября 2024 г.
EAI: Emotional Decision-Making of LLMs in Strategic Games and Ethical Dilemmas
Mozikov M., Severin N., Bodishtianu V. и др., , in: 38th Conference on Neural Information Processing Systems (NeurIPS 2024).: [б.и.], 2024. P. 13927–13981.
Добавлено: 22 ноября 2024 г.
Toolken+: Improving LLM Tool Usage with Reranking and a Reject Option
Яковлев К. Д., Nikolenko S., Bout A., , in: Findings of the Association for Computational Linguistics: EMNLP 2024.: Association for Computational Linguistics, 2024. P. 5967–5974.
Добавлено: 22 ноября 2024 г.
AIpom at SemEval-2024 Task 8: Detecting AI-produced Outputs in M4
Ширнин А. А., Andreev N., Mikhailov V. и др., , in: Proceedings of the 18th International Workshop on Semantic Evaluation (SemEval-2024).: Mexico: Association for Computational Linguistics, 2024. P. 1667–1672.
Добавлено: 19 июля 2024 г.
Сайнс-арт и китч: компьютерное искусство на основе больших языковых моделей
Миловидов С. В., Коммуникации. Медиа. Дизайн 2024 Т. 9 № 2 С. 45–64
Появление больших языковых моделей привело к распространению популярных сегодня графических генераторов (DALL-E, Midjourney, Stable Diffusion, Kandinsky и др.), что стало причиной повсеместного распространения и демократизации художественных практик, связанных с использованием нейронных сетей. В статье анализируются процессы исчезновения границ между искусством и китчем, применительно к компьютерному искусству. Рассматривается китчизация генеративной графики нейросетей и способы её преодоления ...
Добавлено: 1 июля 2024 г.
Multi-user facial emotion recognition in video based on user-dependent neural network adaptation
Чураев Е. Н., Andrey V. Savchenko, , in: 2022 VIII International Conference on Information Technology and Nanotechnology (ITNT).: IEEE, 2022. P. 1–5.
Добавлено: 25 сентября 2022 г.
Exploration in Sequential Recommender Systems via Graph Representations
Киселёв Д. А., Makarov I., IEEE Access 2022 Vol. 10 P. 123614–123621
Добавлено: 5 сентября 2022 г.
Automatic differentiation for Riemannian optimization on low-rank matrix and tensor-train manifolds
Novikov A., Рахуба М. В., Oseledets I., SIAM Journal of Scientific Computing 2022 Vol. 44 No. 2 P. A843–A869
Добавлено: 31 октября 2021 г.
2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops (CVPRW)
IEEE, 2020.
Добавлено: 14 октября 2021 г.
Coverings in the Category of Principal Bundles
Gonchar T., Яковлев Е. И., Russian Mathematics 2021 Vol. 65 No. 4 P. 22–43
Исследуется категория регулярных накрытий заданного гладкого главного расслоения. Под накрывающим отображением одного главного расслоения на другое понимается морфизм в категории главных расслоений, состоящий из накрывающих отображений структурных групп, тотальных пространств и баз. Основные результаты: построение инварианта регулярного накрытия, представляющего собой подпоследовательность гомотопической последовательности базового расслоения, теорема существования накрытия с заданным инвариантом, критерии морфизмов и изоморфизмов, ...
Добавлено: 21 сентября 2021 г.
Jacobi-Davidson Method on Low-Rank Matrix Manifolds
Рахуба М. В., Oseledets I., SIAM Journal of Scientific Computing 2018 Vol. 40 No. 2 P. A1149–A1170
Добавлено: 20 октября 2020 г.
Low-rank Riemannian eigensolver for high-dimensional Hamiltonians
Rakhuba Maxim, Novikov A., Oseledets I., Journal of Computational Physics 2019 Vol. 396 P. 718–737
Добавлено: 19 октября 2020 г.
  • О ВЫШКЕ
  • Цифры и факты
  • Руководство и структура
  • Устойчивое развитие в НИУ ВШЭ
  • Преподаватели и сотрудники
  • Корпуса и общежития
  • Закупки
  • Обращения граждан в НИУ ВШЭ
  • Фонд целевого капитала
  • Противодействие коррупции
  • Сведения о доходах, расходах, об имуществе и обязательствах имущественного характера
  • Сведения об образовательной организации
  • Людям с ограниченными возможностями здоровья
  • Единая платежная страница
  • Работа в Вышке
  • ОБРАЗОВАНИЕ
  • Лицей
  • Довузовская подготовка
  • Олимпиады
  • Прием в бакалавриат
  • Вышка+
  • Прием в магистратуру
  • Аспирантура
  • Дополнительное образование
  • Центр развития карьеры
  • Бизнес-инкубатор ВШЭ
  • Образовательные партнерства
  • Обратная связь и взаимодействие с получателями услуг
  • НАУКА
  • Научные подразделения
  • Исследовательские проекты
  • Мониторинги
  • Диссертационные советы
  • Защиты диссертаций
  • Академическое развитие
  • Конкурсы и гранты
  • Внешние научно-информационные ресурсы
  • РЕСУРСЫ
  • Библиотека
  • Издательский дом ВШЭ
  • Книжный магазин «БукВышка»
  • Типография
  • Медиацентр
  • Журналы ВШЭ
  • Публикации
  • http://www.minobrnauki.gov.ru/
    Министерство науки и высшего образования РФ
  • https://edu.gov.ru/
    Министерство просвещения РФ
  • http://www.edu.ru
    Федеральный портал «Российское образование»
  • https://elearning.hse.ru/mooc
    Массовые открытые онлайн-курсы
  • НИУ ВШЭ1993–2026
  • Адреса и контакты
  • Условия использования материалов
  • Политика конфиденциальности
  • Правила применения рекомендательных технологий в НИУ ВШЭ
  • Карта сайта
Редактору