Nonasymptotic Analysis of Stochastic Gradient Descent with the Richardson–Romberg Extrapolation

M. Sheshukova; D. Belomestny; Durmus A.; E. Moulines; A. Naumov; S. Samsonov

АБВ
АБВ
АБВ

Обычная версия сайта

Приоритетные направления

по году

Тематика

Новости

15 мая 2026 г.

В НИУ ВШЭ разрабатывают нейросеть для сферы науки и инноваций

Исследователи НИУ ВШЭ учат большие языковые модели понимать русскоязычную научную терминологию, увеличивая при этом их энергоэффективность. Адаптированная модель работает в 2,7 раза быстрее и требует на 73% меньше памяти, чем исходная открытая модель, что позволяет запускать ее на более доступном оборудовании. Программа прошла государственную регистрацию.

15 мая 2026 г.

Стартовал совместный спецпроект бренд-медиа Вышки IQ Media и iFORA ИСИЭЗ

В мае 2026 года стартовал научно-популярный проект «Искусственный интеллект: технологии, данные и будущее», который стал результатом работы двух команд — проекта iFORA Института статистических исследований и экономики знаний НИУ ВШЭ и редакции бренд-медиа IQMedia. Медийно-аналитический спецпроект посвящен современному развитию искусственного интеллекта и аналитике больших данных.

14 мая 2026 г.

<a>Ученые ФКН ВШЭ представили работы в сфере ИИ и биоинформатики на ICLR 2026

Ученые Института искусственного интеллекта и цифровых наук факультета компьютерных наук ВШЭи студенты трека «ИИ360: Инженерия искусственного интеллекта» бакалаврской программы «Прикладная математика и информатика» приняли участие в международной конференции ICLR — одном из самых авторитетных мировых форумов в области машинного обучения и представления данных. В этом году конференция состоялась в Рио-де-Жанейро (Бразилия).

Нашли опечатку?
Выделите её, нажмите Ctrl+Enter и отправьте нам уведомление. Спасибо за участие!

Публикации

?

Nonasymptotic Analysis of Stochastic Gradient Descent with the Richardson–Romberg Extrapolation

Шешукова М. Е., Беломестный Д. В., Durmus A., Мулине Э. Ф., Наумов А. А., Самсонов С. В.

Язык: английский

Текст на другом сайте

Ключевые слова: цепи Маркова Markov chains Richardson-Romberg extrapolation stochastic gradient descent стохастический градиентный спуск Ричардсон-Ромберг

ПУБЛИКАЦИЯ ПОДГОТОВЛЕНА ПО РЕЗУЛЬТАТАМ ПРОЕКТА:

Разработка теоретических основ и методов генеративного искусственного интеллекта и их приложение к неоднородным доменным областям (2025)

В книге

Proceedings of the 13th International Conference on Learning Representations (ICLR 2025)

ICLR, 2025.

High-Order Error Bounds for Markovian LSA with Richardson–Romberg Extrapolation

Левин И. В., Наумов А. А., Самсонов С. В., , in: Proceedings of the AAAI Conference on Artificial Intelligence. AAAI-26: AAAI Technical Track on Planning, Routing, and Scheduling; AAAI Technical Track on Reasoning under Uncertainty; AAAI Technical Track on Search and Optimization. Main Track, volume 40 no. 43.: American Association for Artificial Intelligence (AAAI) Press, 2026. P. 36696–36704.

Добавлено: 17 апреля 2026 г.

Об одном применении теоремы А.Н. Колмогорова

Соболев В. Н., Фролов А. А., Чебышевский сборник 2025 Т. 26 № 5 С. 203–220

В статье на классе K бесконечных двоичных последовательностей без 1-серий строится согласованное распределение вероятностей P, которое индуцируется однородной цепью Маркова с матрицей перехода за один шаг P𝜑 , и полностью определяемой золотым сечением 𝜑. Использование цепи Маркова при построении вероятностной меры P позволяет применить теорему А.Н. Колмогорова о продолжении меры. Асимптотическое распределение подкласса K 0 ...

Добавлено: 11 февраля 2026 г.

A Revival of Conservative Ideology and the Projected Religious Landscape in Russia

Скоробогатов А. С., Economics of Transition and Institutional Change 2026 Vol. 34 No. 2 P. 387–409

Добавлено: 3 ноября 2025 г.

Refined Analysis of Constant Step Size Federated Averaging and Federated Richardson-Romberg Extrapolation

Paul M., Durmus A., Dieuleveut A. и др., , in: Proceedings of The 28th International Conference on Artificial Intelligence and Statistics, 3-5 May 2025, Splash Beach Resort in Mai Khao, Thailand, PMLR: vol. 258Vol. 258.: PMLR, 2025. Ch. 258 P. 5023–5031.

Добавлено: 18 мая 2025 г.

Nonasymptotic Analysis of Stochastic Gradient Descent with the Richardson-Romberg Extrapolation

Шешукова М. Е., Беломестный Д. В., Durmus A. и др., / Series arXiv "math". 2024.

Добавлено: 13 октября 2024 г.

Rosenthal-type inequalities for linear statistics of Markov chains

Durmus A., Мулине Э. Ф., Наумов А. А. и др., / Series arXiv "math". 2023.

Добавлено: 18 июня 2023 г.

Local Limit Theorems and Strong Approximations for Robbins-Monro Procedures

Конаков В. Д., Mammen E., / Series arXiv "math". 2023. No. 2304.10673.

Добавлено: 24 апреля 2023 г.

Local-Global MCMC kernels: the best of both worlds

Самсонов С. В., Лагутин Е. М., Gabrie M. и др., , in: Thirty-Sixth Conference on Neural Information Processing Systems : NeurIPS 2022.: Curran Associates, Inc., 2022. P. 5178–5193.

Добавлено: 1 февраля 2023 г.

BR-SNIS: Bias Reduced Self-Normalized Importance Sampling

Cardoso G., Самсонов С. В., Thin A. и др., , in: Thirty-Sixth Conference on Neural Information Processing Systems : NeurIPS 2022.: Curran Associates, Inc., 2022. P. 716–729.

Добавлено: 1 февраля 2023 г.

Mathematical Model for Assessing the Reliability of Water Supply Networks

Рунев Е. В., Springer Nature Switzerland 2022 Vol. 402 No. 1 P. 343–351

Добавлено: 1 ноября 2022 г.

Finite-Time High-Probability Bounds for Polyak–Ruppert Averaged Iterates of Linear Stochastic Approximation

Durmus A., Мулине Э. Ф., Наумов А. А. и др., Mathematics of Operations Research 2025 Vol. 50 No. 2 P. 935–964

Добавлено: 13 июля 2022 г.