Pre-trained LLMs Meet Sequential Recommenders: Efficient User-Centric Knowledge Distillation

Severin N.; Kartushov D.; Urzhumov V.; Kulikov V.; Konovalova O.; Grishanov A.; Klenitskiy A.; Fatkulin A.; A. Vasilev; A. Savchenko; I. Makarov

doi:10.1007/978-3-032-21300-6_42

?

Pre-trained LLMs Meet Sequential Recommenders: Efficient User-Centric Knowledge Distillation

P. 508–517.

Severin N., Kartushov D., Urzhumov V., Kulikov V., Konovalova O., Grishanov A., Klenitskiy A., Fatkulin A., Васильев А. В., Савченко А. В., Макаров И. А.

Язык: английский

Полный текст

DOI

Текст на другом сайте

Ключевые слова: рекомендательные системы распространение знаний Knowledge distillation sequential recommendation recommender systems large language model (LLM)большие языковые модели (LLM)

ПУБЛИКАЦИЯ ПОДГОТОВЛЕНА ПО РЕЗУЛЬТАТАМ ПРОЕКТА:

Фундаментальные и методологические аспекты машинного обучения, оптимизации и обучения с подкреплением и их применение к глубокому обучению (2026)

В книге

Advances in Information Retrieval: 48th European Conference on Information Retrieval, ECIR 2026, Delft, The Netherlands, March 29 – April 2, 2026, Proceedings, Part II. (LNCS, volume 16484)

Cham: Springer Publishing Company, 2026.

Model mimic attack: Knowledge distillation for provably transferable adversarial examples

Лукьянов К. С., Перминов А. И., Турдаков Д. Ю. и др., / Series Computer Science "arxiv.org". 2024.

Добавлено: 14 сентября 2026 г.

Может ли ИИ производить значение? Семантический капитал, «стохастический попугай» и пределы антропоцентризма

Филатова А. А., Эпистемология и философия науки 2026 Т. 63 № 2 С. 154–171

Развитие и активное внедрение искусственного интеллекта (да лее – ИИ), особенно в виде больших языковых моделей, вызвало новую волну дискуссий о семантических компетенциях техни ческих устройств и критериях оценки результатов их функцио нирования, в частности, сгенерированных текстов. В статье пред лагается рассмотреть ряд наиболее трудных вопросов и их представленность в современной философии языка. В первую ...

Добавлено: 10 сентября 2026 г.

SplitLight: An Exploratory Toolkit for Recommender Systems Datasets and Splits

Anna Volodkevich, Dmitry A., Gusak D. и др., , in: SIGIR '26: Proceedings of the 49th International ACM SIGIR Conference on Research and Development in Information Retrieval.: Association for Computing Machinery (ACM), 2026. P. 3434–3441.

Добавлено: 22 июля 2026 г.

Benchmarking DNA large language models on quadruplexes

Cherednichenko O., Herbert A., Попцова М. С., Computational and Structural Biotechnology Journal 2025 Vol. 27 P. 992–1000

Добавлено: 19 июня 2026 г.

B3Emo: Quantifying Affect as a Double-Edged Sword in Strategic LLM Interactions

Stepin A., Mozikov M., Kabanov A. и др., IEEE Access 2026 Vol. 14 P. 48127–48144

Добавлено: 16 июня 2026 г.

ESQA: Event Sequences Question Answering

Abdullaeva I., Karpukhin I., Filatov A. и др., IEEE Access 2026 Vol. 14 P. 59390–59408

Добавлено: 16 июня 2026 г.

Use Case 5: LLM-driven creation of natural hazard geodatabase from digital mass media

Деркачева А. А., Сакиркина М. А., Краев Г. Н. и др., , in: AI for good innovate for impact report 2025.: Geneva: International Telecommunication Union, 2025. P. 167–169.

Добавлено: 26 мая 2026 г.

Large Language Model-Based Automated Item Generation in STEM Assesements: Historical Mapping and a Scoping Review of Empirical Studies

JOURNAL OF EDUCATIONAL TECHNOLOGY DEVELOPMENT AND EXCHANGE 2026 Vol. 19 No. 2 P. 141–169

Добавлено: 5 мая 2026 г.

LoRA meets Riemannion: Muon Optimizer for Parametrization-independent Low-Rank Adapters

Vladimir Bogachev, Алетов В., Alexander Molozhavenko и др., , in: The Fourteenth International Conference on Learning Representations (ICLR 2026).: ICLR, 2026. Ch. 20503 P. 1–26.

Добавлено: 29 апреля 2026 г.

Natural hazard database from Internet publications: text mining with a large language model

Деркачева А. А., Сакиркина М. А., Краев Г. Н. и др., /. 2026.

Добавлено: 28 апреля 2026 г.

Bridging the Semantic Gap in Metadata Management using Large Language Models

Сулейкин А. С., Сорокина В., Пятецкий В. Е., , in: 2025 7th International Conference on Control Systems, Mathematical Modeling, Automation and Energy Efficiency.: [б.и.], 2025. P. 748–753.

Добавлено: 17 апреля 2026 г.

Сопоставление номенклатур товаров ресторанов и поставщиков с помощью LLM — Case Study для ресторанного холдинга

Джин С., Панфилов П. Б., Сулейкин А. С., Труды Института системного программирования РАН 2025 Т. 37 № 6 С. 163–176

В современном ресторанном бизнесе точное сопоставление номенклатуры продуктов между ресторанами и поставщиками является критически важной задачей. Эффективное управление запасами и оптимизация закупок напрямую влияют на прибыльность бизнеса. С ростом числа поставщиков и ассортимента продукции традиционные методы сопоставления становятся менее эффективными. В данном исследовании предлагается использовать большие языковые модели (LLM) для автоматизации и повышения точности сопоставления ...

Добавлено: 17 апреля 2026 г.

Efficient Incorporation of New Interactions in Graph Recommenders via Folding-In

Юсупов В. А., Sukhorukov N., Фролов Е. П., User Modelling and User-Adapted Interaction 2026 Vol. 36 Article 2

Графовые системы рекомендаций стали мощной парадигмой для персонализированных рекомендаций. Однако их зависимость от полного переобучения модели для интеграции новых пользователей или новых взаимодействий создаёт барьеры для масштабирования. В реальных системах рекомендаций эта задача становится невыполнимой из-за чрезмерных затрат времени и ресурсов. Чтобы преодолеть это ограничение, мы предлагаем быстрый и эффективный метод обновления графовых рекомендательных моделей ...

Добавлено: 15 марта 2026 г.

SMMR: Sampling-Based MMR Reranking for Faster, More Diverse, and Balanced Recommendations and Retrieval

Liakhnovich K., Lashinin O., Babkin A. и др., Proceedings of the 48th International ACM SIGIR Conference on Research and Development in Information Retrieval 2025 P. 2754–2758

Добавлено: 3 февраля 2026 г.

Time to Split: Exploring Data Splitting Strategies for Offline Evaluation of Sequential Recommenders

Gusak D., Volodkevich A., Klenitskiy A. и др., , in: RecSys '25: Proceedings of the Nineteenth ACM Conference on Recommender Systems.: ACM, 2025. P. 874–883.

Добавлено: 26 января 2026 г.

Разработка и интеграция AI-ассистента в систему управления обучением.

Караваева Е. А., Василевский В. И., Ланин Г. М. и др., Труды Института системного программирования РАН 2025 Т. 37 № 4 С. 175–190

Продолжающаяся цифровизация образования требует новых способов представления информации и механизмов удержания внимания. Цель представленной работы – предложить решение на основе большой языковой модели, которая будет интерактивно генерировать подсказки различных типов в рамках электронного учебного курса по программированию. Основными подходами являются анализ существующих относительно небольших языковых моделей, TOPSIS-анализ (методика определения порядка предпочтения по сходству с идеальным ...

Добавлено: 25 декабря 2025 г.

Prediction of protein-protein interactions using point transformer and spherical Convex Hull graphs

David Arteaga, Попцова М. С., Computational and Structural Biotechnology Journal 2026 Vol. 31 P. 82–93

Добавлено: 22 декабря 2025 г.

3MDBench: Medical Multimodal Multi-agent Dialogue Benchmark

Sviridov I., Miftakhova A., Tereshchenko A. и др., , in: Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing (EMNLP).: Association for Computational Linguistics, 2025. Ch. 1353 P. 26625–26665.

Добавлено: 16 ноября 2025 г.

Ultra Fast Warm Start Solution for Graph Recommendations

Юсупов В. А., Рахуба М. В., Фролов Е. П., , in: CIKM '25: Proceedings of the 34rd ACM International Conference on Information and Knowledge Management.: ACM, 2025. Ch. 1 P. 5469–5473.

В этой работе мы представляем быстрый и эффективный линейный подход к обновлению рекомендаций в масштабируемой графовой рекомендательной системе UltraGCN. Решение этой задачи чрезвычайно важно для поддержания актуальности рекомендаций в условиях большого объема новых данных и меняющихся предпочтений пользователей. Чтобы решить эту проблему, мы адаптируем простой, но эффективный подход к низкоранговой аппроксимации в графовой модели. Наш ...

Добавлено: 3 октября 2025 г.