Neural Networks Compression for Language Modeling

Статья посвящена сравнительному анализу точности краткосрочного прогнозирования цен на нефть с использованием традиционных статистических моделей (ARIMA, SARIMAX) и модели глубинного обучения LSTM. Актуальность исследования обусловлена высокой волатильностью нефтя ного рынка и необходимостью повышения точности прогнозов в условиях нестабильной макроэконо мической среды, где нефтяные котировки зависят не только от собственной динамики, но и от внеш них ...

Добавлено: 5 октября 2025 г.

Application of Large Language Models to Solving Differential Equations: Constructing Baseline Models with LSTM and GRU

Сурков А. Ю., Захаров В. Ю., Sergei Koltcov и др., , in: Smart Technologies, Systems and Applications: 4th International Conference, SmartTech-IC 2024, Quito, Ecuador, December 2–4, 2024, Revised Selected Papers, Part IIVol. 2: Revised Selected Papers, Part II.: Springer, 2025. P. 239–252.

Добавлено: 11 сентября 2025 г.

Deep learning deciphers the related role of master regulators and G-quadruplexes in tissue specification

Башкатов А. Б., Andreasyan A., Коновалов Д. Л. и др., Scientific Reports 2025 Vol. 15 Article 23119

G-quadruplexes (GQs) are non-canonical DNA structures encoded by G-flipons with potential roles in gene regulation and chromatin structure. Here, we explore the role of G-flipons in tissue specification. We present a deep learning-based framework for the genome-wide G-flipon predictions across 14 human tissue types. The model was trained using high-confidence experimental maps of GQ-forming sequences ...

Добавлено: 8 августа 2025 г.

Functional models of elementary discursive units in Russian eSports commentary

Микулинский А. Д., , in: Синергия языков и культур 2022: междисциплинарные исследования.: St. Petersburg: -, 2023. P. 335–351.

Добавлено: 12 мая 2024 г.

DeepZ: A Deep Learning Approach for Z-DNA Prediction

Бекназаров Н. С., , in: Z-DNA: Methods and Protocols.: United States of America: Springer, 2023. P. 217–226.

Here we describe an approach that uses deep learning neural networks such as CNN and RNN to aggregate information from DNA sequence; physical, chemical, and structural properties of nucleotides; and omics data on histone modifications, methylation, chromatin accessibility, and transcription factor binding sites and data from other available NGS experiments. We explain how with the ...

Добавлено: 26 декабря 2023 г.

Application of the Method of Multivariate Multi-stage Forecasting Based on the LSTM Deep Learning Model for Bitcoin Price Time Series

Natalia Sizykh, Said Dandamaev, Dmitry Sizykh, , in: 16th International Conference Management of large-scale system development (MLSD).: IEEE, 2023. P. 1–5.

На данный момент методы, основанные на архитектуре глубокого обучения LSTM, показали лучшие результаты в прогнозировании цен на криптовалюту. В данной статье исследуется применение метода многомерного многошагового прогнозирования на основе модели глубокого обучения LSTM для временных рядов цен биткойнов и оценивается его эффективность. Проанализированы варианты реализации многомерного многошагового прогнозирования на основе глубокого обучения LSTM и выбран ...

Добавлено: 22 декабря 2023 г.

Classification of Short Scientific Texts

I. K. Kusakin, Fedorets O. V., A. Y. Romanov, Scientific and Technical Information Processing 2023 Vol. 50 No. 3 P. 176–183

Добавлено: 4 ноября 2023 г.

TAPE: Assessing Few-shot Russian Language Understanding

Такташева Е. В., Shavrina T., Fenogenova A. и др., , in: Findings of the Association for Computational Linguistics: EMNLP 2022.: Association for Computational Linguistics, 2022. P. 2472–2497.

Добавлено: 22 сентября 2023 г.

Исследование методов машинного обучения для классификации научных текстов на русском языке

Кусакин И. К., Федорец О. В., Романов А. Ю., Научно-техническая информация. Серия 2: Информационные процессы и системы 2022 Т. 12 С. 6–9

В данной работе рассматриваются современные подходы к обработке естественного языка и применения технологий искусственного интеллекта в задаче классификации научных текстов на русском языке. Работа посвящена анализу реализаций методов векторизации текстовой информации применительно к задаче обучения различных моделей классификаторов: от классических алгоритмов машинного обучения до нейросетевых архитектур-трансформеров. ...

Добавлено: 31 января 2023 г.

Comparison of different coding schemes for 1-bit ADC

Осипов Д. С., / Series arXiv "math". 2022. No. 1.

Добавлено: 27 декабря 2022 г.

Ad Astra or Astray: Exploring Linguistic Knowledge of Multilingual BERT through NLI Task

Тихонова М. И., Михайлов В. Н., Dina Pisarevskaya и др., Natural Language Engineering 2022 P. 1–30

Добавлено: 21 мая 2022 г.

Are CDS spreads predictable during the Covid-19 pandemic? Forecasting based on SVM, GMDH, LSTM and Markov switching autoregression

Вукович Д., Романюк К. А., Ivashchenko S. и др., Expert Systems with Applications 2022 Vol. 194 No. May 2022 Article 116553

Добавлено: 4 февраля 2022 г.

Geometric Methods in Physics XXXVIII. Workshop, Białowieża, Poland, 2019

Cham: Birkhäuser, 2020.

The book consists of articles based on the XXXVIII Białowieża Workshop on Geometric Methods in Physics, 2019. The series of Białowieża workshops, attended by a community of experts at the crossroads of mathematics and physics, is a major annual event in the field. The works in this book, based on presentations given at the workshop, ...

Добавлено: 3 ноября 2021 г.

Predictive models for metrological data of engineering systems

Lukankin Alexander, Slastnikov Sergey, Journal of Physics: Conference Series 2021 Vol. 1740 P. 1–6

Добавлено: 2 февраля 2021 г.

Deep learning approach for predicting functional Z-DNA regions using omics data

Beknazarov N., Джин С., Попцова М. С., Scientific Reports 2020 Vol. 10 P. 19134

Computational methods to predict Z-DNA regions are in high demand to understand the functional role of Z-DNA. The previous state-of-the-art method Z-Hunt is based on statistical mechanical and energy considerations about B- to Z-DNA transition using sequence information. Z-DNA CHiP-seq experiment results showed little overlap with Z-Hunt predictions implying that sequence information only is not ...

Добавлено: 11 декабря 2020 г.

Linearly Converging Error Compensated SGD

Eduard Gorbunov, Kovalev D., Makarenko D. и др., , in: Advances in Neural Information Processing Systems 33 (NeurIPS 2020).: Curran Associates, Inc., 2020. P. 20889–20900.

Добавлено: 7 декабря 2020 г.

Extensions of vertex algebras. Constructions and applications

Фейгин Б. Л., Russian Mathematical Surveys 2017 Vol. 72 No. 4 P. 707–763

Добавлено: 5 ноября 2020 г.

Leveraging Emotional Signals for Credibility Detection

Giachanou A., Россо П., Crestani F., , in: Proceedings of the 42nd International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR ’19).: NY: Association for Computing Machinery (ACM), 2019. P. 877–880.

Добавлено: 29 октября 2020 г.

Towards trigonometric deformation of 𝔰𝔩ˆ2 coset VOA

Фейгин Б. Л., Jimbo M., Mukhin E., Journal of Mathematical Physics 2019 Vol. 60 No. 7 P. 073507-1–073507-16

Добавлено: 10 декабря 2019 г.

Efficient Language Modeling with Automatic Relevance Determination in Recurrent Neural Networks

Кодрян М. С., Грачев А. М., Игнатов Д. И. и др., , in: Proceedings of the 4th Workshop on Representation Learning for NLP (RepL4NLP-2019)Issue W19-43.: Association for Computational Linguistics, 2019. P. 40–48.

Добавлено: 1 ноября 2019 г.