Structured Sparsification of Gated Recurrent Neural Networks

В работе рассматриваются сети эхо-состояний (Echo State Network, ESN), которые являются одними из самых распространенных способов реализации резервуарных вычислений. Они состоят из рекуррентной нейронной сети, веса которой выбираются один раз и не обучаются, и выходного, обычно линейного, обучаемого слоя. Такой подход позволяет создавать энергоэффективные и быстрые нейронные сети, способные обучаться в режиме реального времени. Но ...

Добавлено: 26 мая 2026 г.

Ансамбль современных моделей компьютерного зрения для задачи обнаружения дипфейков

Пикуль А. С., Безопасность информационных технологий 2024 Т. 31 № 4 С. 116–127

Исследуется возможность применения современных архитектур компьютерного зрения для задачи обнаружения дипфейков. Рассматриваются следующие архитектуры: EfficientNet, Vision Transformer (ViT), VisionLSTM (ViL), VisionKAN и Mamba Vision. Новизна подхода заключается в применении и сравнении работы данных архитектур, а также в их объединении в парные ансамбли для повышения точности детекции дипфейков. В работе проведен эксперимент, основанный на применении нескольких ...

Добавлено: 12 декабря 2025 г.

Application of Large Language Models to Solving Differential Equations: Constructing Baseline Models with LSTM and GRU

Сурков А. Ю., Захаров В. Ю., Sergei Koltcov и др., , in: Smart Technologies, Systems and Applications: 4th International Conference, SmartTech-IC 2024, Quito, Ecuador, December 2–4, 2024, Revised Selected Papers, Part IIVol. 2: Revised Selected Papers, Part II.: Springer, 2025. P. 239–252.

Добавлено: 11 сентября 2025 г.

Prediction of Industrial Cyber Attacks Using Normalizing Flows

V.P. Stepashkina, M.I. Hushchyn, Doklady Mathematics 2024 Vol. 110 No. 1 P. S95–S102

This paper presents the development and evaluation of methods for detecting cyberattacks on industrial systems using neural network approaches. The focus is on the task of detecting anomalies in multivariate time series, where the diversity and complexity of potential attack scenarios require the use of advanced models. To address these challenges, a transformer-based autoencoder architecture ...

Добавлено: 25 марта 2025 г.

The Appliance of Deep Neural Networks in the Process of Managing Chemical Enterprises

Kulyasova E. V., Kulyasov N.S., Puchkov A. Y., , in: Journal of Physics: Conference Series Volume 1260, 2019 Mechanical Science and Technology Update 23–24 April 2019, Omsk, Russian Federation.: IOP Publishing, 2019. Ch. 3 P. 032024–032024.

Добавлено: 27 сентября 2024 г.

Using a Recurrent Neural Network To Inform the Use of Prostate- specific Antigen (PSA) and PSA Density for Dynamic Monitoring of the Risk of Prostate Cancer Progression on Active Surveillance

Sushentsev N., Abrego L., Colarieti A. и др., EUROPEAN UROLOGY OPEN SCIENCE 2023 Vol. 52 P. 36–39

Добавлено: 28 февраля 2024 г.

Оптимизация физико-информированных нейронных сетей для решения нелинейного уравнения Шредингера

Чупров И. А., Гао Ц., Ефременко Д. С. и др., Доклады Российской академии наук. Математика, информатика, процессы управления (ранее - Доклады Академии Наук. Математика) 2023 Т. 514 № 2 С. 28–38

Физико-информированные нейронные сети (Physics Informed Neural Networks – PINN) являются перспективным методом решения уравнений в частных производных с помощью машинного обучения. В работе рассмотрено применение PINN к нелинейному уравнению Шредингера для описания ...

Добавлено: 19 декабря 2023 г.

Научная конференция ЛОМОНОСОВСКИЕ ЧТЕНИЯ. Тезисы докладов. 15-25 апреля 2019 г.сборник

Захарова Т. В., Южаков Т. А., ООО «Макс Пресс», 2019.

В настоящий сборник вошли тезисы докладов секции Вычислительной математики и кибернетики конференции «Ломоносовские чтения‑2019», проводимой Московским государственным университетом имени М. В. Ломоносова в 2019 году. ...

Добавлено: 13 декабря 2023 г.

Loss function dynamics and landscape for deep neural networks trained with quadratic loss

Nakhodnov M., Кодрян М. С., Лобачева Е. М. и др., , in: Doklady MathematicsVol. 106. Issue 1: Supplement.: Pleiades Publishing, Ltd. (Плеадес Паблишинг, Лтд), 2023. P. 43–62.

Добавлено: 9 июня 2023 г.

Training Scale-Invariant Neural Networks on the Sphere Can Happen in Three Regimes

Кодрян М. С., Лобачева Е. М., Nakhodnov M. и др., , in: Thirty-Sixth Conference on Neural Information Processing Systems : NeurIPS 2022.: Curran Associates, Inc., 2022. P. 14058–14070.

Добавлено: 20 декабря 2022 г.

Simultaneous approximation of a smooth function and its derivatives by deep neural networks with piecewise-polynomial activations

Беломестный Д. В., Наумов А. А., Пучкин Н. А. и др., Neural Networks 2023 Vol. 161 P. 242–253

Добавлено: 13 июля 2022 г.

Прогнозирование энергопотребления на основе автоматического машинного обучения

Данилов К. В., Автоматизация. Современные технологии 2020 Т. 74 № август 2020 С. 402–407

Рассмотрена задача прогнозирования энергопотребления на основе автоматического машинного обучения. Приведена схема процесса автоматического создания и применения модели прогнозирова ния. Предлагаемый подход апробирован на основе данных о потреблении электроэнергии в регионах России. Проведённый вычислительный эксперимент показал высокую эффективность разработан ной модели. Точность прогнозирования составила 97...99 %. ...

Добавлено: 13 июня 2022 г.

Self-supervised recurrent depth estimation with attention mechanisms

Макаров И. А., Bakhanova M., Nikolenko S. и др., PeerJ Computer Science 2022 Vol. 8 Article e865

Depth estimation has been an essential task for many computer vision applications, especially in autonomous driving, where safety is paramount. Depth can be estimated not only with traditional supervised learning but also via a self-supervised approach that relies on camera motion and does not require ground truth depth maps. Recently, major improvements have been introduced ...

Добавлено: 1 февраля 2022 г.

On the Periodic Behavior of Neural Network Training with Batch Normalization and Weight Decay

Лобачева Е. М., Кодрян М. С., Чиркова Н. А. и др., , in: Advances in Neural Information Processing Systems 34 (NeurIPS 2021).: Curran Associates, Inc., 2021. P. 21545–21556.

Добавлено: 29 декабря 2021 г.

Gender domain adaptation for automatic speech recognition

Соколов А. С., Савченко А. В., , in: 2021 IEEE 19th World Symposium on Applied Machine Intelligence and Informatics (SAMI).: IEEE, 2021. P. 413–418.

Добавлено: 26 сентября 2021 г.

On the Embeddings of Variables in Recurrent Neural Networks for Source Code

Чиркова Н. А., , in: 2021 Annual Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (NAACL 2021).: Association for Computational Linguistics, 2021. P. 2679–2689.

Добавлено: 31 августа 2021 г.

Black-Box Optimization with Local Generative Surrogates

Белавин В. С., Устюжанин А. Е., Sergey Shirobokov и др., , in: Advances in Neural Information Processing Systems 33 (NeurIPS 2020).: Curran Associates, Inc., 2020. P. 14650–14662.

Добавлено: 14 февраля 2021 г.

Deep learning approach for predicting functional Z-DNA regions using omics data

Beknazarov N., Джин С., Попцова М. С., Scientific Reports 2020 Vol. 10 P. 19134

Computational methods to predict Z-DNA regions are in high demand to understand the functional role of Z-DNA. The previous state-of-the-art method Z-Hunt is based on statistical mechanical and energy considerations about B- to Z-DNA transition using sequence information. Z-DNA CHiP-seq experiment results showed little overlap with Z-Hunt predictions implying that sequence information only is not ...

Добавлено: 11 декабря 2020 г.