Shapley and Banzhaf Vectors of a Formal Concept

С развитием ИИ, и в особенности глубокого обучения, появились модели, способные давать крайне точные прогнозы. Однако их внутренняя логика остается трудной для понимания — и это серьезная проблема, особенно в сферах, где от корректности алгоритма зависят критиче ски важные решения. Одним из перспективных путей ее решения считается направление Explainable Artificial Intelligence (XAI) — разработка подходов, позволяющих прояснять ...

Добавлено: 8 мая 2026 г.

Explainable AI for Industry 5.0: Shedding light on the black box

Авдошин С. М., Песоцкая Е. Ю., Business Informatics 2026 Vol. 20 No. 1 P. 7–28

Добавлено: 8 мая 2026 г.

Среда Онтологически Контролируемых Вычислительных Экспериментов в Химии и Материаловедении

Глушко А. А., Незнанов А. А., В кн.: Перспективные материалы и технологии (ПМТ-2024) : Сборник докладов Международной научно-технической конференции ИПТИП РТУ МИРЭА, Москва, 12–16 апреля 2024 годаТ. 1.: М.: РТУ МИРЭА, 2024. С. 380–385.

Работа раскрывает основные принципы, проектные решения и инструменты, которые легли в основу программной системы для анализа результатов реальных экспериментов и проведения вычислительных экспериментов в химии и материаловедения. Акцент сделан на формализации знания на нескольких уровнях и повышении эффективности работы экспертов предметной области за счёт обогащения классического представления данных разделяемыми онтологиями. Это, в свою очередь, облегчает ...

Добавлено: 29 апреля 2026 г.

Использование реактивных сред для вычислительных экспериментов в химии и материаловедении

Глушко А. А., Незнанов А. А., В кн.: Перспективные материалы и технологии (ПМТ-2025) : Сборник докладов Национальной научно-технической конференции с международным участием, Москва, 07–12 апреля 2025 года.: М.: РТУ МИРЭА, 2025. С. 651–657.

Ведение современных исследований сопряжено с использованием различных вычислительных модулей, при этом исследователь часто не обладает широким набором IT-компетенций. Существенно повысить эффективность работы с вычислительными модулями может использование реактивной среды со стандартизированным набором компонентов управления, визуализаторов, инструментов доступа к данным, гарантирующей воспроизводимость, интерактивность и повторное использование получаемых артефактов. В работе раскрываются преимущества использования реактивных интерактивных блокнотов ...

Добавлено: 29 апреля 2026 г.

Проблема рационализации и чрезмерного полагания на инструменты XAI: анализ объяснений больших языковых моделей

Суворова А. В., В кн.: XXII национальная конференция по искусственному интеллекту с международным участием (КИИ-2025)Т. 1.: СПб.: Санкт-Петербургский Федеральный исследовательский центр РАН, 2025. С. 310–318.

В работе исследуется проблема чрезмерного полагания (overreliance) пользователей на результаты интерпретации моделей машинного обучения, а также способов ее решения с помощью пояснений, генерируемых большими языковыми моделями (LLM). Результаты эксперимента показали, что большинство моделей, так же как и пользователи-люди в исходном эксперименте, игнорировали аномалии или предлагали правдоподобные, но ложные объяснения, рационализируя выводы. Это указывает на риски ...

Добавлено: 15 февраля 2026 г.

A review of Explainable Artificial Intelligence in healthcare

Sadeghi Z., Alizadehsani R., Cifci M. A. и др., Computers and Electrical Engineering 2024 Vol. 118 No. A Article 109370

Добавлено: 8 июня 2024 г.

Explainable Document Classification via Pattern Structures

Sergei O. Kuznetsov, Паракал Э. Д., Lecture Notes in Networks and Systems 2023 Vol. 776 P. 423–434

Добавлено: 5 февраля 2024 г.

Диагностика тяжести симптомов депрессии при помощи объяснимого искусственного интеллекта

Шалилех С., Копцева А. О., Шишковская Т. И. и др., Доклады Российской академии наук. Математика, информатика, процессы управления (ранее - Доклады Академии Наук. Математика) 2023 Т. 514 № 2 С. 242–249

Эта статья представляет исследование, направленное на (i) разработку решения на основе искусственного интеллекта для диагностики депрессии и (ii) изучение психиатрических данных с помощью объяснимого искусственного интеллекта. Авторы собрали и аннотирован новый набор аудиоданных, сформулировали задачу регрессии и изучили производительность восьми ее алгоритмов. Результаты показали, что метод ближайших соседей и случайный лес образуют группу с наиболее приемлемыми ...

Добавлено: 2 февраля 2024 г.

Investor sentiment and the NFT hype index: to buy or not to buy?

Бакланова В. С., Куркин А. В., Теплова Т. В., China Finance Review International 2024 Vol. 14 No. 3 P. 522–548

Добавлено: 10 декабря 2023 г.

Estimating the Transfer Learning Ability of a Deep Neural Networks by Means of Representations

Magai German, Soroka A., , in: Advances in Neural Computation, Machine Learning, and Cognitive Research VIIVol. 1120.: Studies in Computational Intelligence, 2023.

Добавлено: 29 октября 2023 г.

Revealing stock liquidity determinants by means of explainable AI: The role of ESG before and during the COVID-19 pandemic

Tamara Teplova, Tatiana Sokolova, David Kissa, Resources Policy 2023 Vol. 86 No. B Article 104253

Добавлено: 23 октября 2023 г.

Constructing decision quivers

Дудырев Е. О., Кузнецов С. О., Napoli A., , in: FCA4AI 2023 What can FCA do for Artificial Intelligence 2023 Proceedings of the 11th International Workshop "What can FCA do for Artificial Intelligence?" co-located with the 32nd International Joint Conference on Artificial Intelligence (IJCAI 2023) Macao, S.A.R. China; August 20, 2023Vol. 3489.: CEUR-WS.org, 2023. P. 69–80.

Добавлено: 4 октября 2023 г.

Description Quivers for Compact Representation of Concept Lattices and Ensembles of Decision Trees

Дудырев Е. О., Кузнецов С. О., Napoli A., , in: 17th International Conference, ICFCA 2023, Kassel, Germany, July 17–21, 2023, Proceedings. Formal Concept Analysis, (LNCS, volume 13934).: Switzerland: Springer, 2023. P. 127–142.

Добавлено: 4 октября 2023 г.

Intrinsically Interpretable Document Classification via Concept Lattices

Паракал Э. Д., Кузнецов С. О., , in: Proceedings of the 10th International Workshop "What can FCA do for Artificial Intelligence?"Vol. 3233.: CEUR Workshop Proceedings, 2022. Ch. 2 P. 9–22.

Добавлено: 17 мая 2023 г.

A Visual Analytics System for Improving Attention-based Traffic Forecasting Models

Джин С., Lee H., Park C. и др., IEEE Transactions on Visualization and Computer Graphics 2023 Vol. 29 No. 1 P. 1102–1112

Добавлено: 17 мая 2023 г.

Проектирование инструментария для выбора методов интерпретируемого машинного обучения

Суворова А. В., Смирнова А. В., В кн.: Интегрированные модели и мягкие вычисления в искусственном интеллекте ИММВ-2022. Сборник научных трудов XI Международной научно-практической конференции. В 2-х томах, том 1Т. 1.: Универсум, 2022. С. 247–257.

Интерпретируемые методы машинного обучения (IML) дают ценную информацию о поведении модели, но из-за разнообразия доступных инструментов интерпретации конкретное решение может не оптимально соответствовать потребностям целевых пользователей. Для поддержки принятия решений при построении и исследовании моделей мы предлагаем модульную структуру для выбора алгоритма. Структура основана на обзоре свойств методов IML, доступных метриках и существующих руководствах по ...

Добавлено: 17 марта 2023 г.