От неизвестности к прозрачности: обзор технологий объяснимого ИИ (XAI)

Информационные технологии. 2026. Т. 32. № 4. С. 185–194.

Авдошин С. М., Песоцкая Е. Ю.

С развитием ИИ, и в особенности глубокого обучения, появились модели, способные давать крайне точные
прогнозы. Однако их внутренняя логика остается трудной для понимания — и это серьезная проблема, особен-
но в сферах, где от корректности алгоритма зависят критиче ски важные решения. Одним из перспективных
путей ее решения считается направление Explainable Artificial Intelligence (XAI) — разработка подходов, позво-
ляющих прояснять работу моделей и объяснять логику полученных результатов.
В рамках работы обсуждаются теоретические подходы к XAI, отдельное внимание уделяется классифи-
кации методов, трудностям, связанным с "черным ящиком" в машинном обучении. Проведенный обзор подчер-
кивает необходимость развития новых моделей XAI, описывает, каким образом можно совместить высокую
точность моделей с достаточной степенью интерпретируемости, и формирует основания для дальнейших
исследований в данной области.

Ключевые слова: машинное обучение, доверие, прозрачность, trust, transparency, интерпретируемость, interpretability, explainable artificial intelligence, объяснимый искусственный интеллект, XAI, machine learning, XAI