Mechanistic Permutability: Match Features Across Layers

С развитием ИИ, и в особенности глубокого обучения, появились модели, способные давать крайне точные прогнозы. Однако их внутренняя логика остается трудной для понимания — и это серьезная проблема, особенно в сферах, где от корректности алгоритма зависят критиче ски важные решения. Одним из перспективных путей ее решения считается направление Explainable Artificial Intelligence (XAI) — разработка подходов, позволяющих прояснять ...

Добавлено: 8 мая 2026 г.

RuCLEVR: A Russian Diagnostic Dataset for Compositional Language and Elementary Visual Reasoning

Biryukova K., Chelnokova D., Erkenova J. и др., Communications in Computer and Information Science 2024 Vol. 2364 CCIS P. 109 – 121

Добавлено: 25 февраля 2026 г.

Применение больших языковых моделей для анализа ценностно-патриотического дискурса русскоязычных пользователей

Балакина Ю. В., Григорьева М. В., Соколова Е. Н., Вестник Российского фонда фундаментальных исследований. Гуманитарные и общественные науки 2025 Т. 123 № 4 С. 56–69

Статья рассматривает возможности применения больших языковых моделей (LLM) для автоматизированного анализа ценностно-патриотического дискурса русскоязычных пользователей социальных медиа. На материале корпуса сообщений из VK, «Одноклассников» и Telegram (2023–2025 гг.) исследуется, насколько результаты автоматической кодировки совпадают с экспертной разметкой по специально разработанной категориальной схеме. Кодбук включает восемь измерений: базовые ценности по Ш. Шварцу, две оси Р. Инглхарта ...

Добавлено: 26 ноября 2025 г.

LLM-Microscope: Uncovering the Hidden Role of Punctuation in Context Memory of Transformers

Anton R., Mikhalchuk M., Rahmatullaev T. и др., , in: Findings of the Association for Computational Linguistics: NAACL 2025.: Association for Computational Linguistics, 2025. P. 7757–7764.

Мы предлагаем методы количественной оценки того, как большие языковые модели (LLM) кодируют и хранят контекстную информацию, и показываем, что токены, обычно считающиеся второстепенными (например, детерминативы и знаки препинания), на деле несут неожиданно высокий объём контекста. В частности, удаление таких токенов — особенно стоп-слов, артиклей и запятых — стабильно ухудшает качество на MMLU и BABILong-4k, даже ...

Добавлено: 6 ноября 2025 г.

Новые интерфейсы и новые медиаторы

Максименкова О. В., Сегал А. П., Вопросы философии 2025 № 10 С. 67–76

Исследование посвящено проблеме взаимодействия человека и искус ственного интеллекта (ИИ). Авторы рассматривают это взаимодействие как опосредованное интерфейсами, которые одновременно и упрощают его, и скрывают реальные механизмы кодирования и декодирования сооб щений (по К. Шеннону). В такой ситуации характеристики субъекта (акто ра) коммуникации размываются, и в качестве такового предстает не сам актор, но его инструмент, а ...

Добавлено: 2 октября 2025 г.

Cultural Evaluation of LLMs in Russian: Catchphrases and Cultural Types

Громенко Е. С., Калачева Д. С., Клокова К. С. и др., , in: Компьютерная лингвистика и интеллектуальные технологии: по материалам ежегодной международной конференции «Диалог» (2025).: [б.и.], 2025.

Наше исследование посвящено изучению культурной осведомленности больших языковых моделей о со временном русскоязычном социокультурном контексте. Для этого предложена структурированная система, включающая 8 культурных типов (например, Духовный практик, Советский интеллигент) и 5 групп речевых клише. На основе этой системы был разработан набор данных из 400 вопросов различных форматов для оценки фактологического знания культурных особенностей и более ...

Добавлено: 10 мая 2025 г.

Of Models and Men: Probing Neural Networks for Agreement Attraction with Psycholinguistic Data

Бажуков М. О., Волошина Е. Ю., Sergey Pletnev и др., , in: Proceedings of the 28th Conference on Computational Natural Language Learning.: Association for Computational Linguistics, 2024. P. 280–290.

Добавлено: 11 марта 2025 г.

A review of Explainable Artificial Intelligence in healthcare

Sadeghi Z., Alizadehsani R., Cifci M. A. и др., Computers and Electrical Engineering 2024 Vol. 118 No. A Article 109370

Добавлено: 8 июня 2024 г.

Truth-O-Meter: Handling Multiple Inconsistent Sources Repairing LLM Hallucinations

Galitsky B., Чернявский А. С., Ильвовский Д. А., , in: SIGIR '24: Proceedings of the 47th International ACM SIGIR Conference on Research and Development in Information Retrieval.: Association for Computing Machinery (ACM), 2024. P. 2817–2821.

Large Language Models (LLM) often produce text with incorrect facts and hallucinations. To address this issue, we developed a fact-checking system Truth-O-Meter which verifies LLM results on the Internet and other sources of information to detect wrong claims/facts and proposes corrections for them. NLP and reasoning techniques such as Abstract Meaning Representation and syntactic alignment are ...

Добавлено: 9 мая 2024 г.

Tradeoff search methods between interpretability and accuracy of the identification fuzzy systems based on rules

Yankovskaya A. E., Горбунов И. В., Hodashinsky I. A., Pattern Recognition and Image Analysis 2021 Vol. 2 No. 27 P. 243–265

Добавлено: 27 сентября 2021 г.

Unsupervised Discovery of Interpretable Directions in the GAN Latent Space

Voynov A., Бабенко А. В., , in: International Conference on Machine Learning (ICML 2020)Vol. 119.: PMLR, 2020. P. 9728–9738.

Добавлено: 14 января 2021 г.

Rotations and Interpretability of Word Embeddings: The Case of the Russian Language

Зобнин А. И., , in: Analysis of Images, Social Networks and Texts. 6th International Conference, 2017, Revised Selected PapersVol. 10716.: Cham: Springer, 2018. Ch. 11 P. 116–128.

Добавлено: 26 ноября 2017 г.