• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • A
  • A
  • A
  • A
  • A
Обычная версия сайта
  • RU
  • EN
  • Национальный исследовательский университет «Высшая школа экономики»
  • Публикации ВШЭ
  • Статьи
  • Анализ влияния обфускации входных данных на эффективность языковых моделей в обнаружении инъекции подсказок
  • RU
  • EN
Расширенный поиск
Высшая школа экономики
Национальный исследовательский университет
Приоритетные направления
  • бизнес-информатика
  • государственное и муниципальное управление
  • гуманитарные науки
  • инженерные науки
  • компьютерно-математическое
  • математика
  • менеджмент
  • право
  • социология
  • экономика
по году
  • 2027
  • 2026
  • 2025
  • 2024
  • 2023
  • 2022
  • 2021
  • 2020
  • 2019
  • 2018
  • 2017
  • 2016
  • 2015
  • 2014
  • 2013
  • 2012
  • 2011
  • 2010
  • 2009
  • 2008
  • 2007
  • 2006
  • 2005
  • 2004
  • 2003
  • 2002
  • 2001
  • 2000
  • 1999
  • 1998
  • 1997
  • 1996
  • 1995
  • 1994
  • 1993
  • 1992
  • 1991
  • 1990
  • 1989
  • 1988
  • 1987
  • 1986
  • 1985
  • 1984
  • 1983
  • 1982
  • 1981
  • 1980
  • 1979
  • 1978
  • 1977
  • 1976
  • 1975
  • 1974
  • 1973
  • 1972
  • 1971
  • 1970
  • 1969
  • 1968
  • 1967
  • 1966
  • 1965
  • 1964
  • 1963
  • 1958
  • еще
Тематика
Новости
18 ноября 2026 г.
«Наука дает мне возможность видеть красоту»
Мария Губина учится в магистратуре факультета математики НИУ ВШЭ и занимается теорией узлов. В интервью проекту «Молодые ученые Вышки» она рассказала о «числе Эрдёша», математических закономерностях вокруг нас и о том, почему ученым стоит научиться печь тортики.
17 ноября 2026 г.
Ученые НИУ ВШЭ разработали метод для обнаружения неисправностей систем охлаждения ЦОД
Исследователи НИУ ВШЭ и Уральского федерального университета разработали метод на основе искусственного интеллекта, который выявляет постепенные утечки хладагента и загрязнение теплообменников в системах охлаждения центров обработки данных. Новая модель учитывает физические связи между элементами холодильного контура, что позволяет выявлять неисправности на ранних стадиях. Результаты опубликованы в журнале IEEE Transactions on Industry Applications.
13 ноября 2026 г.
НИУ ВШЭ и ИФТТ РАН заключили соглашение о создании совместной лаборатории
Церемония подписания соглашения о создании Лаборатории экспериментальных исследований и применений новых функциональных материалов состоялась 11 ноября в здании НИУ ВШЭ на Старой Басманной улице, где расположен факультет физики. Подписи под документом поставили ректор НИУ ВШЭ Никита Анисимов и врио директора Института физики твердого тела им. Ю.А. Осипьяна (ИФТТ) РАН Ирина Ибрагимова.

 

Нашли опечатку?
Выделите её, нажмите Ctrl+Enter и отправьте нам уведомление. Спасибо за участие!

Публикации
  • Книги
  • Статьи
  • Главы в книгах
  • Препринты
  • Верификация публикаций
  • Расширенный поиск
  • Правила использования материалов
  • Наука в ВШЭ

?

Анализ влияния обфускации входных данных на эффективность языковых моделей в обнаружении инъекции подсказок

Программные системы и вычислительные методы. 2025. № 2.
Крохин А. С., Гусев М. М.

В статье рассматривается проблема обфускации промптов как способа обхода защитных механизмов в больших языковых моделях (LLM), предназначенных для обнаружения промпт-инъекций. Промпт-инъекции представляют собой метод атаки, при котором злоумышленники манипулируют входными данными, чтобы изменить поведение модели и заставить её выполнять нежелательные или вредоносные действия. Обфускация включает в себя различные методы изменения структуры и содержания текста, такие как замена слов синонимами, перемешивание букв в словах, вставка случайных символов и другие. Цель обфускации — затруднить анализ и классификацию текста, чтобы обойти фильтры и защитные механизмы, встроенные в языковые модели. В рамках исследования проводится анализ эффективности различных методов обфускации в обходе моделей, обученных на задачу классификации текста. Особое внимание уделяется оценке потенциальных последствий обфускации для безопасности и защиты данных. В исследовании используются различные методы обфускации текстов, которые применяются к промптам из датасета AdvBench. Эффективность методов оценивается на примере трёх моделей-классификаторов, обученных на задачу обнаружения промпт-инъекций. Научная новизна исследования заключается в анализе влияния обфускации промптов на эффективность языковых моделей в обнаружении промпт-инъекций. В ходе работы выявлено, что применение сложных методов обфускации увеличивает долю запросов, классифицируемых как инъекции, что подчёркивает необходимость тщательного подхода к тестированию безопасности больших языковых моделей. Выводы исследования указывают на важность баланса между сложностью метода обфускации и его эффективностью в контексте атак на модели. Чрезмерно сложные методы обфускации могут повысить вероятность обнаружения инъекций, что требует дальнейшего изучения для оптимизации подходов к обеспечению безопасности языковых моделей. Результаты работы подчёркивают необходимость постоянного совершенствования защитных механизмов и разработки новых методов обнаружения и предотвращения атак на большие языковые модели.

Научное направление: Компьютерные науки
Язык: русский
Полный текст
DOI
Текст на другом сайте
Ключевые слова: искусственный интеллектЭнкодерencoderобфускацияobfuscationсостязательные атакиfuzzingфаззингтрансформерыadversarial attackбольшие языковые моделиgenerative pre-trained transformers (GPT)Model JailbreakArtificial intelligence; Generative AI; LLM; HR-automationБезопасность искусственного интеллектаprompt injectionAI Securityинъекция подсказокджейлбрейк
Похожие публикации
Влияние нейронных сетей на современную фотографию: от инструмента до нейроавтоматона
Фадеева Т. Е., Першеева А. Д., В кн.: Первый Российско-Китайский форум. Теория и практика художественного образования: вызовы современности, традиции и национальные школы XXI века : Коллективная монография по материалам международной научной конференции.: М.: Российский государственный художественно-промышленный университет им. С.Г. Строганова, 2024.
В данном исследовании рассматривается влияние нейронных сетей на современную фотографию в технологическом и эстетическом аспектах. Диапазон применения технологий машинного обучения в современной фотографии широк: от использования креативных инструментов в обработке фотографий (нейросеть может убрать «цветовой шум», повысить детализацию, изменить размер изображений и т.д.) до искусственной генерации кадра целиком, которая происходит в достаточной степени автономно, продолжая ...
Добавлено: 14 ноября 2026 г.
Траектории ставок как сигнал сговора: LSTM-классификация аукционов государственных закупок
Ефимов К. Д., Журнал Новой экономической ассоциации 2026 № 72 С. 105–114
В работе предлагается метод автоматического выявления картель ного поведения в электронных аукционах государственных закупок на основе анализа пол ной траектории ставок. Эмпирическая база включает 508 историй торгов за 2016–2020 гг. с электронной площадки РТС-тендер; положительный класс размечен по материалам дел ФАС России, контрольная группа сформирована из сопоставимых аукционов без зафикси рованных нарушений. Каждая сессия представлена ...
Добавлено: 13 ноября 2026 г.
Model-Dependent Prompt-Component Ablation for Medical LLM Decision Support: Application to ENT Biologics Screening
Sergey N. Koltcov, Budkovaia M., Сурков А. Ю. и др., IEEE Journal of Biomedical and Health Informatics 2026 P. 1–10
Добавлено: 13 ноября 2026 г.
Юридическая хроника
Иванов Н. В., Дискин Е. И., Елаев А. А. и др., Закон 2026 № 10 С. 110–130
В октябрьской «Юридической хронике» эксперты комментируют решение Конституционного совета Франции о признании не соответствующей Конституции статьи 1 законопроекта о защите несовершеннолетних от рисков, связанных с использованием социальных сетей; недавние нормативные акты о награждении государственными наградами, свидетельствующие об обесценивании наград в России; статью 10 Федерального закона от 26 июля 2026 года № 243-ФЗ «О поддержке развития ...
Добавлено: 13 ноября 2026 г.
Impact of 5G NR-V2X Message Losses on Connected Vehicle Warning Functions
Физулин А. В., Степанянц В. Г., Американов А. А. и др., FUTURE TRANSPORTATION 2026 Vol. 6 No. 6 Article 264
Добавлено: 12 ноября 2026 г.
Structural model of decision support system for sustainable development of oil and gas companies
Stoianova A. D., Trofimets V. Y., Matrokhina K. V., International Journal of Engineering, Transactions A: Basics 2025 Vol. 38 No. 4 P. 701–709
Добавлено: 10 ноября 2026 г.
EdFitter: a hybrid course recommendation system using large language models
Sergei Koltcov, Рюмин Д. А., Alexandr Axyonov и др., PeerJ Computer Science 2026 Article 12:e4141
Добавлено: 10 ноября 2026 г.
Assessing density equilibration in confined Liquid–Liquid interfaces
Guskov T., Gerke K., Кондратюк Н. Д. и др., Molecular Simulation 2026 Vol. 52 No. 7 P. 546 – 555
Добавлено: 10 ноября 2026 г.
Influence of nuclear quantum effects on metastable states of warm dense hydrogen
Lukyanchuk V., Норман Г. Э., Кондратюк Н. Д. и др., Scientific Reports 2026 Vol. 16 No. 1 Article 16435
Добавлено: 10 ноября 2026 г.
Machine Learning and Knowledge Discovery in Databases. Research Track and Applied Data Science Track. European Conference, ECML PKDD 2026, Naples, Italy, September 7–11, 2026, Proceedings
Cham: Springer, 2027.
Добавлено: 9 ноября 2026 г.
Artificial Intelligence for Software Engineering (AI4SE): A Review of Capabilities, Evaluation, and Verification Challenges
Avdoshin S.M., Pesotskaya E.Y., Proceedings of the Institute for System Programming of the RAS 2026 Vol. 38 No. 6, part 2 P. 133–146
Добавлено: 8 ноября 2026 г.
MFL-ScrollNet: Recurrent Sliding-Window Detection for Panoramic Pipeline Magnetic Flux Leakage Images
Aleksei Samarin, Belous F., Торопов А. Г. и др., Technologies 2026 Vol. 14 No. 11 P. 1–21
Добавлено: 8 ноября 2026 г.
Proceedings 2026 IEEE International Conference on Joint Cloud Computing JCC 2026
IEEE Computer Society (Conference Publishing Services, CPS), 2026.
Добавлено: 7 ноября 2026 г.
Detecting the undetectable: benchmarking AI-generated text
Sergey Avdoshin, Elena Pesotskaya, Салех Х. М. и др., Procedia Computer Science 2026 Vol. 292 P. 1332–1341
Добавлено: 7 ноября 2026 г.
PrimeKV: Preserving critical KV cache without attention scores for long-context inference
Чжан Ч., Ильвовский Д. А., Neurocomputing 2027 Vol. 710
Добавлено: 5 ноября 2026 г.
A Multimodal Framework for Aphasia Severity Classification in Russian
Колмогорова А. В., Ekaterina Yavshitz, Margolina A. и др., Association for Computational Linguistics, 2026.
Добавлено: 4 ноября 2026 г.
Findings of the Association for Computational Linguistics: EMNLP 2026
Association for Computational Linguistics, 2026.
Добавлено: 3 ноября 2026 г.
PULSE: Psychological Characteristics Unified Learning via Speech-based Estimation
Абдулкадиров Т. Н., Рюмина Е. В., Рюмин Д. А. и др., Expert Systems with Applications 2026 Vol. 334 P. 1–29
Добавлено: 3 ноября 2026 г.
Interpretable GNN with Stable Concepts as Neurons
Кузнецов С. О., CEUR Workshop Proceedings 2026 Vol. Vol-4247 P. 27–32
Добавлено: 2 ноября 2026 г.
О длине адаптивной различающей последовательности для семейства наблюдаемых автоматов
Бурдонов И. Б., Евтушенко Н. В., Косачев А. С., Труды Института системного программирования РАН 2025 Т. 37 № 6-1 С. 7–20
В статье исследуется длина адаптивной различающей последовательности для семейства инициальных полностью определенных наблюдаемых, возможно, недетерминированных автоматов. Приводится верхняя оценка длины такой последовательности и показывается ее достижимость. Обсуждается, каким образом полученные результаты можно применить при построении адаптивных диагностических тестов на основе конечно-автоматной модели. ...
Добавлено: 31 октября 2026 г.
К организации системы запросов в распределенной сети с кластерами диаметра не больше 2
Бурдонов И. Б., Евтушенко Н. В., Косачев А. С. и др., Труды Института системного программирования РАН 2026 Т. 38 № 4-1 С. 7–24
В статье усовершенствуется предложенная в предыдущей статье авторов модель кластеризованной распределённой сети с опросом, соответствующая сервис-ориентированной архитектуре. Целью опроса является нахождение ближайшего узла, готового оказать требуемую услугу (сервис) как можно раньше. Предлагаемые алгоритмы обеспечивают достижимость узлов, отсутствие дублирования сообщений, и обмен сообщениями с найденным узлом по кратчайшему пути. Кластеризованность сети означает, что в графе сети ...
Добавлено: 31 октября 2026 г.
Имитационные игры и искусственный интеллект: возвращение к корням проекта исследований экспертизы и опыта (SEE) третьей волны социологии науки
Иванов Д. В., ИНТЕРакция. ИНТЕРвью. ИНТЕРпретация 2026 Т. 18 № 2 С. 13–29
Статья посвящена решению методологического противоречия, возника- ющего при попытке инкорпорировать искусственный интеллект (ИИ) в ка- чественные социологические исследования (преимущественно укорененные в интерпретативистской парадигме). Если в количественных исследованиях ИИ, как минимум на первый взгляд, органично вписывается в естественно-научный идеал инструментального дистанцирования, то для качественной традиции, требующей чувствительности к контексту и близости к источ- нику субъективных смыслов, ...
Добавлено: 28 октября 2026 г.
Оценка сложности текстов по русскому как иностранному: инструментарий и алгоритм на основе больших языковых моделей
Солнышкина М. И., Андреева М. И., Гайнутдинова Д. З., Актуальные проблемы филологии и педагогической лингвистики 2026 № 2 С. 53–66
Растущий интерес к российскому образованию, культуре и науке в значительной степени определяет насущную потребность в разработке инструментария подбора учебных текстов по русскому языку как иностранному (РКИ). Цель исследования — разработать алгоритм и инструментарий оценки лексической сложности текста РКИ (по CEFR) с использованием больших языковых моделей (LLM). Исследование выполнено на материале обучающей выборки, включающей стандартизированные лексические ...
Добавлено: 19 октября 2026 г.
Оценка сложности учебного текста по русскому как иностранному: перспективы и вызовы использования искусственного интеллекта
Солнышкина М. И., Андреева М. И., Русистика 2026 Т. 24 № 1 С. 120–137
Растущий интерес к российскому образованию, культуре и науке в значительной степени определяет насущную потребность в разработке инструментария подбора учебных текстов по русскому языку как иностранному (РКИ). Цель исследования — разработать алгоритм и инструментарий оценки лексической сложности текста РКИ (по CEFR) с использованием больших языковых моделей (LLM). Исследование выполнено на материале обучающей выборки, включающей стандартизированные лексические ...
Добавлено: 19 октября 2026 г.
  • О ВЫШКЕ
  • Цифры и факты
  • Руководство и структура
  • Устойчивое развитие в НИУ ВШЭ
  • Преподаватели и сотрудники
  • Корпуса и общежития
  • Закупки
  • Обращения граждан в НИУ ВШЭ
  • Фонд целевого капитала
  • Противодействие коррупции
  • Сведения о доходах, расходах, об имуществе и обязательствах имущественного характера
  • Сведения об образовательной организации
  • Людям с ограниченными возможностями здоровья
  • Единая платежная страница
  • Работа в Вышке
  • ОБРАЗОВАНИЕ
  • Лицей
  • Довузовская подготовка
  • Олимпиады
  • Прием в бакалавриат
  • Вышка+
  • Прием в магистратуру
  • Аспирантура
  • Дополнительное образование
  • Центр развития карьеры
  • Бизнес-инкубатор ВШЭ
  • Образовательные партнерства
  • Обратная связь и взаимодействие с получателями услуг
  • НАУКА
  • Научные подразделения
  • Исследовательские проекты
  • Мониторинги
  • Диссертационные советы
  • Защиты диссертаций
  • Академическое развитие
  • Конкурсы и гранты
  • Внешние научно-информационные ресурсы
  • РЕСУРСЫ
  • Библиотека
  • Издательский дом ВШЭ
  • Книжный магазин «БукВышка»
  • Типография
  • Медиацентр
  • Журналы ВШЭ
  • Публикации
  • http://www.minobrnauki.gov.ru/
    Министерство науки и высшего образования РФ
  • https://edu.gov.ru/
    Министерство просвещения РФ
  • https://elearning.hse.ru/mooc
    Массовые открытые онлайн-курсы
  • НИУ ВШЭ1993–2026
  • Адреса и контакты
  • Условия использования материалов
  • Политика обработки персональных данных
  • Правила применения рекомендательных технологий в НИУ ВШЭ
  • Карта сайта
Редактору