Исследователи МИЭМ ВШЭ проанализировали схемы полухрупких цифровых водяных знаков для изображений, опубликованные за последние десять лет. Такие водяные знаки сохраняются при обычном сжатии или изменении яркости, но выдают подделку, если в снимок добавили объект или заменили лицо. Авторы предложили классификацию этих схем и выделили главные нерешенные проблемы. Результаты опубликованы в журнале Computer Science Review.
Международная лаборатория кластерной геометрии, действующая на факультете математики НИУ ВШЭ, занимается формированием новой научной дисциплины, соединяющей в себе знания из различных областей математики. Выполненные в ней работы вызывают большой интерес, в том числе у зарубежных коллег. Лаборатория изучает семейства кривых и разрабатывает методы, применяемые в исследованиях физического микромира. Новостная служба «Вышка.Главное» побеседовала с заведующим лабораторией профессором Сергеем Ландо.
В конце сентября в Центре культур НИУ ВШЭ прошел финал IX сезона «Научных боев» с заглавной темой «За гранью возможного». Исследователи представили четыре работы. На каждое выступление отводилось по десять минут, после чего участники отвечали на вопросы жюри и зрителей. Спикеры искали границы между человеком и искусственным интеллектом, цифровой платформой и ее пользователями, государством и социальной инфраструктурой, а также между тем, как общество определяет человека, и тем, как он определяет себя сам.
Крохин А. С., Гусев М. М., Программные системы и вычислительные методы 2025 № 2
В статье рассматривается проблема обфускации промптов как способа обхода защитных механизмов в больших языковых моделях (LLM), предназначенных для обнаружения промпт-инъекций. Промпт-инъекции представляют собой метод атаки, при котором злоумышленники манипулируют входными данными, чтобы изменить поведение модели и заставить её выполнять нежелательные или вредоносные действия. Обфускация включает в себя различные методы изменения структуры и содержания текста, такие ...
Пантюхин Д. В., Информатика и образование 2023 Т. 38 № 1 С. 55–63
Проблема уязвимости нейронных сетей уже несколько лет является предметом научных исследований и экспериментов. Состязательные атаки — один из способов «обмануть» нейросеть, заставить ее принимать ошибочные классификационные решения. Сама возможность состязательной атаки кроется в особенностях машинного обучения нейросетей. В статье показано, как свойства нейронных сетей становятся источником проблем и ограничений в их использовании. Материалы соответствующих исследований ...