Исследователи Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ и Института ядерной физики СО РАН разработали RLABC — программу, которая помогает подбирать оптимальные настройки ускорителя частиц с помощью обучения с подкреплением. В компьютерном эксперименте программа настроила модель так, что до конца ускорителя доходило около 70% частиц. Исследование опубликовано в журнале Computer Physics Communications.
Лаборатория молекулярной физиологии факультета биологии и биотехнологии НИУ ВШЭ изучает, как молекулярные регуляторы (микроРНК) управляют работой генов и влияют на развитие болезней — онкологических, вирусных и воспалительных, а также осложнений беременности. В Вышке выращивают модели органов человека на чипе: крошечные устройства с живыми клетками, воспроизводящие работу, например, плаценты или кишечника. Модели помогают понять, как возникают болезни и как на них действуют лекарства. «Вышка.Главное» побеседовала с заведующим лабораторией Евгением Князевым.
Ученые Центра языка и мозга НИУ ВШЭ проверили, как люди понимают предложения, когда грамматика подсказывает одно, а жизненный опыт — другое. Участники эксперимента читали фразы о двух персонажах и отвечали, кто из них выполнил действие. Результаты показали, что более начитанные люди лучше справлялись с заданиями, в которых персонаж выполнял ожидаемое действие, но ошибались, когда действие персонажа шло вразрез с ожиданиями.Исследование опубликовано в журнале Quarterly Journal of Experimental Psychology. Работа выполнена при поддержке гранта РНФ.
Крохин А. С., Гусев М. М., Программные системы и вычислительные методы 2025 № 2
В статье рассматривается проблема обфускации промптов как способа обхода защитных механизмов в больших языковых моделях (LLM), предназначенных для обнаружения промпт-инъекций. Промпт-инъекции представляют собой метод атаки, при котором злоумышленники манипулируют входными данными, чтобы изменить поведение модели и заставить её выполнять нежелательные или вредоносные действия. Обфускация включает в себя различные методы изменения структуры и содержания текста, такие ...
Пантюхин Д. В., Информатика и образование 2023 Т. 38 № 1 С. 55–63
Проблема уязвимости нейронных сетей уже несколько лет является предметом научных исследований и экспериментов. Состязательные атаки — один из способов «обмануть» нейросеть, заставить ее принимать ошибочные классификационные решения. Сама возможность состязательной атаки кроется в особенностях машинного обучения нейросетей. В статье показано, как свойства нейронных сетей становятся источником проблем и ограничений в их использовании. Материалы соответствующих исследований ...