?
Роль искусственного интеллекта в обнаружении недостоверной информации: обзор новейших исследований и их значение для социальных наук
Рост популярности больших языковых моделей (БЯМ) меняет информационное поведение пользователей, включая способы поиска и оценки достоверности информации. Настоящее исследование представляет обзор предметного поля, посвященный роли искусственного интеллекта (ИИ) в обнаружении и интерпретации недостоверной информации. Целью обзора стало выявление ключевых направлений исследований на стыке ИИ и недостоверной информации, а также определение существующих пробелов в понимании влияния ИИ на когнитивные процессы пользователей. Данный обзор включает 32 статьи, опубликованные преимущественно в 2019–2024 гг. Выделены четыре направления исследований: 1) применение краудсорсинговых подходов к проверке информации и сравнение их с оценками профессиональных фактчекеров; 2) обнаружение и отслеживание распространения ложной информации в социальных сетях с ИИ-методами; 3) автоматический фактчекинг как разработка алгоритмов и моделей для автоматизированной проверки достоверности утверждений; 4) когнитивные искажения и предвзятости ИИ при восприятии недостоверной информации. ИИ в форме БЯМ все активнее выступает не только средством поиска информации пользователями, но и ее источником. С вовлечением ИИ в информационное поведение пользователей возникли новые вызовы: к уже известным когнитивным искажениям добавились предвзятости ИИ. Особенно актуальным становится вопрос о том, усиливает ли ИИ склонность пользователя соглашаться с готовыми суждениями или может развивать критическое восприятие информации, способствуя более адаптивному информационному поведению индивидов. Обзор выявил отсутствие работ, напрямую изучающих влияние ИИ на восприятие и распознавание ложной информации пользователями