?
Феномены сверхдоверия и сверхнедоверия оператора к интерфейсу «человек - искусственный интеллект»
Статья посвящена рассмотрению феноменов доверия / недоверия оператора к интерфейсу «человек - искусственный интеллект». Приводится обоснование модели влияния феноменов сверхдоверия и сверхнедоверия информации, получаемой от интерфейса «человек–искусственный интеллект» на надежность и эффективность деятельности оператора беспилотных воздушных транспортных средств. Указанные феномены выражают субъективную уверенность оператора (без объективных на то оснований) в достоверности и / или применимости в своей деятельности получаемой информации, либо её недостоверности и / или неприменимости. Рассмотрены негативные проявления сверхдоверия - некритическое использование оператором информации от интерфейса «Ч - И» (в том числе и ложной), и сверхнедоверия – некритическое отрицание достоверной информации от интерфейса. Приводятся данные исследований, по результатам которых выявлены внутренние и внешние детерминанты изменения субъективных оценок надежности и освоенности техники. Рассматривается возможность целенаправленного управления выраженностью доверия / недоверия информации от интерфейса «Ч - И» для исключения негативного влияния их крайних значений. Показано, что влияние доверия / недоверия оператора технике, в том числе, к автоматизированным системам управления и автоматике на надежность и эффективность операторской деятельности, необходимо рассматривать в сочетании с доверием / недоверием оператора к себе как профессионалу. В статье предлагаются рекомендации по оптимизации уровней доверия / недоверия оператора к информации, получаемой от интерфейса «Ч - И». Они направлены на формирование у оператора адекватных оценок надежности и освоенности (понимания) используемых для создания этой информации методов искусственного интеллекта.