?
Индекс «этичности» систем искусственного интеллекта в медицине: от теории к практике
В статье представлена методика – «Индекс “этичности” систем искусственного интел-лекта», задача разработки которой заключалась в оценке реальных и потенциальныхрисков этического характера, возникающих на всех этапах жизненного цикла ИИ-си-стем. Сама система никакой «этичностью» не обладает, тогда как социально приемле-мыми, с моральной точки зрения допустимыми и необходимыми, могут быть действияразработчиков и поставщиков данных в процессе ее проектирования и обучения,а также операторов и потребителей в ходе ее пилотирования и внедрения. Ряд вопро-сов, связанных, например, с конфиденциальностью персональных данных, отчасти ре-гулируется актуальным законодательством, тогда как большая часть этических рисковлишь прогнозируется. Представленная методика разработана: для целей медицинскогосообщества, нуждающегося в подтверждении моральной состоятельности и соответ-ствия профессиональным стандартам внедрения новейших технологий в клиниче-скуюпрактику; в качестве инструмента, который может быть использован в деятель-ности этических комиссий по аналогии с биоэтическими комитетами при согласова-нии соответствующих медицинских исследований с участием ИИ; как дополнениекпроцедурам добровольной технической сертификации, а также в судебно-медицин-ской экспертизе. В «Индексе» отражены наиболее острые этические проблемы – до-верия, распределенной ответственности, конфиденциальности данных, прозрачностииобъяснимости ИИ-моделей, справедливости и недискриминации, обсуждаемые в со-временной этике в связи с рисками развития ИИ. Уникальность «Индекса» заключает-ся в лежащем в его основе междисциплинарном подходе, включающем в себя методо-логию «дизайна ценностей» и «полевое» социологическое исследование, позволившеесовместить теоретические гуманитарные подходы к пониманию содержания ключе-вых моральных понятий с их трактовкой в профессиональной медицинской этике. Этоделает «Индекс» не только интересным с теоретической точки зрения как способ фор-мализации этических категорий, но и полезным с практической точки зрения – какпример прикладного значения этики и использования ее инструментария для решениясоциально значимых задач.