На платформе Исследовательского центра доверенного искусственного интеллекта планируется разработка технологий безопасного применения ИИ. Центр действует с 2021 года на базе Института системного программирования РАН.
Директор Института системного программирования РАН Арутюн Аветисян рассказал ТАСС о назревшей проблеме. Крайне рискованным является применение искусственного интеллекта на объектах, относящихся к критической инфраструктуре, пояснил академик. Поэтому российские ученые в ближайшее время приступят к разработке системного контроля за внедрением ИИ, в первую очередь, на подобных потенциально опасных объектах.
С этой целью на базе ИСП РАН в 2021 году начал работу Исследовательский центр доверенного искусственного интеллекта. Доверенного — значит, вызывающего доверие. Особое внимание к качеству контроля приходится уделять именно на самых рискованных участках инфраструктуры. Для купирования данных угроз требуются особые инструменты.
Академик напомнил, что технологии ИИ базируются на решении задач по аналогии, а не по алгоритмическому описанию в виде кода. Это создает некоторые сложности в использовании ИИ. На преодоление этих нюансов и будут направлены усилия специалистов.