В России разработают центр информационной безопасности искусственного интеллекта
Эксперты в области информационной безопасности призывают к созданию центра искусственного интеллекта (ИИ) на базе одного из государственных регуляторов. Об этом сообщил Антон Иванов, директор по исследованиям и разработке в АО «Лаборатория Касперского». Он подчеркнул, что в России нет единой базы данных угроз ИИ и механизмов для идентификации пользователей, что ставит под угрозу безопасность.
Иванов отметил, что многие пользователи используют открытые библиотеки для работы с изображениями и текстами, но не всегда осведомлены о возможных рисках. В результате, такие библиотеки могут быть скомпрометированы, и у пользователей нет инструментов, чтобы об этом узнать. Он предложил создать центр, который будет заниматься вопросами безопасности ИИ, а также информировать о возможных угрозах и манипуляциях с моделями.
По его словам, данные о киберрисках можно собирать в специализированных центрах, работающих по принципу CERT (компьютерная группа быстрого реагирования). Работа над этой инициативой уже ведётся несколько лет, и Иванов считает, что наиболее эффективным решением будет создание единого центра для изучения безопасности ИИ на базе регулятора. Он также напомнил, что в классической кибербезопасности уже налажены механизмы обмена информацией о методах злоумышленников, но для защиты ИИ требуется совершенно новый подход.