banktrend.ru
Защита информации. Архивное фото
Российские компании работают над созданием методики защиты искусственного интеллекта от хакеров — пока в России не представлены решения, которые защитили бы ИИ-модели от кибератак, «Сбер» также принимает участие в разработке механизма, рассказал технический директор «Лаборатории Касперского» Антон Иванов на сессии «Когда ИИ становится взрослым: доверие, ответственность, польза» форума «Цифровые решения».
«В каждой компании, которая в Китае занимается искусственным интеллектом, есть отдельный отдел, который занимается и прорабатывает систему защиты искусственного интеллекта. Потому что, вот что мы сейчас наблюдаем, — уже существуют способы атаки на модели различные с целью следующей: чтобы модель предоставляла неправильную информацию либо выполняла определенные действия в инфраструктуре, где она разведывалась. И это на самом деле большая проблема, потому что в России сейчас нет защитных решений, которые позволят выявлять такие атаки и полноценно их блокировать», — сказал Иванов.
«Мы сейчас с коллегами, из «Сбера» в том числе, прорабатываем методику и бенчмарки, как можно защищать модель искусственного интеллекта», — добавил Иванов.