Команда Аналитического центра кибербезопасности "Газинформсервиса" предложила новые решения для защиты от кибератак

18 апреля команда Аналитического центра кибербезопасности компании "Газинформсервис" приняла участие в мероприятие профессионального сообщества, посвященном развитию ML-систем – митап MLOps и ML-инженеров.

Специалисты из Аналитического центра кибербезопасности поделились своей экспертизой и мнением об инфраструктурных векторах атак на LLM. В частности, эксперт "Газинформсервиса" подняла вопрос использования watermark для защиты LLM: "Сегодня цифровые водяные знаки, как правило, используются для защиты авторских прав, селективной и точной аутентификации, для контроля целостности файлов, однако стоит рассмотреть возможность использования watermark от кражи модели LLM из инфраструктуры или кражи данных модели через API или чат-бота", – говорит Ксения Ахрамеева, ведущий инженер-аналитик компании "Газинформсервис".

"Поведенческая аналитика, основанная на машинном обучении, уже успешно используется в продуктах, направленных на обнаружение и расследование киберинцидентов, хороший пример – это в Ankey ASAP. Так как, сегодня важно не только создать продукт для защиты от киберинцидентов, но и защитить его от возможных кибератак". Также на мероприятии представители "Газинформсервиса" и других крупных интеграторов и вендоров в ИБ обсудили возможные направления в развитии атак на решения, основанные на машинном обучении. "Главная цель мероприятия – найти решение для надежной защиты продуктов СЗИ, а значит и IT-инфраструктуры любой компании", – подытожила Ксения.