Искусственный интеллект вооружился против фишинга
Исследования о росте фишинговых рассылок обнародовала компания Acronis. По их данным, в первой половине 2023 г. количество фишинговых писем, содержащих ссылки для кражи аккаунтов, выросло на 464% по сравнению с 2022 г. При этом фишинг стал самым популярным способом кражи учетных данных и достиг 73% от всех кибератак.
Еще 15% случаев незаконного доступа в аккаунты совершены с использованием взломанной корпоративной почты. Также среди способов мошенничества упоминаются взломанные базы данных пользователей, файлы из облачных хранилищ и учебных заведений.
Как полагает вице-президент Acronis по исследованиям Кандид Вюст, рост количества фишинговых атак свидетельствует, что преступники масштабируют и совершенствуют способы проведения атак, в том числе используя ИИ-решения, такие как ChatGPT.
"Чтобы справиться с постоянно меняющимся характером угроз, организациям нужны гибкие, комплексные, унифицированные решения для обеспечения безопасности, которые позволяют идентифицировать атаки и эффективно отразить любую угрозу, будь то вредоносное ПО, уязвимость системы и все, что находится между этими способами взлома", - продолжил Кандид Вюст.
Аналитик исследовательской группы Positive Technologies Федор Чунижеков полагает, что злоумышленники используют искусственный интеллект для повышения правдоподобности написанного текста. "Фишингом занимаются по всему миру, и если раньше злоумышленники допускали орфографические и стилистические ошибки, то сейчас, в случае использования ИИ, фишинговые сообщения сложно отличить от письма, полученного от носителя языка", - сказал Федор Чунижеков ComNews.
Он добавил, что, по данным Positive Technologies, атаки с использованием методов социальной инженерии являются одним из наиболее популярных методов нападения как на частных лиц (91%), так и на организации (50%), а доля использования электронной почты в таких операциях составила 86% для организаций.
"Еще ИИ используется для автоматизации написания текста проводимых фишинговых кампаний с учетом интересов целевой аудитории - для этого необходимо прописать лишь несколько команд, и ИИ сгенерирует текст по заданным условиям", - напомнил Федор Чунижеков.
По его словам, отличить письмо от злоумышленников от обычного делового письма сложно, тем не менее стоит обратить внимание на письма, внутри которых есть ссылки на формы ввода данных или скачивание приложений.
"Практически все фишинговые электронные письма содержат призывы к действию, ссылки на внешние ресурсы, которые могут привести пользователей к фишинговой форме ввода учетных данных или на ресурс, с которого они скачают вредоносное ПО на устройство, либо вредоносные вложения. Такие ссылки и вложения хорошо обнаруживаются антиспам-фильтрами и другими средствами защиты. Но если вредоносное письмо, написанное ИИ, прошло сквозь средства защиты или вовсе не содержит ссылок или вложений, то его будет сложно отличить обычному пользователю", - добавил Федор Чунижеков.
Инженер информационной безопасности компании R-Vision Дмитрий Бурмашов также отмечает, что ИИ в руках мошенников превращается в инструмент для создания текста-обманки. "Несмотря на то что искусственный интеллект может выполнять множество задач, в том числе и написание кода для выполнения атак, все же основная его роль заключается в написании фишинговых сообщений. Языковые модели позволяют быстро создавать большое количество различных текстов для подобных атак. Причем сценарии использования ИИ для этих целей разнообразны: начиная с полного генерирования текста, который далее не редактируется, заканчивая его изменением или переводом", - рассказал Дмитрий Бурмашов ComNews.
Кроме того, по его мнению, рост в сфере e-mail-фишинга связан с тем, что письма с помощью ИИ можно сгенерировать заблаговременно, в то время как телефонное мошенничество или обман через мессенджеры требует от злоумышленников быстро и изобретательно реагировать на действия пользователя, что удается не всегда.
Главным признаком фишинговой атаки с помощью ИИ Дмитрий Бурмашов назвал искусственность написанного текста, которая может быть следствием использования тех или иных датасетов, существующих подходов к обучению или заточенности ИИ только под определенные задачи.
"Языковые модели устроены несколько проще, чем наше сознание, если говорить другими словами - современные модели лишь выбирают слово, которое с некой вероятностью должно стоять за предыдущими. Зачастую это и является причиной искусственности текста", - пояснил эксперт.
По словам Дмитрия Бурмашова, некоторым системам безопасности уже удается распознавать текст, написанный при помощи языковых моделей. "Это возможно по причине того, что модели пишут текст, основываясь на вероятностях, и алгоритмы как раз анализируют эти данные. Правда, пока это различные антиплагиат-системы, но в будущем антифишинговые системы наверняка будут иметь аналогичный механизм", - отмечает эксперт.
Дмитрий Бурмашов считает, что в ближайшем будущем это приведет к "борьбе меча и щита": новые модели ИИ будут все более приближены к поведению людей, а алгоритмы защиты станут точнее определять, написан текст живым человеком или языковой моделью. "И точно можно сказать, что важную роль в этом процессе будут играть нейросети", - подчеркнул Дмитрий Бурмашов.
Директор по продаже технологических решений компании "ЕАЕ-Консалт" Виталий Волнянский отметил, что с расцветом ИИ, чат-ботов и нейросетей у мошенников наступил "ренессанс", потому что технология ИИ открывает множество новых возможностей - от персонализации e-mail- и SMS-сообщений, общения в Twitter, Facebook (запрещена в России) под другими аккаунтами, до в том числе подставных сайтов и чат-ботов.
"В первую очередь эффект возникает за счет того, что индивидуальное обращение к человеку повышает конверсию мошеннических действий - чтобы он отдал деньги или дал доступ к персональным данным, данным на Госуслугах - чему угодно, что является целью мошенников. Раньше этим занимались какие-то люди - сидящие в тюрьмах или студенты, - то есть целая сеть людей, задействованных в этом процессе. Но пропускная способность человека - это один мошеннический диалог в моменте. А чат-бот не имеет такого ограничения. Он может персонализировать и вести сотни, тысячи таких диалогов одновременно. И из-за этого и возник невероятный бум в 400 с чем-то процентов. То, что раньше перестало работать, за счет персонализации снова начинает работать. Но эту персонализацию теперь можно делать не только человеком, но и чат-ботом, у которого нет ограничений с пропускной способностью. Просто обрабатывают больше людей", - сказал Виталий Волнянский ComNews.
По его словам, крупные компании, такие как "Яндекс", VK, банки, давно используют нейросети, которые позволяют обнаруживать фишинговые e-mail и сразу отправлять их в спам.
"Идет сопротивление двух нейросетей: одна пытается пробиться сквозь защиту, а другая - угадать, мошенник это или нет. Соответственно, нейросеть на стороне того же "Яндекса" постоянно обновляется, учится на новых мошеннических схемах. В мобильном приложении многих банков уже встроен детектор того, что звонят мошенники. И если внезапно кто-то позвонил с мошеннического номера, например, "Сбер" присылает уведомление, что "вам звонил мошенник", и интересуется, ничего ли он не спрашивал", - добавил эксперт.
ИИ-решения для защиты пользователей от мошенников используют не только банки и почтовые службы, но и электронные сервисы, позволяющие пользователям общаться между собой. Андрей Рыбинцев, Chief Data Officer (CDO) "Авито", отметил, что во встроенном мессенджере платформы алгоритм анализирует ситуацию и блокирует фишинговые ссылки, а также предупреждает о потенциально небезопасных действиях - например, если один из собеседников запрашивает предоплату или пытается перевести общение в сторонний мессенджер.
"Кроме того, алгоритмы на платформе постоянно анализируют поведение пользователей: ежедневно отслеживается более 10 млрд кликов. При любом отклонении от безопасного сценария поведения аккаунт может быть отправлен на дополнительную проверку", - рассказал Андрей Рыбинцев ComNews.
