Современные языковые модели ИИ становятся все более функциональными и мощными. В некоторых случаях ИИ уже приводит к сокращениям работников или снижение доходов в некоторых сферах. Кроме этого быстрое развитие ИИ вызывает опасения у специалистов в сфере кибербезопасности. Ведь ИИ-модели способны генерировать не только полезный код, но и вредоносный. Недавно исследователь доказал, что созданный таким образом вредоносный код способен обходить Microsoft Defender.
Как ИИ создает вредоносное ПО
Компания Outflank специализируется на оценке защищенности от сложных киберугроз. Она планирует продемонстрировать на конференции Black Hat 2025 (будет проходить в августе) интересный, но тревожный результат. Открытая языковая модель Qwen 2.5 после соответствующего обучения «способна генерировать вредоносное программное обеспечение, которое может полностью обходить Microsoft Defender для Endpoint примерно в 8% случаев».
Инженер Кайл Авери, один из ведущих специалистов Outflank, потратил около трех месяцев и $1500 на обучение модели. Это не слишком высокие начальные затраты для злоумышленников. Результаты исследования показывают, что обученная таким образом модель справляется с обходом защиты в десятки раз лучше, чем другие. Для сравнения, ИИ от Anthropic демонстрирует эффективность обхода защиты менее чем в 1% случаев, а DeepSeek — только в 0,5%.
Пока эти результаты далеки от уровня, на который надеются так называемые «скрипт-киды» — начинающие, рассчитывающие на быстрый результат в духе «нажал кнопку — получил вирус». Но это тревожный звоночек: языковые модели, даже открытые, постепенно приобретают способности, которые раньше требовали профессионального опыта в написании вредоносного кода.
Проблема осложняется тем, что улучшение таких моделей — это вопрос времени и ресурсов. И если кто-то с достаточным количеством видеокарт и доступом к учебным наборам возьмется за это дело всерьез, эффективность таких моделей может значительно возрасти.
Стоит ли волноваться?
Пока что эту информацию следует воспринимать как весомый аргумент в дискуссии о рисках ИИ. Но это еще не причина отказываться от антивируса. Microsoft Defender со временем тоже адаптируется. Так что ответ на подобные вызовы — тоже вопрос времени.
Также стоит обратить внимание на другой важный аспект. Большинство успешных атак до сих пор основываются не на обмане антивирусов, а на человеческом факторе — фишинговых письмах, манипуляциях, социальной инженерии. И именно это остается главной проблемой для большинства компаний.
ChatGPT захватил Tinder: на словах Иван Франко, на свидании никто
Источник: tomshardware
