Исследователи из Palo Alto Networks Unit 42 обнаружили, что большие языковые модели (LLM) способны генерировать тысячи модификаций вредоносного кода JavaScript, которые сложно распознать антивирусному ПО. В результате тестирования ИИ создал более 10 тыс. копий кода, уклоняющихся от обнаружения в 88% случаев.
Большие языковые модели (LLM) доказали свою способность создавать тысячи версий вредоносного JavaScript-кода, который успешно уклоняется от антивирусных программ. Эксперты Palo Alto Networks Unit 42 показали, что ИИ генерирует более 10 000 вариантов, обходя защиту в 88% случаев. Это вызывает серьезные опасения, так как такие технологии могут использоваться для сокрытия вредоносного ПО.
Исследователи отмечают, что LLM пока не разрабатывают вредоносное ПО с нуля, но отлично маскируют уже существующие угрозы. Злоумышленники могут применять ИИ для переписывания кода, делая его сложным для обнаружения.
Несмотря на усилия разработчиков LLM, направленные на предотвращение злоупотреблений, преступники уже используют инструменты вроде WormGPT. Эти программы автоматизируют создание фишинговых писем и разработку нового вредоносного ПО.
В ходе тестирования специалисты Unit 42 выяснили, что ИИ создает варианты кода, которые остаются незамеченными такими защитными средствами, как IUPG и PhishingJS. При этом код сохраняет свой вредоносный потенциал, но выглядит более безобидно.
ИИ использует стандартные методы запутывания: переименовывает переменные, разбивает строки, добавляет или удаляет элементы кода. Такие действия позволяют обходить антивирусы, воспринимающие измененный код как безопасный.
Хотя эта ситуация вызывает тревогу, эксперты видят в ней и положительный потенциал. В будущем ИИ может стать не только инструментом для создания угроз, но и мощным помощником в их обнаружении и нейтрализации.
