Атаки на искусственный интеллект набирают обороты: количество преступных инцидентов с использованием скрытых команд на веб-страницах возросло на 32% всего за последний квартал. Злоумышленники активно внедряют инструкции в HTML-код для кражи данных и денег, а также осуществления несанкционированных платежей через PayPal и подобные сервисы.
Об этом сообщает Finway
- В течение трех месяцев зафиксировано увеличение атак с внедрением скрытых команд на 32%.
- Хакеры встраивают инструкции в HTML-код сайтов для кражи личной информации и финансов.
- Отдельные случаи касались платежей через PayPal и другие платежные сервисы.
«Команда безопасности Google зафиксировала рост атак на ИИ-агентов, использующих вредоносные инструкции, скрытые на веб-страницах. Такие атаки позволяют злоумышленникам заставлять системы выполнять действия от имени пользователя — от передачи данных до финансовых операций».
Как работают новейшие атаки на ИИ-агентов
Аналитики Google ежемесячно проверяют до 3 миллиардов веб-страниц на предмет вредоносных инструкций. Выяснилось, что в период с ноября 2025 года по февраль 2026 года количество атак, связанных с косвенным внедрением команд, возросло почти на треть. Злоумышленники маскируют инструкции в HTML-коде сайтов, скрывая их от пользователей, но оставляя видимыми для систем искусственного интеллекта.
Используются различные методы маскировки: от почти прозрачного текста до команд в метаданных или комментариях страниц. Переважная часть атак является низкоуровневыми, однако более сложные сценарии представляют серьезную опасность, позволяя хакерам получать пароли, IP-адреса или даже запускать форматирование устройства и инициировать финансовые операции.
Финансовые угрозы и сложность обнаружения
Отдельные атаки содержат детализированные указания для перевода средств через PayPal, рассчитанные на агентов, имеющих доступ к платежным функциям. Эксперты также зафиксировали попытки кражи учетных данных, а также перенаправления платежей через Stripe, что свидетельствует о комплексном подходе хакеров к компрометации финансовых транзакций. Параллельно осуществляется сканирование уязвимых систем с целью подготовки к более масштабным атакам.
Главная опасность заключается в том, что такие действия часто выглядят как легитимная активность: ИИ-агенты используют реальные данные пользователей и выполняют разрешенные операции, что существенно усложняет их обнаружение с помощью классических систем безопасности.
С ростом возможностей автономных систем, которые могут взаимодействовать с внешним миром, масштабы и уровень сложности атак будут лишь увеличиваться. При этом вопрос юридической ответственности за подобные инциденты остается открытым из-за отсутствия четких нормативных регуляций в этой сфере.
Согласно классификации OWASP, такие атаки относятся к критическим уязвимостям приложений. По мнению аналитиков, на фоне роста мошенничества с привлечением искусственного интеллекта подобные сценарии становятся новой точкой риска для корпоративной безопасности.