Обнаружена новая угроза безопасности, связанная с ИИ-интеграциями
Недавние исследования в области кибербезопасности выявили опасную уязвимость, которая позволила злоумышленникам временно использовать инструменты искусственного интеллекта для кражи личных данных. В частности, речь идет о системе ChatGPT, а конкретнее — о ее инструменте Deep Research, предназначенном для сбора и анализа информации. Эта атака, получившая название ShadowLeak, позволила злоумышленникам похитить данные из аккаунтов Gmail без необходимости кликов или действия со стороны пользователя.
Как произошла атака и чем она опасна
Исследователи из компании Radware обнаружили уязвимость в июне 2025 года. После уведомления разработчиков OpenAI о проблеме, она была оперативно исправлена в начале августа. Однако эксперты предупреждают, что подобные уязвимости могут появиться вновь по мере расширения использования ИИ-интеграций на популярных платформах, таких как Gmail, Dropbox и SharePoint.
Механизм атаки: скрытые команды и нулевой клик
Злоумышленники внедряли в электронные письма скрытые инструкции, используя белый текст на белом фоне, мелкий шрифт или специальные CSS-стили. На вид такие письма казались безобидными. Но когда пользователь запрашивал у ChatGPT анализ содержимого его почтового ящика, ИИ без ведома выполнял команды злоумышленников.
Далее агент использовал встроенные браузерные инструменты для отправки украденных данных на внешний сервер, находящийся в облаке OpenAI, вне зоны досягаемости антивирусных программ и корпоративных брандмауэров. В отличие от предыдущих методов внедрения вредоносных команд, атака ShadowLeak полностью проходила в облаке, делая её почти невидимой для локальных защитных систем.
Обнаруженные уязвимости и их последствия
Данная система предназначена для многопроцессорного исследования и суммирования информации из Интернета, что открывает возможность злоупотреблений. Радваре обнаружили, что злоумышленники кодировали личные данные в формат Base64 и прикрепляли их к вредоносным URL, маскируя под «меры безопасности». После отправки такие сообщения казались обычными, а агент считался действующим в нормальных условиях.
Главная опасность — любой подключенный сервис или интеграция могут стать жертвой подобной атаки, если злоумышленники сумеют спрятать свои команды в анализируемом контенте. Пользователь даже не заметит ничего подозрительного: письмо выглядит как обычное, но агент выполняет скрытые команды без вопросов.
Новые угрозы: ИИ-агенты и капчи
В отдельном эксперименте специалисты из SPLX продемонстрировали, что чат-боты могут быть обмануты при решении CAPTCHA, если в их разговорной истории вставлены манипуляции. Исследователь Дориан Шульц отметил, что модели ИИ даже имитировали движения курсора, что позволяло обойти системы фильтрации и блокировки ботов.
Эти случаи показывают, насколько легко можно скрыто манипулировать контекстом и подменять команды, обходя защитные механизмы ИИ.
Как защитить себя от подобных угроз
Что делать для повышения безопасности
- Отключайте неиспользуемые интеграции, такие как Gmail, Google Drive или Dropbox. Чем меньше подключенных сервисов, тем меньше точек входа для злоумышленников.
- Ограничивайте объем личной информации, размещенной в сети. Используйте сервисы по удалению личных данных из баз данных и сайтов поиска — это поможет снизить риск использования ваших данных злоумышленниками.
- Проверяйте каждое письмо, вложение и документ с осторожностью. Не доверяйте анализу контента из сомнительных источников — скрытый код или текст могут активировать вредоносные сценарии без вашего ведома.
Обновляйте программное обеспечение и используйте антивирус
Обязательно включайте автоматические обновления для систем и приложений, чтобы своевременно получать патчи безопасности. Установите надежный антивирус, который сможет обнаружить фишинговые ссылки, скрытые скрипты и атаки, основанные на ИИ.
Регулярное сканирование устройств и обновление антивирусных баз данных — ключевые шаги для защиты вашей информации.
Будьте в курсе новых угроз и методов защиты
В условиях быстрого развития технологий важно следить за новостями от ведущих платформ и внедрять своевременные обновления безопасности. Чем быстрее вы реагируете на новые уязвимости, тем сложнее злоумышленникам реализовать свои планы.
Рассмотрите возможность ограничить доступ ИИ-агентов к вашим личным данным и желательно отключать их, если есть сомнения в безопасности. Помните, что ваша бдительность — лучшая защита от киберугроз.
Артем Мельник
Артем — эксперт по ИТ и новым технологиям, освещает стартапы, кибербезопасность и разработки украинских программистов. Ранее работал в сфере разработки ПО.