Влияние искусственного интеллекта на современную жизнь и безопасность
В наши дни искусственный интеллект стал неотъемлемой частью нашей повседневности — он помогает управлять смартфонами, автомобилями и даже бытовой техникой. Недавно появился новый пример интеграции AI: встроенные системы, которые делают нашу жизнь удобнее и продуктивнее. Хотя такие технологии действительно облегчают работу и повышают креативность, они также приносят новые риски безопасности.
Ключевое применение AI — генеративные модели, такие как чат-боты, например, ChatGPT. Однако вместе с их помощью возникают и угрозы. Особенно опасным становится использование AI в целях мошенничества и кибератак, о чем недавно сообщили исследователи.
Обнаружена уязвимость в системе Google Gemini
Пользователи рабочей среды Google Workspace могли заметить, что в приложениях вроде Gmail, Docs и Sheets интегрирована модель искусственного интеллекта Gemini. Исследователи из Mozilla обнаружили, что злоумышленники могут манипулировать этой системой, внедряя скрытые инструкции в автоматические краткие обзоры писем.
Это достигается с помощью техники, которая называется «инъекция промптов». В частности, злоумышленники используют HTML и CSS для сокрытия команд внутри письма: делают шрифт нулевого размера и устанавливают цвет текста в белый, чтобы они были невидимы при обычном просмотре. Однако AI Gemini при создании сводки читает и интерпретирует эти скрытые команды.
Как работают скрытые инструкции и их опасность
Эта уязвимость позволяет злоумышленникам вставлять невидимые команды, которые AI принимает за реальные инструкции. В результате, при запросе краткого обзора, Gemini может отображать ложные предупреждения или руководства, созданные злоумышленниками. Например, он может указать, что ваш пароль скомпрометирован, и даже включить фальшивый контакт службы поддержки.
Важно отметить, что такие атаки не используют стандартные вредоносные ссылки или вложения. Все скрытые команды находятся внутри текста письма и не вызывают подозрений у обычных пользователей. Поэтому доверять автоматическим сводкам без проверки — рискованно.
Меры защиты и рекомендации для пользователей
Несмотря на то, что Google внедряет новые меры защиты, злоумышленники уже нашли способы обхода существующих систем. Компания подтверждает, что активно работает над усилением безопасности и тестирует новые методы защиты.
Чтобы защититься от подобных атак, следуйте простым правилам:
- Помните, что даже краткие сводки в Gmail или Docs не гарантируют безопасность. Всегда проверяйте важную информацию, особенно если она вызывает подозрение.
- Если письмо кажется необычным или пришло неожиданно, лучше читать его полностью, а не полагаться только на автоматические сокращения.
- Обращайте внимание на сообщения, создающие ощущение срочности, запрашивающие подтверждение данных или содержащие неожиданные ссылки. Злоумышленники используют AI для создания очень реалистичных фальшивых уведомлений.
- Обязательно устанавливайте антивирусное программное обеспечение на все устройства. Оно поможет обнаружить фишинговые письма и вредоносные ссылки, а также защитит ваши личные данные.
Обновление программного обеспечения и дополнительные меры
Обеспечьте постоянное обновление браузеров и приложений Google Workspace. Регулярные обновления содержат важные исправления безопасности, предотвращающие новые виды атак. Также избегайте использования непроверенных расширений, которые могут иметь доступ к вашим данным.
Дополнительно, уменьшение цифрового следа — еще один способ защиты. Используйте сервисы для удаления личной информации из баз данных и сайтов, чтобы усложнить злоумышленникам создание целевых атак.
Если вы хотите максимально снизить риск, временно отключите функции автоматического получения сводок в Gmail и других приложениях, пока Google не повысит уровень защиты от подобных угроз.
Заключение: как оставаться в безопасности в эпоху AI
Современные технологии делают возможным очень тонкое и скрытное манипулирование системами безопасности, что требует от пользователей большей бдительности. Важно помнить, что AI — мощный инструмент, который злоумышленники могут использовать для обмана.
Оставайтесь внимательными к сообщениям и всегда проверяйте критическую информацию через официальные источники. Регулярно обновляйте программное обеспечение и будьте осторожны с автоматическими сводками, чтобы защитить себя и своих близких от мошенничества в цифровом мире.
Артем Мельник
Артем — эксперт по ИТ и новым технологиям, освещает стартапы, кибербезопасность и разработки украинских программистов. Ранее работал в сфере разработки ПО.