Google предупредил о новой угрозе для 2 млрд пользователей Gmail

Google исправил критическую уязвимость в Gmail, которая позволяла хакерам красть корпоративные данные через искусственный интеллект. Атака получила название GeminiJack и затрагивала 2 миллиарда пользователей почтового сервиса.

Как работала атака GeminiJack

Злоумышленники использовали простейший метод — скрытые инструкции в обычных документах Google Docs, приглашениях в календаре или электронных письмах. Никаких кликов от жертвы не требовалось. Никаких предупреждений не появлялось. Традиционные системы безопасности молчали.

Представители компании Noma, обнаружившей уязвимость, объясняют механизм: «Если злоумышленник может влиять на то, что читает ИИ, он может влиять на то, что ИИ делает». Хакеры встраивали вредоносные команды в бюджетные документы. Когда сотрудник выполнял стандартный поиск в Gemini Enterprise типа «покажи наши бюджеты», искусственный интеллект автоматически извлекал отравленный документ и выполнял скрытые инструкции.

Эта атака демонстрирует новый класс ИИ-уязвимостей, которые эксперты называют «инъекциями промптов». Если пользователи не читают электронные письма, приглашения или веб-страницы, атака может спрятать промпты, предназначенные для ИИ-ассистента, который мы попросили читать весь этот материал вместо нас.

Предупреждения экспертов

Национальный центр кибербезопасности Великобритании (NCSC) рекомендует относиться к ИИ-ассистентам как к обычным сотрудникам — не как к доверенным, приватным технологиям. Если вы не доверили бы человеку-помощнику все свои пароли и финансовые данные с открытым доступом ко всей электронной почте, то не доверяйте это и ИИ-ассистенту — по крайней мере, без активного надзора.

Google уже устранил конкретную уязвимость GeminiJack, но это лишь начало. Правительственные агентства опасаются, что ситуация «может оказаться хуже» всего подобного, что мы видели раньше. Обновления искусственного интеллекта в браузерах и платформах становятся приманкой для атакующих.

Когда Google подвергся критике за якобы обучение ИИ на данных пользователей Gmail, основная проблема заключалась не в том, обучается ли система на этих данных, а в том, что искусственный интеллект получает доступ к информации. Google отрицает факт обучения, но если вы включаете обновления, ИИ компании видит все ваши данные.

Noma предупреждает: «Этот тип атак не будет последним в своем роде. Он отражает растущий класс ИИ-уязвимостей, к которым организации должны готовиться прямо сейчас». По мере того как компании внедряют ИИ-инструменты, способные читать Gmail, Google Docs и Календарь, сам искусственный интеллект становится новым уровнем доступа.

Безопасность ваших данных теперь зависит от осторожного выбора при принятии или включении каждого нового ИИ-обновления. Эта бесконечная игра в «закрытие конюшни после того, как ИИ-лошади сбежали» продолжается.

Самые интересные и важные новости на нашем канале в Telegram

Сообщение Google предупредил о новой угрозе для 2 млрд пользователей Gmail появились сначала на Hash Telegraph.