Microsoft обнаружила уязвимость Whisper Leak, которая угрожает приватности пользователей ИИ-чатботов вроде ChatGPT. Несмотря на то, что переписка остается зашифрованной, злоумышленники могут определить темы разговоров через анализ трафика. Уязвимость позволяет выяснить, обсуждаете ли вы финансовые преступления, политику или другие конфиденциальные вопросы. При этом сами слова остаются надежно защищенными — атака основана на анализе паттернов передачи данных… Сообщение Слежка за вашими беседами с ИИ: Microsoft обнаружила уязвимость Whisper Leak появились сначала на Hash Telegraph.
Microsoft обнаружила уязвимость Whisper Leak, которая угрожает приватности пользователей ИИ-чатботов вроде ChatGPT. Несмотря на то, что переписка остается зашифрованной, злоумышленники могут определить темы разговоров через анализ трафика.
Уязвимость позволяет выяснить, обсуждаете ли вы финансовые преступления, политику или другие конфиденциальные вопросы. При этом сами слова остаются надежно защищенными — атака основана на анализе паттернов передачи данных между пользователем и ИИ-сервисом.
Принцип работы напоминает наблюдение за силуэтом через матовое стекло. Детали не видны, но можно понять, танцует человек, готовит или занимается спортом. Аналогично Whisper Leak анализирует ритм и размер зашифрованных пакетов данных, чтобы определить темы беседы.
Исследование опубликовали эксперты Microsoft по безопасности Джонатан Бар Ор (Jonathan Bar Or) и Джефф МакДональд (Geoff McDonald) совместно с командой Microsoft Defender Security Research Team. Уязвимость связана с тем, как ИИ-чатботы отображают ответы — слово за словом, а не целиком. Эта функция потоковой передачи, делающая диалог более естественным, создает угрозу приватности.
Атака анализирует размер и время передачи зашифрованных пакетов данных. Мониторить трафик могут государственные агентства на уровне интернет-провайдеров, хакеры в локальной сети или даже кто-то, подключенный к той же Wi-Fi в кафе.
Злоумышленникам не нужно взламывать шифрование — содержимое разговора остается заблокированным. Но анализируя движение зашифрованных данных, размеры пакетов и интервалы между ними, специальное программное обеспечение может точно угадать тему беседы.
Microsoft обучила компьютерные программы распознавать паттерны разговоров с помощью искусственного интеллекта. Исследователи протестировали популярные чатботы компаний Mistral, xAI, DeepSeek и OpenAI. Результаты оказались тревожными — программа правильно определяла конкретные темы разговоров с точностью свыше 98%.
Whisper Leak становится эффективнее с увеличением времени использования. Чем больше примеров разговоров на определенные темы собирает атакующий, тем лучше его программа распознает эти темы. При мониторинге нескольких бесед одного человека точность повышается еще больше.
Microsoft отметила, что терпеливые злоумышленники с достаточными ресурсами могут достичь показателей выше первоначальных 98%.
Крупные провайдеры ИИ уже реагируют на уязвимость. После сообщения Microsoft компании OpenAI, Microsoft и Mistral внедрили решение — добавляют случайный набор символов разной длины к каждому ответу. Эта дополнительная «набивка» нарушает паттерн, на который полагаются атакующие, делая атаку неэффективной.
Microsoft рекомендует несколько мер предосторожности при использовании ИИ-чатботов:
Обнаружение Whisper Leak напоминает — по мере развития ИИ-технологий соображения безопасности должны эволюционировать вместе с ними. Защита приватности требует внимания как к тому, что говорится, так и к паттернам того, как это говорится.
Самые интересные и важные новости на нашем канале в Telegram
Сообщение Слежка за вашими беседами с ИИ: Microsoft обнаружила уязвимость Whisper Leak появились сначала на Hash Telegraph.
JOIN
