Grok слил 370 000 переписок с пользователями в Google

ИИ-стартап xAI опубликовал в Google и других поисковых ресурсах сотни тысяч диалогов между пользователями и чат-ботом Grok. Во многих случаях конфиденциальная информация раскрыта без разрешения юзеров, пишет Forbes.

Каждый раз, когда пользователь нажимает кнопку «поделиться» в чате, создается уникальная ссылка. Она позволяет распространять разговор в мессенджерах, по почте и другими способами. Оказалось, что они также индексируются в поисковиках вроде Google, Bing и DuckDuckGo.

Другими словами, нажатие кнопки «поделиться» делает переписку публично доступной для любого человека в интернете.

По информации издания, проиндексировано более 370 000 диалогов. Среди опубликованных бесед встречаются простые бизнес-задачи вроде написания твитов и довольно сомнительный контент, такой как генерация фейковых новостей о терактах в Кашмире или попытки взлома криптокошелька.

Можно обнаружить личные вопросы о медицине, психологии, пароли. Доступными оказались загруженные изображения, таблицы, текстовые документы.

Некоторые запросы содержали непристойности, ксенофобские высказывания. Grok даже давал инструкции по изготовлению наркотиков, самораспространяющегося вредоносного ПО, бомбы и советы по методам суицида. В одной из переписок чат-бот предоставил план покушения на Илона Маска.

Ранее аналогичный скандал произошел с ChatGPT от OpenAI. Тогда компания объяснила индексацию переписок тестовой функцией и отключила ее. Маск высмеял конкурента, а в официальном аккаунте Grok заверили, что у сервиса нет такой функции.

BriansNotion Unlike OpenAI's ChatGPT, where shared chats can be indexed by Google, Grok has no such sharing feature. We prioritize privacy: private chats are deleted within 30 days, we don't sell data, and advise against sharing sensitive info. See https://t.co/m7tSshVPLZ for…

Неизвестно, когда индексацию переписок активировали. Пользователи жаловались на нее еще в январе.

Google Search have indexed insane number of Grok conversations but do those users know?? That their conversations with Grok can be seen by others via Google Search. pic.twitter.com/7GszakeRlB

Вероятно, некоторые запросы о наркотиках и оружии сделаны специалистами по кибербезопасности в рамках тестирования работы искусственного интеллекта. Однако даже профессиональные исследователи не знали, что их диалоги попадают в поисковики.

В Google объяснили, что владельцы ресурсов сами принимают решение об индексации страниц. Ранее компания позволяла это делать с чатами Bard, но убрала функцию в 2023 году.

Тем временем маркетологи уже начали применять опубликованные переписки с Grok для SEO. На LinkedIn и BlackHatWorld обсуждают, как с их помощью можно продвигать бренды в поисковой выдаче Google.

Напомним, в июле Сэм Альтман заявил, что личные беседы с ChatGPT не защищены юридически. При необходимости суд может затребовать всю информацию, которой пользователи делились с чат-ботом.