В Bloomberg узнали о несанкционированном доступе к ИИ-модели Mythos

Небольшая группа неавторизованных пользователей получила несанкционированный доступ к новой ИИ-модели Mythos от Anthropic. Об этом пишет Bloomberg со ссылкой на внутренние документы.

По информации агентства, несколько участников закрытого онлайн-форума смогли воспользоваться нейросетью сразу в день выхода и с тех пор регулярно ее применяют.

Anthropic позиционирует Mythos как систему, способную обнаруживать и эксплуатировать уязвимости «во всех основных операционных системах и веб-браузерах». В связи с этим компания предоставила доступ к ней только избранному кругу поставщиков ПО.

Для проникновения в систему пользователи задействовали несколько тактик: воспользовались учетными данными сотрудника стороннего подрядчика Anthropic, угадали URL модели по паттернам адресации других систем компании, а также извлекли дополнительные сведения из утечки данных стартапа Mercor.

Источник Bloomberg утверждает, что группа намерена лишь экспериментировать с новой моделью и не планирует причинять вред. Помимо Mythos, ее участники имеют доступ и к ряду других невыпущенных нейросетей Anthropic.

«Мы расследуем сообщение о несанкционированном подключении к Claude Mythos Preview через одну из сред сторонних поставщиков», — заявил представитель фирмы.

Этот инцидент подчеркивает трудность контроля за распространением потенциально опасных технологий и оставляет открытым вопрос: кто еще может получить доступ к Mythos и в каких целях.

Мощность Mythos

Mozilla сообщила в своем блоге, что ранняя версия Mythos помогла выявить 271 уязвимость в браузере Firefox в ходе внутреннего тестирования. Ошибки исправили.

Результат продемонстрировал, как передовые ИИ-системы способны анализировать большие кодовые базы и находить слабые места, которые ранее требовали тщательной проверки со стороны специалистов по кибербезопасности.

Ранее Mozilla тестировала другую модель Anthropic, которая выявила 22 уязвимости в предыдущей версии Firefox. Несмотря на новые результаты, в компании признают, что достижение абсолютной безопасности является «нереалистичной целью».

Фирма заявила, что все обнаруженные ошибки смог бы найти и высококлассный исследователь-человек.

«Некоторые комментаторы считают, что будущие ИИ-модели обнаружат совершенно новые формы уязвимостей, которые выходят за рамки нашего нынешнего понимания. Мы так не думаем», — отметили в компании.

Напомним, в апреле СМИ узнали, что Агентство национальной безопасности США использует Mythos, несмотря на конфликт стартапа с Пентагоном.

В марте фирма подтвердила утечку части исходного кода своего ИИ-инструмента для программирования Claude Code.

Позже она по ошибке удалила тысячи репозиториев на GitHub в попытках исправить ситуацию.