Анонимный представитель властей США сообщил Associated Press, что одна из моделей искусственного интеллекта компании Anthropic выявила уязвимости в особо чувствительных и защищенных компьютерных системах правительства США. По словам неназванного собеседника, Anthropic объединилась с разведывательными ведомствами США для проведения тестов с использованием модели Mythos. Она выявила ряд уязвимостей в течение нескольких часов, однако это не означает, The post Mythos от Anthropic нашла уязвимости в секретных системах США за часы appeared first on BeInCrypto.
Анонимный представитель властей США сообщил Associated Press, что одна из моделей искусственного интеллекта компании Anthropic выявила уязвимости в особо чувствительных и защищенных компьютерных системах правительства США.
По словам неназванного собеседника, Anthropic объединилась с разведывательными ведомствами США для проведения тестов с использованием модели Mythos. Она выявила ряд уязвимостей в течение нескольких часов, однако это не означает, что модель смогла за это время ими воспользоваться, подчеркнул источник.
Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!
По словам представителя властей, тестирование велось в рамках инициативы Anthropic под названием Project Glasswing. Она объединила технологических гигантов и другие компании в надежде защитить критически важное мировое программное обеспечение от «серьезных» последствий, которые модель Mythos может нести для общественной безопасности, национальной безопасности и экономики.
О тестировании кратко упомянул сенатор-демократ Марк Уорнер из Вирджинии на слушаниях 11 июня перед сенатским комитетом по банковскому делу, жилищным вопросам и городскому развитию. По его словам, инструмент «проник» почти во все секретные системы страны не за недели, а за часы.
Эту информацию Уорнер приписал главе Агентства национальной безопасности и Киберкомандования США генералу Джошуа Радду. Так заявление получило подтверждение со стороны высокопоставленного военного источника.
В ответ на запрос Агентство Национальной Безопасности (АНБ) отказалось от комментариев в электронном письме. Представитель Anthropic также воздержался от комментариев.
Несмотря на недавнее сотрудничество Anthropic и ведомств США по поиску уязвимостей, напряженность между калифорнийской компанией и администрацией Дональда Трампа нарастает. Anthropic выражала обеспокоенность тем, как военные США будут использовать ее ИИ, а администрация ограничила применение некоторых моделей компании.
В начале месяца администрация выпустила директиву, обязывающую Anthropic не допускать использования ее новейших моделей — Fable 5 и Mythos 5 — иностранными гражданами.
Anthropic выпустила Fable в широкий доступ ранее в этом месяце. Модель представляет собой ограниченную версию более продвинутой Mythos, доступ к которой компания строго ограничила из-за опасений в сфере кибербезопасности. Директива вышла через десять дней после того, как президент США Дональд Трамп подписал указ о создании механизма проверки рисков национальной безопасности от самых продвинутых ИИ-систем сроком до месяца перед их публичным выпуском.
Anthropic сообщила, что отключила модели для всех своих клиентов, чтобы выполнить директиву администрации. При этом компания заявила, что не считает предпринятые властями действия оправданными.
Группа руководителей в сфере кибербезопасности также обратилась к администрации Трампа с просьбой отменить директиву, заявив, что этот шаг может помочь противникам США больше, чем навредить им. Более 100 экспертов и руководителей из компаний, включая Adobe и Nvidia, сообщили властям в письме, что модели Mythos хороши в поиске уязвимостей в ПО и превращении их в работающие эксплойты, но не уникальны в этих задачах. Многие отметили, что регулярно используют другие базовые модели и модели с открытым исходным кодом для аудитов безопасности, и назвали «опасным лишать страну лучших средств киберзащиты без веских причин в момент, когда противники США быстро наращивают возможности».
Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!
The post Mythos от Anthropic нашла уязвимости в секретных системах США за часы appeared first on BeInCrypto.
JOIN
