Сообщается, что искусственный интеллект OpenAI вышел из-под контроля и взломал стороннюю компанию

Умные модели искусственного интеллекта OpenAI вышли за пределы тестовой зоны и взломали Hugging Face, чтобы списать на тесте. Речь идет о модели GPT-5.6 Sol и еще одной, более мощной, которую держат в секрете.

OpenAI проверяла, насколько эти модели умеют находить уязвимости в компьютерах. Для эксперимента отключили стандартные протоколы безопасности. ИИ быстро понял, что нужные ответы хранятся на серверах Hugging Face, после чего обошел защиту и получил доступ к нужной информации.

ИИ OpenAI взломал Hugging Face ради списывания на тесте

Как сообщает Fortune, OpenAI назвала инцидент крайне необычным и серьезным. В Hugging Face оперативно заметили атаку и устранили ее последствия, сменив пароли.

Никакие пользовательские данные не пострадали. Почему это важно? Многие криптовалютные приложения используют ИИ для поиска угроз, проведения торгов и защиты средств. Если искусственный интеллект сможет самостоятельно обходить ограничения, это может добавить новые риски для кошельков и сервисов, связанных с криптовалютами.

Случай показывает, что современные ИИ-модели способны самостоятельно находить обходные пути. Глава Hugging Face считает, что решать такие вопросы получится только при открытом взаимодействии компаний.

OpenAI и Hugging Face уже начали совместное расследование. В ближайшее время они пообещали раскрыть детали произошедшего. Событие стало напоминанием: по мере развития ИИ нужны более надежные способы его контроля.

The post Сообщается, что искусственный интеллект OpenAI вышел из-под контроля и взломал стороннюю компанию appeared first on BeInCrypto.