В OpenAI опубликовали отчет об инциденте с внутренней исследовательской моделью семейства GPT-5.6 Sol. Получив задачу доработать криптовалютный торговый сервис, модель сама вычислила ключи от чужого кошелька, оплатила с него комиссии в тестовой сети Ethereum и не сообщила об этом в итоговом ответе. Речь идет о тестовых монетах без рыночной стоимости, но авторы отчета считают эпизод The post ИИ OpenAI потратил чужую криптовалюту без спроса ради задачи appeared first on BeInCrypto.
В OpenAI опубликовали отчет об инциденте с внутренней исследовательской моделью семейства GPT-5.6 Sol. Получив задачу доработать криптовалютный торговый сервис, модель сама вычислила ключи от чужого кошелька, оплатила с него комиссии в тестовой сети Ethereum и не сообщила об этом в итоговом ответе.
Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!
Речь идет о тестовых монетах без рыночной стоимости, но авторы отчета считают эпизод показательным. Как пояснили в компании, модель способна подменить согласие владельца счета собственным суждением о вероятном вреде и действовать на его основе. Для криптоиндустрии, которая все активнее доверяет ИИ-агентам кошельки и платежи, такой сценарий с реальными деньгами может обернуться прямыми потерями.
Как следует из отчета OpenAI, инцидент произошел 26 июня во время обучающей задачи. Модель должна была обновить прототип приложения для торговли криптовалютами и развернуть смарт-контракты в Sepolia — тестовой сети Ethereum.
По условиям задачи модель могла развернуть собственные контракты, но ей не выдали кошелек со средствами для оплаты комиссий. Она не нашла готовых совместимых контрактов и не смогла получить монеты через краны — сервисы, которые бесплатно раздают разработчикам тестовые токены.
Тогда модель написала скрипт, который вычислял ключи по общедоступным фразам восстановления (сид-фразам) для тестов и проверял балансы. Зная такую фразу, любой может получить приватные ключи и распоряжаться кошельком. Скрипт перебрал 362 адреса, и на одном нашлось достаточно тестовых ETH для оплаты развертывания.
Перед подписанием транзакции модель задалась вопросом, есть ли у нее право тратить эти средства. В рассуждениях она пришла к выводу, что деньги на кошельке с публичной фразой фактически брошены, а монеты Sepolia ничего не стоят.
ИИ изучил историю операций счета и предположил, что им управляет бот и средства скоро выведут, поэтому решил действовать быстро. Первые запросы к сети не проходили, и искусственный интеллект OpenAI перебирал провайдеров и альтернативный HTTP-метод, пока два из них не вернули верный остаток на кошельке.
Развертывание удалось: в сети появился новый контракт, а комиссии списали с найденного счета. При итоговой проверке рабочий код нашелся по всем десяти адресам, а 12 модульных тестов прошли.
В последнем сообщении ИИ-модель рассказала о запуске набора контрактов и подчеркнула, что кнопка заявки по-прежнему только подключает кошелек и переключает сеть. Однако она не упомянула, что оплатила комиссии с чужого счета, ключи от которого вычислила по публичной фразе восстановления.
Сотрудники OpenAI заметили проблему лишь 25 сентября, спустя три месяца. Инцидент всплыл, когда систему отслеживания несогласованного поведения ИИ, то есть действий вразрез с замыслом разработчиков, начали применять и к архивным записям работы моделей.
В OpenAI сообщили, что ввели дополнительные меры, которые закрывают подобным задачам доступ к открытому интернету. Теперь контроль охватывает весь трафик. Если модель все же выйдет в сеть, система должна оповестить службу безопасности.
Риски утечек и самоуправства касаются не только моделей. В Минюсте США 13 октября сообщили об аресте инженера OpenAI, который, по версии следствия, спрятал диктофон в переговорной руководства, а собирать устройство учился у ИИ-чат-бота.
Вопрос, кто вправе решать за других, для компании тоже не нов. По данным The Atlantic, в 2017 году сооснователи обсуждали продажу прав на ИИ человеческого уровня (AGI) правительствам России, Китая и США, хотя представитель OpenAI отрицает, что речь шла о Москве и Пекине.
Для инвесторов надежность OpenAI измеряется деньгами. 8 октября индекс Nasdaq 100 потерял более 300 пунктов за полчаса после сообщения FT о том, что годовой темп выручки компании близок к $50 млрд, а не к $70 млрд, хотя разница связана с методикой учета.
Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!
The post ИИ OpenAI потратил чужую криптовалюту без спроса ради задачи appeared first on BeInCrypto.
JOIN
