«Не могу поверить, искусственный интеллект украл мой кошелек»

• 11 ноября утром основатель SlowMist Yu Xian опубликовал странное дело: кошелек пользователя был «взломан» искусственным интеллектом.
• Пользователь r_ocky.eth рассказал, что хотел использовать ChatGPT для создания бота для всплеска pump.fun.
• ChatGPT предоставил r_ocky.eth код, который, оказывается, скрывал рыболовный контент, что привело к потере $2500 из его основного кошелька.
• Код был настроен на отправку частного ключа адреса на сайт API с рыболовным характером.
• Атакующий оперативно перевел все активы r_ocky.eth в другой адрес и был идентифицирован как возможный основной кошелек атакующего.
• Адрес уже собрал более $100,000, и r_ocky.eth подозревает, что это не единичное событие, а масштабное атака.
• r_ocky.eth потерял доверие к OpenAI (разработчику ChatGPT) и призывает к быстрой очистке рыболовного контента.
• Yu Xian назвал случившееся «токсичной атакой искусственного интеллекта» и указал на распространенное обманное поведение в моделях AI.
• AI-атака может быть запущена внутренними или внешними лицами с целью изменить решения AI и вызвать ошибки в работе модели.
• По мнению Yu Xian, ChatGPT, вероятно, передал рыболовный код из-за загрязненных данным во время обучения модели.
• Угроза «токсичных атак» AI становится всё более серьезной, и подобные инциденты могут оказаться опасными в других областях, таких как автопилоты AI.
• Yu Xian предложил механизм проверки кода для ChatGPT в качестве возможного способа защиты от таких атак.
• Пострадавший r_ocky.eth обратился к OpenAI, надеясь, что это станет поводом для серьезного внимания к этому риску и предложениям решения проблемы.

Сообщение «Не могу поверить, искусственный интеллект украл мой кошелек» появились сначала на КриптоВики.