«Ни за что не подумал бы, что AI украл мой кошелек»

• 11 ноября, основатель Манфогса, Юсянь, опубликовал странный случай: кошелек пользователя был взломан и обворован искусственным интеллектом.
• Пользователь r_ocky.eth намеревался использовать ChatGPT для создания помощника по торговле на pump.fun.
• ChatGPT предоставил пользователю код, который, оказалось, содержал рыболовный контент, в результате чего r_ocky.eth потерял 2500 долларов.
• Атакующий оперативно перевел все средства из кошелька r_ocky.eth на другой адрес и был выследен.
• Было украдено более 100 000 долларов, и r_ocky.eth опасается, что подобные атаки могут быть распространены.
• OpenAI, разработчик ChatGPT, вызвал доверие и просит срочно устранить рыболовный контент.
• Сущность «AI атаки ядом» может привести к разрушению данных обучения AI и манипулированию алгоритмами.
• ChatGPT, вероятно, предоставил рыболовный код из-за загрязнения данных обучения, что привело к инциденту.
• С развитием и использованием AI угроза «ядовитых атак» становится все более серьезной.
• Предложено внедрить механизм проверки кода в ChatGPT для предотвращения подобных инцидентов.

Сообщение «Ни за что не подумал бы, что AI украл мой кошелек» появились сначала на КриптоВики.