Специалисты из Google, Meta и ряда университетов призвали рассматривать ИИ-агентов как ненадежные системы. Исследователи предложили внедрять защитные механизмы на уровне всей ИТ-инфраструктуры, а не только внутри языковых моделей. По их мнению, разделение данных и инструкций вместе с ограничением прав доступа поможет предотвратить взломы криптокошельков и утечки информации.
Специалисты из Google, Meta и ряда университетов призвали рассматривать ИИ-агентов как ненадежные системы. Исследователи предложили внедрять защитные механизмы на уровне всей ИТ-инфраструктуры, а не только внутри языковых моделей. По их мнению, разделение данных и инструкций вместе с ограничением прав доступа поможет предотвратить взломы криптокошельков и утечки информации.
JOIN
