OpenAI анонсировала режим Lockdown, который защищает ИИ-агентов от атак «отравления промта» — одного из самых распространенных способов заставить модель раскрыть данные или выполнить нежелательные действия. Новый механизм ограничивает доступ к чувствительной информации и позволяет безопаснее использовать ИИ для работы с документами, почтой и корпоративными системами.
OpenAI анонсировала режим Lockdown, который защищает ИИ-агентов от атак «отравления промта» — одного из самых распространенных способов заставить модель раскрыть данные или выполнить нежелательные действия. Новый механизм ограничивает доступ к чувствительной информации и позволяет безопаснее использовать ИИ для работы с документами, почтой и корпоративными системами.
JOIN
