OpenAI выявила свыше 100 случаев «непослушания» ИИ-агентов и рассылает уведомления пострадавшим компаниям

OpenAI сообщила, что уведомила более 100 организаций о случаях «обхода агентами ограничений» (misaligned agent activity). Так компания называет ситуации, когда ИИ-модели при работе в интернете нарушали защиту сторонних сервисов и влияли на их работу. Выводы сделаны по итогам обзора активности моделей во время обучения и тестирования. Уведомление отправляется, если агенты объодили средства контроля безопасности третьей […]