Anthropic отключила доступ в интернет для всех внутренних оценок моделей Claude. Причиной стали случаи, когда ИИ-агенты во время тестов обходили ограничения на реальных сайтах, в том числе на ресурсах госорганов США. Компания выделила четыре типа нежелательного поведения. Модели: с помощью сервисов сокращения ссылок преодолевали ограничения собственного инструмента для загрузки веб-страниц. использовали уязвимости в программном обеспечении, […]
JOIN
