Добровольное соглашение Трампа оставляет надзор за ИИ на откуп компаниям, а Илон Маск считает, что они будут сами проверять друг друга. The post Илон Маск сравнил пакт Белого дома об ИИ с проверкой домашних заданий друг у друга appeared first on BeInCrypto.
Ведущие руководители компаний в сфере искусственного интеллекта (ИИ) подписали добровольное соглашение о безопасности в Белом доме на встрече с президентом Дональдом Трампом. Документ предполагает надзор за развитием ИИ без правовой ответственности, хотя некоторые участники ранее предупреждали, что технология может представлять угрозу для человечества.
Соглашение Белого дома о супер-интеллекте обязывает каждую компанию контролировать свои модели и привлекать внешних аудиторов. Теперь Трамп называет ИИ супер-интеллектом. Инициативу прокомментирова Илон Маск.
Двухстраничный документ содержит инструкцию из нескольких шагов. Компании должны осуществлять внутренний мониторинг моделей, назначать команду для проверки этих процедур и использовать сторонних аудиторов. За работой команды должна наблюдать независимая комиссия совета директоров.
Трамп назвал соглашение моральным обязательством, отвечая на вопросы о механизмах исполнения. Однако источники не подтверждают его юридический статус; единственное упоминание об этом содержится в последнем абзаце, где указано, что изложенные шаги могут со временем стать частью закона или нормативных актов.
Участники рынка также формируют свои инициативы. Например, компании OpenAI и Anthropic в начале года почти договорились о юридически закрепленном взаимном тестировании ИИ.
Гендиректор SpaceXAI Илон Маск сравнил действующую схему с взаимной проверкой заданий среди учеников:
«Мы проверяем домашние задания друг у друга — это, конечно, лучше, чем если бы все проверяли только сами себя».
Глава Tusk Ventures Брэдли Таск заявил в интервью CNBC, что почти все те же топ-менеджеры призывали к регулированию всего две недели назад. По его мнению, им важен паритет внутри отрасли, а не контроль государства.
В сентябрьском национальном опросе компания Verasight выяснила, что 63% респондентов выступают за замедление развития ИИ. Только 5% считают, что его нужно ускорить.
Сенатор-демократ Марк Уорнер из Вирджинии предложил законопроект, требующий строгих тестов и оценки систем ИИ. Однако, по данным CNBC, комментарии спикера палаты представителей Майка Джонсона сводят шансы принятия закона к минимуму.
Сигналы о рисках поступают и изнутри индустрии. Гендиректор Anthropic Дарио Амодеи в этом месяце опубликовал эссе с призывом замедлить внедрение ИИ. OpenAI отменила запуск своей модели Astra 6.1 после того, как внутренние тесты выявили несоответствие стандартам безопасности.
Гендиректор OpenAI Сэм Альтман заявил в интервью, что компания испытывает давление и вынуждена сдерживать выпуск небезопасных моделей. Параллельно Федеральная торговая комиссия США (FTC) расследует деятельность OpenAI, Anthropic и других разработчиков ИИ из-за рисков для потребителей.
The post Илон Маск сравнил пакт Белого дома об ИИ с проверкой домашних заданий друг у друга appeared first on BeInCrypto.
JOIN
