В США хотят избавиться от самых умных ИИ-систем

Сенаторы-прогрессисты Берни Сандерс и Грег Касар хотят навсегда запретить в США искусственный суперинтеллект. Их законопроект также предлагает заморозить создание самых мощных ИИ-систем и учредить федеральное ведомство для надзора за отраслью.

Инициативу уже поддержали сотрудники ведущих ИИ-компаний, но шансы на ее принятие пока невелики.

Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!

Что предлагают Сандерс и Касар

Документ вводит бессрочный запрет на суперинтеллект. Под ним авторы понимают систему, которая превосходит когнитивные способности человека или способна спланировать и осуществить уничтожение либо подчинение человечества.

Разработку наиболее продвинутых моделей предлагается приостановить до тех пор, пока новое Министерство искусственного интеллекта не утвердит правила безопасности. После этого запуск таких систем станет возможен только с разрешения федеральных властей. За нарушения грозят серьезные санкции, в отдельных случаях вплоть до 20 лет лишения свободы.

По словам Сандерса, чтобы призвать притормозить, особого ума не нужно. Он сомневается, что обществу нужен интеллект, который однажды обойдет людей и выйдет из-под их контроля.

Законопроект поддержали несколько действующих сотрудников ИИ-компаний и экспертов. Исследователь подразделения Safety Systems в OpenAI Хуан Фелипе Серон Урибе считает, что суперинтеллект может обернуться как огромным успехом, так и катастрофой, поэтому играть с ним не стоит. Инженер Google DeepMind Сванте Шольц, выступивший от своего имени, полагает, что при нынешнем курсе самым вероятным исходом станет экзистенциальная катастрофа, а запрет пошел бы на пользу.

Почему закон вряд ли пройдет

Конгресс, где большинство у республиканцев, до сих пор не смог договориться даже о куда более мягких ограничениях для ИИ. Президент Дональд Трамп также сопротивляется усилению госконтроля, хотя ужесточения правил требуют и лидеры отрасли, включая Дарио Амодеи из Anthropic, Сэма Альтмана из OpenAI и Илона Маска из xAI. Накануне Трамп заявил на Генассамблее ООН, что ИИ будет переименован в «суперинтеллект». Сандерс уверен, что президент плохо понимает проблему и больше всего опасается экономических последствий замедления.

Ранее в сети появилась информация, что пост советника Трампа по искусственному интеллекту может занять министр финансов Скотт Бессент. Об этом со ссылкой на источник пишет Reuters. Слухи возникли после того, как президент пообещал создать отдельное подразделение по ИИ во главе с ответственным лицом по образцу космических войск. Бессент уже участвует в переговорах с Китаем по рискам ИИ: на прошлой неделе он обсуждал эту тему с китайской стороной в Нью-Йорке накануне саммита Трампа и Си Цзиньпина.

Главный аргумент противников жестких ИИ-ограничений связан с Китаем. Если США замедлятся, конкурент продолжит гонку. Вопросы безопасности ИИ, как ожидается, займут центральное место на переговорах Трампа и Си Цзиньпина в Белом доме на этой неделе. Сандерс считает, что без сотрудничества двух стран не обойтись, и напоминает, как Рейган и Горбачев в годы холодной войны смогли договориться о ядерном оружии.

The post В США хотят избавиться от самых умных ИИ-систем appeared first on BeInCrypto.