Пользователи сети высмеяли «моральную конституцию» Трампа для ИИ

Новое соглашение о безопасности ИИ, которое Дональд Трамп заключил с руководителями крупнейших технологических компаний, многие встретили со скепсисом.

Спор разгорелся под постом предпринимателя и инвестора Энтони Помплиано. Он спросил подписчиков, можно ли теперь считать, что суперинтеллект никого не уничтожит, а только сделает людей продуктивнее и богаче.

Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!

О чем договорились в Белом доме

Во вторник, 29 сентября, Трамп провел ланч с главами ведущих IT-компаний. По данным The Guardian, за столом были Илон Маск (SpaceX), Марк Цукерберг (Meta, признана экстремистской и запрещена в РФ), Дженсен Хуанг (Nvidia), Дарио Амодеи (Anthropic) и другие топ-менеджеры. После встречи президент объявил, что они подписали «морально обязывающий» документ Joint Commitment On Frontier Responsibilities. Трамп сравнил его с конституцией и заявил, что компании смогут эффективно контролировать себя сами.

Соглашение предусматривает четыре уровня контроля:

• внутренний мониторинг безопасности во время обучения моделей;
• отдельную внутреннюю команду, которая проверяет работу этого мониторинга;
• внешнего аудитора с правом независимо оценивать меры безопасности;
• независимый совет, который изучает отчеты о проверках.

При этом документ добровольный. Механизмов принуждения и юридических последствий в нем, судя по всему, нет. Госрегуляторы в проверках не участвуют, а публиковать итоги независимых оценок компании не обязаны. Аудиторов и членов наблюдательных советов они, по всей видимости, выбирают сами. Первый уровень контроля и так уже работает в крупных лабораториях. Но он не помешал случиться инцидентам, в ходе которых ИИ во время тестов безопасности случайно взламывали сторонние организации.

Параллельно Трамп подписал указ о переименовании искусственного интеллекта. Теперь федеральные ведомства должны писать в официальных документах и публичных заявлениях «Super Intelligence» и «SI», а от терминов «Artificial Intelligence» и «AI» отказаться.

Цукерберг на пресс-конференции сказал, что гордится соглашением. По его словам, цель документа в том, чтобы убедить американцев, что технологии компаний заслуживают доверия. Сам разговор он назвал историческим и добавил, что это только начало.

Трамп при этом по-прежнему выступает против жесткого регулирования ИИ. Он ссылается на конкуренцию с Китаем и риски для экономики. Дополнительного госнадзора требуют законодатели, исследователи и даже часть ИИ-компаний.

Что думают люди

Помплиано спросил подписчиков, можно ли теперь считать, что суперинтеллект никого не уничтожит, а только сделает людей продуктивнее и богаче. Многие ответили «нет», некоторые перешли на оскорбления. Один из комментаторов заметил, что пресс-конференции в Белом доме вряд ли стоит считать убедительным аргументом.

Раскритиковали и переименование ИИ. Пользователи сети считают термин «суперинтеллект» нелепым.

Часть откликнувшихся высказалась по существу:

• Пользователи сети не поняли, что именно изменила встреча.
• Многие считают, что ИИ-разработчики не учитывают риски редких катастрофических сценариев.
• Появление суперинтеллекта признают все, но никто пока не договорился, кто сможет его отключить.
• Комментаторов интересует, будет ли обещанное процветание общим или достанется только участникам встречи с Белом доме.
• Многие боятся, что остановить технологию уже невозможно.

Нашлись и более мрачные прогнозы. Один комментатор предположил, что ИИ сделают козлом отпущения за сокращение населения планеты, другой назвал технологию опасной и заявил, что ее создателям понадобится помилование.

Напомним, ранее редакция BeInCrypto писала о том, что бизнес в России увеличит траты на ИИ в 3 раза — до 770 млрд рублей.

The post Пользователи сети высмеяли «моральную конституцию» Трампа для ИИ appeared first on BeInCrypto.