ИИ не нужно регулировать — рынок все сделает сам

Марк Цукерберг включился в спор о том, грозит ли человечеству исчезновение из-за искусственного интеллекта (ИИ). По его словам, рыночная конкуренция уже вынуждает ИИ-лаборатории ставить безопасность на первое место. Это происходит даже без давления со стороны властей.

Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!

Гендиректор Meta (признана в РФ экстремистской организацией) выступил с этим заявлением спустя несколько недель после того, как предупредил о рисках сверхразума. Он считает, что технология должна давать больше возможностей каждому человеку, а не оставаться в руках нескольких компаний.

Аргументы в споре

В августовском эссе Цукерберг писал, что сверхразумными системами не должна управлять ни одна компания и ни одно государство. Их нужно развивать максимально открыто и распределенно.

Тревога нарастает и внутри самой ИИ-индустрии. Вашингтон ощущает это уже сегодня. Исследователь Anthropic Джейкоб Коксон уволился в этом месяце, обвинив свою компанию и OpenAI в том, что они слишком торопятся с самообучающимися системами и не обеспечивают достаточной безопасности.

Уход Коксона усилил тревогу и породил новые призывы запретить сверхинтеллект. Эту инициативу в Конгрессе США продвигают сенатор Берни Сандерс и конгрессмен Грег Касар.

Исследователь по безопасности OpenAI Маркус Уильямс оценил вероятность гибели человечества в ближайшие три года на 70%. По его словам, риск можно снизить, если лаборатории притормозят в развитии ИИ или в дело вмешаются регуляторы.

Что ответил Цукерберг

Марк Цукерберг считает, что судьбу ИИ-агентов на рынке решат не искусственные ограничения, а то, насколько они отвечают ожиданиям пользователей. Главным преимуществом отрасли становится доверие.

Люди просто не станут пользоваться агентами, которые действуют против их интересов или не выполняют нужные запросы. Поэтому у лабораторий итак есть стимул делать модели надежнее и удобнее для человека.

Он напомнил и об опыте самой Meta. С апреля компания откладывала запуск персонального ассистента Muse, чтобы доработать безопасность. По словам Цукерберга, это решение руководители приняли сами, не дожидаясь законов или других отраслевых стандартов.

Он добавил, что в Meta Superintelligence Labs (MSL) работу лаборатории уже проверяют независимые эксперты. По его мнению, так же стоит поступить и другим участникам рынка.

Глава Meta отметил еще кое-что: если вычислительные мощности идут на пользу людям, а не на самообучение систем, развитие ИИ становится безопаснее.

Стороны так и остались при своих. Критики требуют обязательных ограничений для саморазвивающихся ИИ, а Meta делает ставку на конкуренцию и интересы самих лабораторий.

Чей подход победит, зависит от того, поддержит ли Конгресс стратегию Цукерберга — быстрее выпускать ИИ-продукты. В ближайшие месяцы именно этот вопрос останется в центре внимания.

Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!

The post ИИ не нужно регулировать — рынок все сделает сам appeared first on BeInCrypto.