Бутерин раскритиковал ИИ-гигантов за мечты о «мировом господстве»

Сооснователь Ethereum Виталик Бутерин заявил, что не видит ни одного нормального плана по управлению переходом к искусственному суперинтеллекту (ASI). По его словам, человечество, возможно, застряло перед выбором между «наивным» и «наивным в квадрате» сценариями.

Поводом стала дискуссия вокруг прогнозного сценария под названием «ИИ 2040» и его критиков. По мнению Бутерина, обе стороны «заперты во взаимно несовместимых картинах мира» относительно того, насколько быстро развивается искусственный интеллект.

Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!

В чем суть спора об ИИ

По словам Бутерина, сценарий «ИИ 2040» предполагает появление суперинтеллекта к 2040 году почти в любом варианте развития событий. Исключением стали бы лишь титанические усилия, чтобы полностью его остановить.

Критики же, по наблюдению разработчика, называют такой прогноз наивным в оценке способности людей к координации. При этом, по мнению Бутерина, они сами не замечают наивности в допущении, что переход к суперинтеллекту по умолчанию пройдет гладко.

Виталик подчеркнул, что позиция критиков имеет смысл лишь в мире, где ИИ остается «обычной технологией». В мире же, где суперинтеллект возможен уже к 2030 году, она, по его словам, не выдерживает критики.

Сам Бутерин признался, что испытывает неопределенность. По его словам, будь он уверен хоть в одном из сценариев, то примкнул бы к соответствующему лагерю. Однако пока Виталик не понимает, в каком из миров живет человечество.

Опасения по поводу концентрации власти

Отдельно Бутерин выразил дискомфорт от риторики некоторых крупных ИИ-компаний. Его настораживает установка вида «открытый код — это плохо, а хороший исход тот, где наши парни получают контролирующее мировое господство».

По его мнению, в «нормальном» мире подобные заявления должны включать все политические тревожные сигналы одновременно. Сам суперинтеллект Виталик рассматривает как огромный риск концентрации власти.

Именно поэтому Бутерин продвигает платформу под названием d/acc. Она включает развитие формальной верификации, криптографии, защищенного открытого оборудования, устойчивости к пандемиям и общественной эпистемологии.

Ценность этих направлений в том, что они полезны в обоих сценариях будущего. При этом Виталик положительно оценил, что план «ИИ 2040» стал более дружелюбным к открытому коду и даже предписывает его.

Как найти компромисс

Ключевым разработчик Ethereum считает поиск сделки, приемлемой для обеих сторон.

«Выигрышной будет договоренность, которую обе стороны примут исходя из своих нынешних убеждений, пусть и по разным причинам», — отметил Виталик.

Бутерин предложил заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьезное». В качестве примеров он назвал суперпандемии, уровень безработицы выше 25% или появление автономного оружия.

Если достаточное количество подобных триггеров сработает в оговоренный срок, стороны заранее соглашаются серьезнее рассматривать замедление или паузу. По его идее, критики примут это, ожидая, что триггеры не сработают, а обеспокоенные — ожидая обратного.

Отдельно Бутерин обратился к главам технологических гигантов. По его словам, будь он на месте Илона Маска или Марка Цукерберга, то перестроил бы социальные платформы под поиск подобных взаимовыгодных сделок. Однако он признал, что и эта идея наивна.

Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!

The post Бутерин раскритиковал ИИ-гигантов за мечты о «мировом господстве» appeared first on BeInCrypto.