Глава компании xAI Илон Маск согласился с критикой того, что его чат-бот Grok игнорирует очевидный ресурс для развития — реакцию читателей на публикации, созданные с помощью этого ИИ. Замечание высказал один из участников дискуссии, развернувшейся после выступления Ричарда Саттона, ведущего теоретика в области искусственного интеллекта. С чего начался спор Дискуссия завязалась после публикации Ричарда Саттона The post Спор о пределах ИИ дошел до Маска: ему указали на главный изъян Grok appeared first on BeInCrypto.
Глава компании xAI Илон Маск согласился с критикой того, что его чат-бот Grok игнорирует очевидный ресурс для развития — реакцию читателей на публикации, созданные с помощью этого ИИ.
Замечание высказал один из участников дискуссии, развернувшейся после выступления Ричарда Саттона, ведущего теоретика в области искусственного интеллекта.
Дискуссия завязалась после публикации Ричарда Саттона — лауреата премии Тьюринга 2024 года. Эту престижную награду он разделил с Эндрю Барто за разработку фундаментальных принципов обучения с подкреплением. Метод позволяет программе развиваться через систему проб и ошибок: за каждое удачное действие алгоритм получает виртуальное поощрение, постепенно осваивая наиболее эффективные стратегии поведения.
Саттон занимает пост профессора компьютерных наук в Университете Альберты и сотрудничает с канадским институтом ИИ Amii.
В своем обращении он выдвинул неоднозначный тезис: современный генеративный ИИ, обучающийся на фиксированных наборах данных, не в состоянии совершать подлинные научные открытия. Его аргументация строится на следующих пунктах:
ПараметрХарактеристика ИИ по СаттонуИсточник новизныСлучайные отклонения в работе алгоритмовИсточник качестваБаза готовых текстов и изображений, на которых шло обучениеГлавная проблемаОтсутствие механизма самостоятельной оценки результатаПо мнению профессора, программа не способна осознать, насколько удачным оказался ее ответ в конкретный момент, а значит, лишена возможности отбирать лучшие решения.
К обсуждению присоединился Гийом Верден, основатель стартапа Extropic, известный в сети под псевдонимом Beff Jezos. Он перевел теоретические выкладки Саттона в практическую плоскость, затронув интересы Маска. Верден предположил: если Саттон прав, то Grok мог бы стать идеальным инструментом для создания вирусного контента. Пользователи соцсетей оттачивают мастерство написания текстов именно через пробы и ошибки, где мерилом успеха служит отклик аудитории. У Илона Маска есть доступ к колоссальному массиву таких данных, но существует серьезная преграда: Grok создает тексты, но информация о том, какие из них стали популярными, не возвращается в систему для дообучения.
На доводы Вердена Илон Маск ответил: «Good point» («Справедливо»).
Ответ Маска на тезисы Beff Jezos. Источник: X
Признание главы xAI фактически обнажило уязвимость его продукта — ту самую, на которую указывал Саттон. Платформа X обладает уникальным преимуществом: она в реальном времени фиксирует, какие публикации привлекают внимание, а какие игнорируются. Однако слова Вердена подтверждают, что эти ценные сведения пока никак не используются для совершенствования Grok. На текущий момент цикл разорван: нейросеть генерирует контент, но не получает обратной связи о его реальной эффективности.
Реакцию Маска можно расценивать как анонс будущих изменений в стратегии разработки. Замыкание этого цикла — внедрение учета пользовательских реакций в процесс обучения — позволило бы реализовать тот самый подход, за который Саттон получил премию Тьюринга. Для Grok, который глубоко интегрирован в социальную сеть с миллиардами ежедневных взаимодействий, этот путь к самосовершенствованию может оказаться значительно короче, чем для конкурентов, не имеющих собственных площадок для сбора живого отклика.
Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш телеграм-канал, получайте доступ к торговым сигналам и новостям рынка, общайтесь с нашим аналитиком. Будьте на шаг впереди рынка каждый день!
The post Спор о пределах ИИ дошел до Маска: ему указали на главный изъян Grok appeared first on BeInCrypto.
JOIN
