Бутерин: Grok помогает бороться с дезинформацией в соцсети X

Основательник Ethereum Виталик Бутерин (Vitalik Buterin) заявил, что чат-бот Grok помогает бороться с дезинформацией в социальной сети X, поскольку часто опровергает предположения пользователей вместо их подтверждения.

«Простая возможность обратиться к Grok в X — это, пожалуй, самое важное нововведение, которое помогает платформе бороться с ложной информацией», — написал Бутерин.

Он подчеркнул ключевую особенность работы чат-бота: «То, что вы не знаете заранее, как отреагирует Grok, здесь крайне важно. Я видел много ситуаций, когда кто-то обращается к Grok, ожидая подтверждения своих странных политических убеждений, а тот развеивает их заблуждения».

Улучшение с оговорками

По словам Бутерина, есть веские основания считать Grok полезным дополнением для X. Однако он выразил озабоченность тем, как чат-бот обучается на основе мнений и взглядов определенных пользователей, включая его создателя Илона Маска.

Недостатки Grok ярко проявились в прошлом месяце, когда он расхваливал спортивные способности Маска и даже предположил, что тот мог бы воскреснуть быстрее Иисуса Христа.

Маск объяснил эти странности злонамеренными запросами, а руководители криптокомпаний заявили, что инцидент показывает необходимость децентрализации ИИ для обеспечения точности, достоверности и беспристрастности.

Grok разработан ИИ-компанией Маска xAI и входит в число самых востребованных Ичат-ботов. Учитывая, что ИИ используют более миллиарда человек, неточная и вводящая в заблуждение информация может распространяться с колоссальной скоростью.

Проблемы есть у всех

Тем не менее Бутерин отметил, что Grok лучше других помогает X в борьбе с дезинформацией по сравнению с многочисленными низкокачественными альтернативами.

У Grok не единственного есть серьезные недостатки. ChatGPT от OpenAI критикуют за предвзятые ответы и фактические ошибки, а Character.ai обвиняют в том, что его чат-бот втянул 13 летнего мальчика в неподобающую переписку и даже склонял к самоубийству.

Высказывания Бутерина показывают, насколько сложно оценивать современные ИИ-системы. Несмотря на очевидные недостатки, Grok может способствовать развитию критического мышления у пользователей соцсети. Вопрос децентрализации ИИ по-прежнему актуален для криптосообщества, которое выступает за большую открытость технологий.

Мнение ИИ

С точки зрения машинного анализа данных, интеграция Grok в X создает беспрецедентную ситуацию: крупная социальная платформа впервые использует собственный ИИ-движок для фактчекинга в режиме реального времени. Этот подход кардинально отличается от традиционных методов модерации контента, которые полагались на модераторов-людей и простые алгоритмы обнаружения спама.

Ситуация демонстрирует потенциальную проблему монополизации «истины» в цифровом пространстве. Когда одна компания контролирует и платформу, и ИИ-систему, определяющую достоверность информации, возникает риск создания замкнутой экосистемы интерпретации фактов. Возможно, более устойчивым решением стала бы федеративная система фактчекинга с участием нескольких независимых ИИ-моделей. Остается вопрос: станет ли подход X образцом для других платформ или приведет к фрагментации интернета по принципу «истины от разных провайдеров»?

Самые интересные и важные новости на нашем канале в Telegram

Сообщение Бутерин: Grok помогает бороться с дезинформацией в соцсети X появились сначала на Hash Telegraph.