Исследование выявило искажение ИИ-помощниками до половины новостного контента

Результаты проведенного BBC совместно с Европейским вещательным союзом (EBU) исследования показали, что ИИ-ассистенты регулярно искажают новостной контент.

Согласно отчету, помощники на базе искусственного интеллекта заменяют поисковые системы уже для миллионов людей. 7% онлайн-потребителей используют ИИ для получения новостей, а среди пользователей младше 25 лет показатель достигает 15%. 

В масштабном мониторинге приняли участие 22 организации общественных СМИ из 18 стран. Профессиональные журналисты оценили более 3000 ответов от ChatGPT, Copilot, Gemini и Perplexity по ключевым критериям, включая точность, источник, отделение мнения от факта и предоставление контекста. 

Изыскания выявили множество системных недостатков в четырех ведущих инструментах искусственного интеллекта:

• в 45% ответов ИИ была обнаружена как минимум одна значительная проблема;
• в 31% случаев ассистенты ссылались на несуществующие или вводящие в заблуждение источники;
• 20% сообщений включали неточные данные, нереалистичные детали и устаревшую информацию.

Хуже всего в тестах показал себя Gemini, выдав 76% ответов с существенными проблемами и более чем вдвое превысив показатели конкурентов. Эксперты связали это с низкой эффективностью решения в поиске провайдеров.

Сравнение результатов исследования с полученными в начале года в ходе первого этапа работы данными продемонстрировало, что уровень ошибок ИИ-агентов снизился, но «по-прежнему высок».

«Исследование убедительно показывает, что подобные недостатки — не единичные случаи. Они носят системный, трансграничный и мультиязычный характер, и мы считаем, что это подрывает доверие общественности», — заявил заместитель генерального директора EBU Жан Филип де Тендер.

Согласно проведенному BBC опросу, более трети взрослых британцев доверяют составленным ИИ новостным сводкам. У респондентов младше 35 лет этот показатель достигает половины. 

Исследовательская группа считает, что эти данные только подчеркивают значимость выявленных проблем. 

Эксперты представили набор инструментов для улучшения ответов ИИ-ассистентов по новостной повестке и повышения медиаграмотности пользователей. 

Напомним, ученые выявили признаки деградации ИИ-моделей в результате использования контента из соцсетей.