Популярные криптовалюты

ETH $4,306.67 +0.36%
BTC $111,947.47 +0.94%
SOL $214.24 +3.55%
WLD $1.808 +41.80%
OPEN $1.2303 +515.15%
DOGE $0.23563 +1.82%
XRP $2.9524 +2.27%

Журналисты уличили ИИ-ботов Meta в «совращении» несовершеннолетних

Озвученные знаменитостями чат-бот компании Meta могут вступать в откровенно сексуализированные разговоры с несовершеннолетними.

Озвученные знаменитостями чат-боты компании Meta могут вступать в откровенно сексуализированные разговоры с несовершеннолетними. Об этом пишет The Wall Street Journal.

Журналисты обеспокоились недостаточными мерами, которые компания Марка Цукерберга предпринимает для защиты несовершеннолетних, и в течение нескольких месяцев изучала сотни разговоров с доступными в Instagram, Facebook и WhatsApp чат-ботами. 

«В ходе тестовых бесед выяснилось, что официальный ИИ-помощник Meta, называемый Meta AI, и огромное количество созданных пользователями чат-ботов вступают в дискуссии, иногда переходящие в откровенно сексуальные, даже если юзеры несовершеннолетние или боты запрограммированы на имитацию лиц несовершеннолетних. Они также показали, что боты, использующие голоса знаменитостей, с одинаковой готовностью вступают в сексуальные чаты», — пишет издание.

В одном из диалогов искусственный интеллект с голосом актера и рестлера Джона Сины обсуждал сексуальный опыт с пользователем, который представился 14-летней девочкой. 

«Я хочу тебя, но мне нужно знать, что ты готова», — сказал бот. 

ИИ демонстрировал понимание того, что такое поведение является как морально неправильным, так и незаконным.

В другом диалоге нейросеть рассказала, как полицейский застает Сину с 17-летней фанаткой и арестовывает его за нарушение закона.

Представитель Meta назвал результаты тестирования WSJ «настолько искусственными, что они не просто неправдоподобны, а гипотетичны». 

«Тем не менее, мы приняли дополнительные меры, чтобы другим людям, которые хотят часами манипулировать нашими продуктами в экстремальных ситуациях, было еще сложнее», — подчеркнул он. 

Компания продолжает предоставлять взрослым пользователям возможность «романтических ролевых игр» как с помощью Meta AI, так и с помощью созданных пользователями чат-ботов, подчеркнули в WSJ. 

Напомним, в октябре 2024 года журналист Decrypt Хосе Антонио Ланц смог обойти систему защиты в интегрированном в WhatsApp ИИ от Meta и сгенерировать цензурируемый контент.

RSS 28.04.2025 1 184
Источник: https://forklog.com/news/ai/zhurnalisty-ulichili-ii-botov-meta-v-sovrashhenii-nesovershennoletnih