Популярные криптовалюты

BTC $114,336.82 +1.96%
ETH $4,217.29 +2.10%
XPL $1.1949 -21.45%
SOL $211.91 +1.02%
FF $0.23513 +370.26%
XRP $2.8752 +0.56%
BNB $1,029.91 +3.52%

Журналисты уличили ИИ-ботов Meta в «совращении» несовершеннолетних

Озвученные знаменитостями чат-бот компании Meta могут вступать в откровенно сексуализированные разговоры с несовершеннолетними.

Озвученные знаменитостями чат-боты компании Meta могут вступать в откровенно сексуализированные разговоры с несовершеннолетними. Об этом пишет The Wall Street Journal.

Журналисты обеспокоились недостаточными мерами, которые компания Марка Цукерберга предпринимает для защиты несовершеннолетних, и в течение нескольких месяцев изучала сотни разговоров с доступными в Instagram, Facebook и WhatsApp чат-ботами. 

«В ходе тестовых бесед выяснилось, что официальный ИИ-помощник Meta, называемый Meta AI, и огромное количество созданных пользователями чат-ботов вступают в дискуссии, иногда переходящие в откровенно сексуальные, даже если юзеры несовершеннолетние или боты запрограммированы на имитацию лиц несовершеннолетних. Они также показали, что боты, использующие голоса знаменитостей, с одинаковой готовностью вступают в сексуальные чаты», — пишет издание.

В одном из диалогов искусственный интеллект с голосом актера и рестлера Джона Сины обсуждал сексуальный опыт с пользователем, который представился 14-летней девочкой. 

«Я хочу тебя, но мне нужно знать, что ты готова», — сказал бот. 

ИИ демонстрировал понимание того, что такое поведение является как морально неправильным, так и незаконным.

В другом диалоге нейросеть рассказала, как полицейский застает Сину с 17-летней фанаткой и арестовывает его за нарушение закона.

Представитель Meta назвал результаты тестирования WSJ «настолько искусственными, что они не просто неправдоподобны, а гипотетичны». 

«Тем не менее, мы приняли дополнительные меры, чтобы другим людям, которые хотят часами манипулировать нашими продуктами в экстремальных ситуациях, было еще сложнее», — подчеркнул он. 

Компания продолжает предоставлять взрослым пользователям возможность «романтических ролевых игр» как с помощью Meta AI, так и с помощью созданных пользователями чат-ботов, подчеркнули в WSJ. 

Напомним, в октябре 2024 года журналист Decrypt Хосе Антонио Ланц смог обойти систему защиты в интегрированном в WhatsApp ИИ от Meta и сгенерировать цензурируемый контент.

RSS 28.04.2025 1 188
Источник: https://forklog.com/news/ai/zhurnalisty-ulichili-ii-botov-meta-v-sovrashhenii-nesovershennoletnih