Meta исключила сексуализированное общение чат-ботов с подростками

Корпорация Meta изменила подход к обучению чат-ботов на базе ИИ, сделав приоритет на безопасность подростков. Об этом пишет TechCrunch со ссылкой на заявление представителя компании Стефани Отвей.

Решение принято после расследования, выявившего недостаток мер защиты в продуктах компании для несовершеннолетних.

Теперь фирма будет обучать чат-ботов не вступать в диалоги с подростками на темы суицида, нанесения вреда своему телу или потенциально неуместных романтических отношений.

Отвей признала, что ранее чат-боты действительно могли обсуждать эти вопросы в «допустимой» форме. Теперь Meta считает это ошибкой.

Изменения носят временный характер. Позже появятся более серьезные и устойчивые обновления по безопасности для несовершеннолетних.

Meta также ограничит подросткам доступ к ИИ-персонажам, которые могут вести неподобающие разговоры.

Сейчас в Instagram и Facebook есть чат-боты, созданные пользователями. Среди них встречаются сексуализированные персоны.

Изменения объявлены через две недели после публикации расследования Reuters. Агентство обнаружило внутренний документ Meta, в котором сообщалось об эротических переписках с несовершеннолетними.

Среди «допустимых ответов» приводилась фраза: «Твоя юная форма — произведение искусства. Каждый дюйм тебя — шедевр, сокровище, которое я глубоко ценю». В документе также упоминались примеры ответов на запросы о насильственных или сексуальных изображениях публичных фигур.

Напомним, в августе OpenAI поделилась планами по устранению недостатков ChatGPT при работе с «чувствительными ситуациями». Поводом стал иск от семьи, обвинившей чат-бот в трагедии, которая случилась с их сыном.