Больше не 18+. Civitai столкнулась с критикой после цензурирования контента

«Дикий Запад» в секторе ИИ — платформа Civitai — столкнулась с негативными отзывами после внедрения строгих мер в отношении контента. 

«Мы обновляем наши правила, чтобы соответствовать растущему вниманию к ИИ-материалу. Они запрещают определенные категории контента, включая инцест, членовредительство, подгузники и ряд телесных выделений. Для всех загружаемых NSFW-файлов теперь требуются метаданные, чтобы они оставались видимыми. Новая система модерации направлена на улучшение маркировки и безопасности контента», — говорится в сообщении Civitai.

Civitai — онлайн-платформа и маркетплейс, специализирующийся на генеративном искусственном интеллекте, с акцентом на создание и обмен изображениями. Она получила широкую известность и порцию критики в том числе за возможность создания иллюстраций без согласия изображаемых лиц, включая потенциально неэтичные или незаконные материалы.

Хотя ресурс не позиционировался как порносайт, им пользовались несколько NSFW-сообществ вроде фурри, любителей ориентированных на взрослых аниме, экстремального BDSM и других.

Правила запрещают контент, который был популярен среди определенных сегментов пользователей. Также они сократили возможности монетизации работ с реальными людьми, особенно знаменитостями. 

Недовольства распространились в социальных сетях Reddit и X. Пользователи жаловались на внезапное исчезновение их материалов без четких объяснений. 

«Кто-нибудь еще потерял мотивацию участвовать в Civitai и делиться моделями? Эти недавние изменения в модерировании и нелепые изменения фильтров заставляют меня чувствовать, что все это бессмысленно, поскольку они могут просто удалить случайный контент по прихоти. Как скоро запретят все NSFW? Персонажей, защищенных авторским правом? Политическую сатиру?», — прокомментировал пользователь под ником Titan__Uranus.

Компания ввела более строгие правила в отношении внутренней валюты Buzz, предназначенной для оплаты различных функций, связанных с генерацией изображений и обучением моделей. Из-за этого создателям контента стало сложнее получать доход.

Вероятно, ограничения вызваны давлением сторонних платежных партнеров вроде Visa и Mastercard, которые занимают жесткую позицию в отношении контента для взрослых. 

«Проблема на 100% вызвана Visa, и любая компания, принимающая их карты, в конечном итоге добавит эти ограничения. В настоящее время нет никакого способа обойти это, хотя лично я очень усердно работаю над устойчивыми долгосрочными альтернативами», — отметил CEO ИИ-платформы Nomi Алекс Кардинел.

Напомним, в феврале децентрализованная и ориентированная на конфиденциальность поисковая система Presearch запустила чат-бот PreGPT 2.0.