ИИ-приложение 2Wai для общения с умершими столкнулось с волной критики

Пользователи раскритиковали новое приложение от компании 2Wai за способность создавать цифровые копии умерших близких.

What if the loved ones we've lost could be part of our future? pic.twitter.com/oFBGekVo1R

Соучредителем 2Wai является бывший актер Disney Channel Калум Уорти. Он известен по роли Деза в сериале «Остин и Элли», который выходил с 2011 по 2016 год. Второй учредитель — продюсер Рассел Гейзер.

11 ноября компания выпустила бета-версию приложения на iOS, в котором функция HoloAvatar генерирует аватары для общения на основе трех минут загруженных видеозаписей, аудио и текстовых промптов. С ними можно общаться в режиме реального времени на более чем 40 языках.

Приложение позиционируется как «инструмент для сохранения наследия», однако больше всего привлекла внимание способность воссоздавать умерших.

Промо-ролик Уорти набрал почти 40 млн просмотров. В нем показана беременная женщина, которая звонит по видеосвязи ИИ-версии своей покойной матери.

«А что, если бы ушедшие из жизни близкие могли стать частью нашего будущего?» — говорится в видео.

HoloAvatar работает на базе запатентованной технологии FedBrain от 2Wai. Она обрабатывает информацию на устройстве пользователя для обеспечения конфиденциальности и ограничивает ответы данными, которые одобрил юзер. Это должно снижать количество галлюцинаций.

Приложение также позволяет создавать цифровые аватары живых людей, например для общения с аудиторией или проведения коучинга.

«Работая последние 20 лет в качестве актера, сценариста и продюсера, я на собственном опыте убедился, насколько сложно установить значимые отношения с поклонниками по всему миру. Языковой барьер, разница во времени и бюджетные ограничения мешают наладить настоящую связь», — сказал Уорти на презентации в июне.

В том же месяце компания привлекла $5 млн.

Приложение работает бесплатно в рамках бета-версии, в будущем появится многоуровневая система подписок.

Реакция общественности

Пользователи резко раскритиковали новый продукт, назвав его «источником кошмаров», «демоническим», «дистопическим» и «коммерциализирующим горе».

‘Are you sure you want to cancel your subscription and never talk to your dead parents again?’You are a psychopath.Get help.Stop building products before you really hurt someone.

Один из комментаторов подчеркнул, что приложение «делает людей психопатами». Оно «имитирует утрату, а не помогает ее пережить».

You are not “building” shit. You are preying on the deepest human feelings, looking for ways to leverage them for your profit. You are a parasite, a member of a parasitic class, and you are hollowing out meaningful notions by using them as a wrapper for your greed.It waits 4 u: pic.twitter.com/v0EAAW9yID

«Ты ничего не “создаешь”. Ты эксплуатируешь самые глубокие человеческие чувства, ища способы использовать их в своих интересах. Ты паразит, член паразитирующего класса. Ты опустошаешь значимые понятия, используя их как прикрытие для своей жадности», — резко высказался пользователь с ником no war but class war.

Юридическая сторона проблемы

Юристы подчеркивают, что «боты смерти» находятся в правовой и этической «серой зоне». Их можно создать без согласия умершего, а статус права собственности на цифровой аватар и связанные с ним данные остается неясным.

Законы о конфиденциальности обычно защищают только живых и почти не распространяются на посмертные данные. В результате родственники оказываются уязвимы перед коммерческой эксплуатацией их горя на фоне нерегулируемого доступа к интервью, голосовым записям и другим личным материалам умерших.

Еще одна проблема — способность ботов отклоняться от загруженных в ИИ данных.

Федеральные правила США не регулируют посмертные цифровые аватары, но закон Калифорнии AB 1836 запрещает несанкционированное применение искусственного интеллекта для воспроизведения голосов или изображений умерших исполнителей без согласия наследников.

Не прецедент

2Wai пополнила список компаний, который создают похожие продукты:

• основанная в 2019 году HereAfter AI генерирует «аватары жизненных историй» на основе интервью, проведенных до смерти. 
• StoryFile предлагает интерактивные видео для мемориальных мероприятий;
• запущенный в 2017 году чат-бот Replika позволяет имитировать умерших с помощью текстовых сообщений или звонков.

Напомним, в июле 2024 года актеры озвучивания видеоигр и специалисты по захвату движений объявили забастовку в Голливуде после провала переговоров, касающихся защиты прав работников в связи с использованием ИИ.