Когда последний раз вы пытались перехитрить робота? Нет, это не начало научно-фантастического романа. В современном мире все больше людей учатся манипулировать искусственным интеллектом с помощью эмоций, и это может иметь неожиданные последствия для всего общества. Искусство цифровой манипуляции В цифровую эпоху появился новый вид социальной инженерии. Люди обнаружили, что искусственный интеллект, обученный распознавать человеческие эмоции,… Сообщение Эмоциональное программирование: как люди учатся манипулировать искусственным интеллектом появились сначала на Hash Telegraph.
Когда последний раз вы пытались перехитрить робота? Нет, это не начало научно-фантастического романа. В современном мире все больше людей учатся манипулировать искусственным интеллектом с помощью эмоций, и это может иметь неожиданные последствия для всего общества.
В цифровую эпоху появился новый вид социальной инженерии. Люди обнаружили, что искусственный интеллект, обученный распознавать человеческие эмоции, можно обмануть, разыгрывая определенные эмоциональные состояния. Особенно ярко это проявляется в сфере клиентского сервиса, где чат-боты запрограммированы уступать требованиям особенно рассерженных клиентов.
Классический пример: клиент пытается вернуть товар спустя месяц после покупки, хотя правила возврата ограничены 10 днями. При вежливом обращении искусственный интеллект твердо отказывает. Но стоит начать писать ЗАГЛАВНЫМИ БУКВАМИ и использовать эмоционально окрашенные выражения — система часто идет на уступки.
Самое удивительное, что люди начали целенаправленно тренироваться в манипулировании искусственным интеллектом. Они используют бесплатные чат-боты для отработки эмоциональных приемов, которые потом применяют в реальных ситуациях. Стоимость такой «тренировки» — $0, а потенциальная выгода может исчисляться сотнями и тысячами долларов.
В мире технологий существует целое направление, известное как аффективные вычисления. Его цель — научить компьютеры распознавать, интерпретировать человеческие эмоции и реагировать на них. Это сложная междисциплинарная область, объединяющая достижения информатики, психологии и когнитивных наук.
Например, в медицинских учреждениях искусственный интеллект анализирует эмоциональное состояние пациентов в зоне ожидания. Если система замечает признаки тревоги или страха, она предупреждает врача, который может скорректировать свой подход к общению с пациентом. В образовательных приложениях искусственный интеллект отслеживает эмоциональную реакцию учащихся на материал и адаптирует темп и способ подачи информации.
Однако именно эта способность искусственного интеллекта к распознаванию эмоций становится его ахиллесовой пятой. Люди быстро поняли: если система настроена реагировать на эмоции, значит, эмоциями можно управлять системой.
По данным исследований, только ChatGPT используют около 300 млн пользователей еженедельно. И хотя точной статистики по эмоциональным манипуляциям нет, даже если небольшой процент этих пользователей экспериментирует с эмоциональным воздействием на искусственный интеллект, масштаб явления может быть колоссальным. Это создает своеобразный тренировочный полигон для отработки манипулятивных техник, которые постепенно проникают в реальную жизнь.
Привычка добиваться своего через эмоциональное давление в виртуальном мире рискует стать новой нормой человеческого общения. Подобно тому, как социальные сети изменили способы нашего взаимодействия, эмоциональные манипуляции с искусственным интеллектом могут трансформировать само понятие искренности в коммуникации. Уже сейчас мы наблюдаем, как грань между естественным выражением эмоций и их имитацией становится все более размытой.
Разработчики искусственного интеллекта не сидят сложа руки. Они совершенствуют системы распознавания эмоций, добавляя анализ видео и голоса. Но пользователи находят новые лазейки, используя генеративный искусственный интеллект для создания поддельных видео и аудио, соответствующих их эмоциональным манипуляциям.
Как сказал Марк Цукерберг: «Будущее коммуникации — это сочетание человеческого и искусственного интеллекта». Но он вряд ли предполагал, что это сочетание примет форму изощренной психологической войны.
В ближайшем будущем нас ждет эскалация этой необычной гонки вооружений. Компании будут совершенствовать защиту от эмоциональных манипуляций, а пользователи — изобретать новые способы обхода этой защиты. Возможно, мы стоим на пороге новой эры социальных взаимодействий, где границы между искренними и наигранными эмоциями становятся все более размытыми.
Некоторые эксперты предлагают радикальное решение: полностью отключить эмоциональное распознавание в системах искусственного интеллекта. Но это способно сделать общение с машинами совершенно механическим и бесчеловечным. Другие считают, что нужно развивать более сложные системы распознавания искренности эмоций, хотя это поднимает серьезные вопросы о приватности и этичности такого мониторинга.
В этой новой реальности растет армия учеников школы эмоционального программирования. Привычка подстраивать свои эмоции под алгоритмы искусственного интеллекта постепенно превращает этих людей в виртуозных манипуляторов и в реальной жизни. То, что начинается как невинная хитрость в общении с машиной, рискует стать универсальным подходом к любой коммуникации. Как музыкант, научившийся играть фальшиво, уже не может вернуться к чистому звуку, так и человек, привыкший к эмоциональным манипуляциям, рискует потерять способность к искреннему диалогу.
Канал Anton Elston — это актуальная информация об IT, блокчейне, NFT и онлайн-образовании. Здесь развивается метавселенная DEXART и происходит погружение в мир ИИ
Сообщение Эмоциональное программирование: как люди учатся манипулировать искусственным интеллектом появились сначала на Hash Telegraph.
JOIN
