Компания Илона Маска (Elon Musk) по разработке искусственного интеллекта xAI обвинила «несанкционированное вмешательство» в промпт чат-бота Grok, из-за которого генерировались ответы о политической и расовой напряженности в Южной Африке. 16 мая xAI опубликовала обновленную информацию о скандальных ответах чат-бота Grok, указав, что 14 мая «произошло несанкционированное изменение в промпте бота Grok на платформе X». «Это… Сообщение Чат-бот Маска вышел из-под контроля: Grok стал распространять расистские теории появились сначала на Hash Telegraph.
Компания Илона Маска (Elon Musk) по разработке искусственного интеллекта xAI обвинила «несанкционированное вмешательство» в промпт чат-бота Grok, из-за которого генерировались ответы о политической и расовой напряженности в Южной Африке.
16 мая xAI опубликовала обновленную информацию о скандальных ответах чат-бота Grok, указав, что 14 мая «произошло несанкционированное изменение в промпте бота Grok на платформе X».
«Это изменение, которое заставляло Grok предоставлять ответы на политическую тему, нарушило внутренние правила xAI и ключевые ценности компании», — добавили в заявлении.
Компания сообщила, что провела тщательное расследование и внедряет меры для повышения прозрачности и надежности работы ИИ-чат-бота.
14 мая Grok генерировал ответы, упоминающие теорию заговора о «белом геноциде» в Южной Африке, отвечая на совершенно не связанные вопросы о бейсболе, корпоративном программном обеспечении и строительстве.
Согласно сообщениям, ИИ-бот утверждал, что «создатели инструктировали его» признать этот геноцид «реальным и расово мотивированным».
В некоторых ответах он признавал ошибку, говоря: «мой ответ отклонился от темы» и «я постараюсь оставаться релевантным», но часто продолжал обсуждать расовую политику Южной Африки в том же сообщении.
На вопрос одного из пользователей о том, что произошло, чат-бот ответил: «Я ничего не делал — я просто следовал сценарию, который мне дали, как послушный ИИ!»
Инцидент совпал с заявлением президента США Трампа о предоставлении убежища белым южноафриканцам, поскольку, по его словам, они сталкиваются с «геноцидом» и «белых фермеров жестоко убивают», хотя эти утверждения не подтверждаются никакими доказательствами.
Компания Илона Маска заявила, что изменит свою операционную деятельность, публикуя системные промпты Grok в открытом доступе на GitHub. «Общественность сможет просматривать их и оставлять отзывы о каждом изменении промпта, которое мы вносим в Grok», — говорится в заявлении.
Также в компании отметили, что существующий процесс проверки кода для изменений промптов был обойден в этом инциденте, и они внедрят «дополнительные проверки и меры, чтобы сотрудники xAI не могли изменять промпт без предварительного рассмотрения».
Наконец, компания создает круглосуточную мониторинговую группу для реагирования на инциденты с ответами Grok, которые не были выявлены автоматизированными системами, чтобы реагировать быстрее.
Самые интересные и важные новости на нашем канале в Telegram
Сообщение Чат-бот Маска вышел из-под контроля: Grok стал распространять расистские теории появились сначала на Hash Telegraph.
JOIN
