Экс-CEO Google предупредил о рисках ИИ для безопасности человека

Бывший глава Google Эрик Шмидт напомнил о значительных рисках, связанных с искусственным интеллектом, и отметил его уязвимость к взломам, сообщает CNBC.

«Есть ли вероятность наличия проблемы в распространении ИИ? Абсолютно. Риски связаны с тем, что технологии могут попасть в руки злоумышленников, которые способны применить их во вред», — сказал он на конференции Sifted Summit.

Эксперт обратил внимание, что открытую или закрытую модель можно взломать и убрать защитные ограничения.

«Во время обучения такие нейросети узнают очень многое. Например, как убить человека», — подчеркнул Шмидт.

По его словам, не существует эффективного «режима нераспространения» (аналогичного ядерному), который помог бы сдерживать угрозы искусственного интеллекта.

Несмотря на мрачное предупреждение, экс-CEO Google выразил уверенность в потенциале технологии. Он считает, она сейчас недооценена.

«Я написал две книги вместе с Генри Киссинджером до его смерти, и мы пришли к выводу, что появление инопланетного интеллекта, который не совсем человек, но в какой-то степени под нашим контролем, — грандиозное событие для человечества. Люди привыкли быть на вершине эволюционной цепи. И, думаю, пока эта гипотеза подтверждается: способности этих систем со временем превысят человеческие», — сказал Шмидт.

Он добавил, что серия GPT, венцом которой стал ChatGPT, наглядно продемонстрировала возможности и мощь технологии.

Комментарии прозвучали на фоне разговоров о пузыре в секторе ИИ и наглядно продемонстрировала возможности и мощь технологии. Шмидт отверг такую вероятность.

«Не думаю, что это произойдет, хотя я и не профессиональный инвестор. Знаю одно: люди, которые вкладывают заработанные деньги, уверены, что долгосрочная экономическая отдача будет колоссальной. Иначе зачем им идти на такой риск?» — заключил он.

Напомним, в августе CEO OpenAI Сэм Альтман заявил, что рынок искусственного интеллекта находится в состоянии пузыря.