Остановить развитие искусственного интеллекта (ИИ) законами уже не получится, поэтому регулировать технологию нужно по уровню риска, считает член-корреспондент РАН Александр Храмов. По его мнению, жесткие требования нужны там, где здоровье, жизнь, деньги или свобода человека зависят от решений нейросетей. Граждане при таком подходе могут получить больше защиты в медицине, финансах и от мошенников с дипфейками, The post ИИ в финансах и других сферах нужно регулировать строже appeared first on BeInCrypto.
Остановить развитие искусственного интеллекта (ИИ) законами уже не получится, поэтому регулировать технологию нужно по уровню риска, считает член-корреспондент РАН Александр Храмов. По его мнению, жесткие требования нужны там, где здоровье, жизнь, деньги или свобода человека зависят от решений нейросетей.
Граждане при таком подходе могут получить больше защиты в медицине, финансах и от мошенников с дипфейками, а компании с простыми ИИ-сервисами могут избежать лишних ограничений. Банки, клиники и разработчики решений для чувствительных отраслей, вероятно, понесут расходы на проверку и сертификацию систем.
Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!
Директор научно-исследовательского института прикладного искусственного интеллекта и цифровых решений РЭУ имени Г. В. Плеханова, Александр Храмов, рассказал ТАСС, что регулирование ИИ безусловно нужно. Однако остановить или заметно затормозить развитие технологии никакими законами уже не получится.
По его мнению, она распространилась по всему миру, и если одна страна введет ограничения, другие продолжат над ней работать. Эксперт заявил, что главный вопрос в том, как сделать использование ИИ безопасным, а не в том, запрещать ли его.
Специалист предложил не подходить одинаково к чат-боту, который подбирает рецепт по продуктам из холодильника, и к медицинской ИИ-системе, которая анализирует снимки и предлагает диагноз. Ошибка чат-бота грозит разве что неудачным ужином, а промах при постановке диагноза — риском для здоровья и жизни человека. Поэтому он выступает за проверку и сертификацию систем, прозрачность и понятную ответственность в медицине, транспорте, финансах и правосудии. Мягкие правила, по его оценке, подойдут для сфер с небольшими рисками, чтобы не мешать росту отрасли.
По мнению Храмова, ИИ должен оставаться помощником, а решение и ответственность — за специалистом. Четкие правила нужны и в защите информации: какие данные можно использовать для обучения моделей и каким требованиям кибербезопасности должны отвечать ИИ-системы. Кроме того, эксперт считает важным развивать собственные технологии и модели, обученные на своем языке и культуре, а не полностью зависеть от чужих.
Храмов также предлагает маркировать контент, созданный ИИ, чтобы человек понимал, что перед ним сгенерированные текст, фото или голос. «Это особенно важно для борьбы с дипфейками и мошенничеством. Но будем честны, в основном это декларирование требования, выполнение которого практически невозможно проверить», — признал он. Эксперт призвал постоянно напоминать людям, что при всей пользе ИИ не стоит во всем на него полагаться и терять навыки самостоятельного мышления.
Финансы входят в число сфер, где, по мнению Храмова, нужны строгие правила, а ИИ уже пришел в платежи: «Аэрофлот» первым в России установил ИИ-терминалы «Сбера», через которые пассажиры оплачивают билеты в том числе улыбкой. Такой способ удобен для клиентов, но здесь особенно важны требования к кибербезопасности, о которых говорит эксперт.
Ведомства тоже обсуждают применение ИИ, но уже для контроля: в Минцифры предлагали с помощью нейросетей довести эффективность блокировки VPN до 95%, хотя эта мера не вошла в актуальную версию нацплана. Если алгоритмы по ошибке начнут отсекать рабочий трафик, бизнес столкнется со сбоями и лишними расходами.
Совет эксперта не полагаться на ИИ во всем касается и рынка труда: аналитики ассоциации «Индустриальные инновации» выяснили, что 38% российских компаний планируют активно нанимать ИИ-инженеров. Большинство предприятий к 2030 году хочет довести долю сотрудников с навыками ИИ до 80%, так что специалисты, освоившие нейросети без потери собственной экспертизы, вероятно, окажутся в выигрыше.
Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!
The post ИИ в финансах и других сферах нужно регулировать строже appeared first on BeInCrypto.
JOIN
