Российские разработчики ИИ смогут подтверждать соответствие своих моделей закону и традиционным духовно-нравственным ценностям в независимых испытательных лабораториях. Схему обсуждали в конце июля — начале августа на площадке АНО «Цифровая экономика». Об этом «Ведомостям» рассказали источники в одной из компаний — участников обсуждений и собеседник в Минцифры. Закон об ИИ вступил в силу 26 июля, но The post ИИ-модели проверят на духовность ради доступа к госзакупкам appeared first on BeInCrypto.
Российские разработчики ИИ смогут подтверждать соответствие своих моделей закону и традиционным духовно-нравственным ценностям в независимых испытательных лабораториях. Схему обсуждали в конце июля — начале августа на площадке АНО «Цифровая экономика».
Об этом «Ведомостям» рассказали источники в одной из компаний — участников обсуждений и собеседник в Минцифры. Закон об ИИ вступил в силу 26 июля, но носит рамочный характер. Основные правила предстоит установить подзаконными актами.
Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!
Закон вводит два специальных статуса для больших фундаментальных моделей — суверенной и национальной. Чтобы получить один из них, разработчик должен подтвердить соответствие модели законодательству и традиционным ценностям.
Отдельный акт с перечнем ценностей писать пока не планируют, рассказал источник, участвующий в обсуждении. Список уже закреплен в указе президента № 809. Вместо этого вместе с бизнесом подготовят специальные бенчмарки — наборы тестов для проверки моделей.
Саму процедуру могут прописать в постановлении правительства. Разработчик подает в лабораторию заявление, описание архитектуры и сведения о механизмах фильтрации запросов.
Дальше начинается экспертиза. Лаборатория проверяет ответы модели по бенчмаркам и тестирует, можно ли обойти внутренние ограничения через промпт-инъекции — так называют взлом ИИ, когда вредоносную инструкцию прячут во входных данных.
Затем эксперты направляют в правкомиссию по цифровизации заключение о соответствии. Положительный вердикт открывает доступ к господдержке — к примеру, к преимуществам в госзакупках.
Проверять все представленные на рынке модели никто не будет. Речь идет только о разработках, которые претендуют на суверенный или национальный статус. Первыми сферами для их внедрения в АНО «Цифровая экономика» назвали образование и госуслуги.
IT-компании договорились, что экспертизу сможет проводить не одна назначенная организация, а сразу несколько лабораторий, прошедших проверку у госоргана. Требования к ним прорабатывают вместе с участниками бизнес-сектора.
Схему выстраивают в два шага. Сначала разработчик самостоятельно тестирует модель по общей риск-ориентированной методике, рассказал собеседник в Минцифры. Аккредитованная лаборатория оценивает эти выводы и может выборочно проверить устойчивость модели.
Финальное решение о статусе останется за Минцифры. Требования безопасности для государственных систем проверят ФСБ и ФСТЭК. У крупнейших разработчиков уже есть инструменты, которые блокируют запрещенные запросы, поэтому ведомство рассчитывает опереться на опыт рынка.
Представитель Минцифры сообщил «Ведомостям», что пакет подзаконных актов еще проходит межведомственное согласование. Говорить об итоговой конструкции проверки пока преждевременно.
Договориться о содержательном толковании традиционных ценностей бизнес вряд ли сможет самостоятельно, предупреждает бизнес-архитектор проектов ИИ экосистемы «Авандок» Алексей Борщов. По его мнению, гражданственность, справедливость и историческая память не переводятся напрямую в техническое задание. Общий знаменатель возможен только процедурный: единый формат отчета, набор провокационных запросов, воспроизводимость результата.
Управляющий партнер адвокатского бюро «Пропозитум» Дмитрий Галанцев считает, что ключевой риск — «оценочность» критериев, из-за которой их могут применять избирательно. Рабочей ему представляется схема с аккредитующей структурой, несколькими конкурирующими лабораториями и апелляционной коллегией вне отрасли. Юрист также предлагает ввести сроки действия сертификатов и публичный реестр заключений.
На роль проверяющих может претендовать Институт системного программирования РАН, полагает технический директор РТК-ЦОД Алексей Забродин.
Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!
The post ИИ-модели проверят на духовность ради доступа к госзакупкам appeared first on BeInCrypto.
JOIN
