В России планируют создать механизм оценки крупных ИИ-моделей, претендующих на получение статусов «национальной» и «суверенной». Как сообщают «Ведомости», одним из критериев станет соответствие российских нейросетей законодательству страны и традиционным духовно-нравственным ценностям.
В России разработают систему проверки ИИ-моделей на соответствие законам и традиционным ценностям
Зачем это нужно и как будет работать?
Magnific
Такие требования предусмотрены недавно принятым законом о больших фундаментальных моделях. Получение специального статуса позволит разработчикам рассчитывать на дополнительные меры государственной поддержки.
ИИ-компания снимет собственный хоррор: он будет посвящен искусственному интеллекту и теории мертвого интернета
Взломал сайт и отменил бронь: искусственный интеллект нестандартно решил задачу с записью к тренеру
Правда ли, что искусственный интеллект вышел на новый уровень? Разбираем заявление главы OpenAI
Взломал сайт и отменил бронь: искусственный интеллект нестандартно решил задачу с записью к тренеру
Правда ли, что искусственный интеллект вышел на новый уровень? Разбираем заявление главы OpenAI
Продолжение ниже
Видео
Продолжение
Подготовкой критериев оценки займутся Минцифры, ФСБ и ФСТЭК. Отдельный перечень морально-этических норм разрабатывать не планируется: в качестве основы предполагается использовать положения указа президента № 809, который определяет традиционные российские духовно-нравственные ценности.
Интересный факт: инициативу прокомментировали в РПЦ. Там заявили, что готовы помочь в проверке отечественного ИИ на соответствие традиционным ценностям. При этом готовых ответов на существующие вызовы нет: их придется долго и мучительно искать.
Для проверки моделей создадут специальные наборы тестов и сценариев. Экспертизу будут проводить независимые лаборатории, которые оценят ответы нейросетей и попытаются проверить устойчивость их ограничений, в том числе с помощью методов обхода защитных механизмов.
Прохождение проверки станет добровольным. Тестирование коснётся только тех разработчиков, которые захотят получить статус «национальной» или «суверенной» модели. По данным издания, успешное прохождение экспертизы даст таким системам преимущества при государственных закупках, а также доступ к отдельным государственным информационным ресурсам.
Предполагается, что первоначальную оценку разработчики будут проводить самостоятельно. После этого результаты смогут выборочно проверять аккредитованные лаборатории, а окончательное решение о присвоении статуса будет принимать Минцифры.
При этом участники рынка обращают внимание на возможные сложности с формализацией критериев. По их мнению, такие понятия, как гражданственность, историческая память или традиционные ценности, непросто перевести в набор технических требований, которые можно однозначно проверить в ходе испытаний.
Вообще регуляция ИИ нужна. Об этом говорят даже разработчики. Но какого рода регуляция? Россия сейчас в позиции отстающего: отечественные модели по независимым бенчмаркам сильно отстают от западных конкурентов. Разрыв на поколения. Преждевременные ограничения сильно затормозят отрасль и сократить разрыв не получится. Этого важно избежать.
Загружаем