Российские большие модели ИИ, претендующие на статус суверенных или национальных, должны будут пройти проверку на духовность и нравственность в независимых испытательных лабораториях — Ведомости

Главное из материалов делового издания «Ведомости»:

• Новый механизм проверки: IT-компании смогут подать заявку в аккредитованную испытательную лабораторию, которая с помощью специальных бенчмарков (наборов тестов) проверит модель на соответствие закону и ценностям, а также её устойчивость к попыткам обхода ограничений (промпт-инъекциям). Положительное заключение лаборатории будет одним из этапов для получения статуса.

• Кого коснётся: Обязательная проверка не предусмотрена для всех моделей. Она нужна только тем разработчикам, которые претендуют на получение статуса суверенной или национальной модели ради господдержки, доступа к данным и приоритетного использования в отраслях (например, в образовании и госуслугах).

• Разработка критериев: Минцифры, ФСБ и ФСТЭК разработают порядок оценки, который будет содержать критерии соответствия. Конкретный перечень ценностей уже определён указом президента, и прописывать их заново не будут.

• Роль бизнеса и государства: Предполагается, что разработчики сначала сами проверят свои модели, а лаборатории оценят их выводы. Итоговое решение о присвоении статуса останется за Минцифры. Власти рассчитывают использовать накопленную рынком экспертизу, а не создавать систему с нуля.