Яндекс представил концепцию тестирования ИИ на духовно‑нравственные ценности
На августовском совещании по регулированию ИИ Яндекс презентовал властям концепцию тестовых заданий и эталонов, позволяющих оценивать, насколько ИИ следует заданной системе ценностей.
По информации участников совещания и источников близких к Минцифры, такие тесты должны помочь верифицировать соответствие ИИ не только духу времени, но и национальным ценностям страны.
Детали проекта в настоящее время находятся на стадии концепции. Конкретные технические решения и сроки реализации ещё не утверждены.
На совещании ФСБ настаивали на том, чтобы данные для тестов не становились публичными и чтобы разработчики не могли легко подстроить модели под тест.
Представитель бизнеса отметил, что закрытый датасет может оказаться слишком сложным для прохождения и не позволить быстро развивать модели. Был предложен компромисс: использовать и закрытые, и открытые данные с разной формулировкой вопросов.
Контекст
В конце июля президент Владимир Путин подписал закон, вводящий понятие «суверенных и национальных» моделей искусственного интеллекта. Такая модель, согласно документу, должна соответствовать законам России и «духовно‑нравственным» ценностям.
Источник: Коммерсант
