Яндекс предлагает тесты ИИ на соответствие ценностям страны.
На августовском совещании по регулированию искусственного интеллекта компания представила концепцию тестовых заданий и эталонов, призванных проверить соответствие ИИ духовно‑нравственным ценностям.
Сообщается, что проект пока находится на стадии концепции.
На встрече представители ФСБ настаивали на конфиденциальности данных для тестирования и на том, чтобы разработчики не могли легко подстроить модели под тест.
Представитель бизнес‑сообщества отметил, что закрытый датасет может быть слишком сложным для прохождения и мешать быстрому развитию моделей. Обсуждался компромисс: тестирование будет использовать как закрытые, так и открытые данные с различной формулировкой вопросов.
Контекст: в конце июля президент подписал закон о суверенных и национальных моделях искусственного интеллекта. Такие модели должны соответствовать законам страны и духовно‑нравственным ценностям.
