Яндекс готовит тесты ИИ на соответствие духовно‑нравственным ценностям.
На августовском совещании по регулированию обсуждалась концепция заданий и эталонов, призванных оценивать, насколько ИИ соответствует принятым духовно‑нравственным нормам.
По данным близких к регуляторам источников, проект пока находится на стадии концепции.
Суть проекта — определить, соответствует ли ИИ духу времени и ценностям страны.
Детали проекта: в настоящее время он находится на стадии концепции.
На совещании по регулированию ФСБ настаивали на непубличности данных для тестов, чтобы модели не могли легко подстроиться под тест.
Представитель бизнеса отметил, что закрытый датасет может быть слишком сложным для прохождения и не позволит быстро развивать модели. Был предложен компромисс: для тестирования будут использовать и закрытые, и открытые данные с разной формулировкой вопросов.
Контекст: в конце июля президент подписал закон о суверенных и национальных моделях ИИ, которые должны соответствовать законам страны и духовно‑нравственным ценностям.