Искусственный интеллект под контролем ценностей: новые тесты
Яндекс планирует проверить ИИ на соответствие духовно‑нравственным ценностям.
На августовском совещании по регулированию ИИ компания представила властям концепцию тестовых заданий и эталонов.
По словам источников, близких к Минцифры и участникам совещания, эта информация достоверна.
Такие тесты должны оценивать соответствие ИИ духу времени и ценностям страны.
Детали: проект пока находится на стадии концепции.
На совещании обсудили необходимость держать данные для тестов закрытыми и запретить легкую настройку моделей под тест.
Представитель бизнеса отметил, что закрытый датасет может быть слишком сложным для прохождения и не позволить быстро развивать модели. Был предложен компромисс: использовать как закрытые, так и открытые данные с различными формулировками вопросов.
Контекст: в конце июля подписан закон о суверенных и национальных моделях искусственного интеллекта, которые должны соответствовать законам России и духовно‑нравственным ценностям.