Искусственный интеллект под надзором: тесты на духовно‑нравственные ценности страны
В августовском совещании по регулированию искусственного интеллекта обсуждалась идея проверки моделей на соответствие духовно‑нравственным ценностям страны. Представитель крупной IT‑компании доложил о концепции тестовых заданий и эталонов.
По оценкам участников, проект пока находится на стадии концепции.
Регуляторы настаивали на том, чтобы данные для тестов не становились общедоступными, чтобы предотвратить манипуляцию моделями.
Бизнес‑представитель отметил, что закрытый набор данных может быть слишком сложным для прохождения и сдерживать развитие моделей. Предложили компромисс: использовать и закрытые, и открытые данные с различной формулировкой вопросов.
Контекстом служит принятие в конце июля закона о суверенных и национальных моделях искусственного интеллекта, которые должны соответствовать законам страны и духовно‑нравственным ценностям.
