Центр стандартов и инноваций в сфере искусственного интеллекта (CAISI) при Национальном институте стандартов и технологий США объявил о подписании соглашений с Google DeepMind , Microsoft и xAI. Документы предусматривают проведение предрелизного тестирования моделей.
Согласно условиям соглашений, CAISI получает доступ к моделям до их публичного релиза. Это позволяет правительству США оценивать возможности систем и проводить исследования в области безопасности искусственного интеллекта. На данный момент центр уже выполнил более 40 таких оценок, включая тестирование моделей, которые так и не были выпущены на рынок.
Подписанные документы стали расширением ранее объявленных партнёрств. Теперь соглашения переработаны с учётом директив министра торговли Говарда Лутника и плана действий America’s AI Action Plan. CAISI определён как основная точка контакта между государством и компаниями-разработчиками.
Сотрудничество охватывает не только предрелизное тестирование, но и пост-релизный мониторинг. Центр также будет проводить целевые исследования для оценки возможностей передовых моделей. Глава CAISI подчеркнул, что независимая и строгая метрология необходима для понимания потенциала современных систем искусственного интеллекта.
Новое соглашение означает, что крупнейшие игроки рынка приняли модель государственного регулирования. Ранее администрация Трампа критиковала подобные инициативы, однако теперь активно их продвигает. Эксперты отмечают резкий разворот в политике Белого дома относительно надзора за искусственным интеллектом.
Что это значит для индустрии
Для компаний-разработчиков участие в программе CAISI означает дополнительные издержки на адаптацию моделей под требования правительства. Однако обратная сторона - раннее выявление потенциальных проблем с безопасностью и возможностью злоупотребления технологией. Для государства это шанс установить контроль над потенциально опасными системами до их выхода на массовый рынок.
Аналитики полагают, что подобные соглашения могут стать стандартом для всей отрасли. Если модель CAISI окажется эффективной, аналогичные центры тестирования появятся и в других странах, что приведёт к формированию глобальной системы надзора за передовыми разработками.
