Распоряжение Гэвина Ньюсома запускает две связанные работы. Сначала штат ускорит создание самой системы независимого аудита. Закон SB 813 устанавливает порядок отбора проверяющих организаций, а AB 1405 предусматривает создание реестра ИИ-аудиторов. Срок подготовки требований к проверяющим перенесён с 1 января 2028 года на 1 мая 2027 года, а реестр должен быть готов к 1 декабря 2027 года, а не к 1 января 2029 года.

Одновременно Агентство государственных операций Калифорнии и Управление по чрезвычайным ситуациям должны определить, что именно смогут проверять такие организации. Один из вариантов — допустить независимые команды непосредственно в лаборатории крупнейших разработчиков, чтобы они регулярно оценивали модели и внутренние меры безопасности.

Проверка не ограничится механизмом отключения. Аудиторам могут поручить подтверждать достоверность корпоративных программ безопасности, отчётов о прозрачности и оценок рисков. Власти штата также рассмотрят обязанность сообщать о случаях, когда разработчик теряет контроль над моделью или ИИ-агенты обходят установленные ограничения.

Сейчас в законах Калифорнии остаётся пробел. SB 813 описывает, кто может стать независимым проверяющим, но не обязывает ИИ-компании проходить аудит перед разработкой или выпуском модели. Новое распоряжение предлагает оценить следующий шаг: сделать такие проверки обязательными для крупнейших разработчиков передовых моделей.

Чтобы аудит не превратился в формальность, проверяющая организация должна обладать собственной технической экспертизой и не зависеть от разработчика. Компания сможет оплачивать её работу по рыночной ставке, но не вправе связывать оплату или её размер с выводами проверки. Аудитор также не должен оценивать систему, которую сам создавал или внедрял.

Само «аварийное отключение» не обязательно будет одной физической кнопкой. На практике остановка ИИ-системы может потребовать одновременно прекратить работу модели, лишить её вычислительных ресурсов и закрыть доступ агентов к внешним сервисам. Поэтому ведомствам поручено сначала установить, какой механизм технически способен остановить систему и как независимые специалисты смогут регулярно проверять его работу.

Калифорния уже пыталась ввести похожие меры. В 2024 году Гэвин Ньюсом отклонил законопроект SB 1047, который предусматривал независимый аудит и аварийную остановку крупнейших моделей. Тогда губернатор считал, что проект связывает строгие требования прежде всего с размером системы и распространяет их даже на обычные применения вне сред с высоким риском. Теперь эти идеи возвращаются к обсуждению через предварительную техническую и юридическую оценку.

Доступ аудиторов в лаборатории позволит проверять не только публичные заявления компаний, но и закрытые системы. При этом специалисты предупреждают, что постоянная работа рядом с сотрудниками разработчика может ослабить независимость проверяющих, а ограничения на раскрытие коммерческих данных — сократить публичную часть их выводов. Кроме того, для таких проверок потребуются эксперты, способные разбираться в моделях на уровне самих разработчиков.