В понедельник компания Anthropic объявила о своей официальной поддержке законопроекта SB 53, предложенного калифорнийским сенатором Скоттом Винером, который впервые в истории страны введет требования к прозрачности для крупнейших разработчиков ИИ-моделей. Поддержка Anthropic стала значимым достижением для SB 53 на фоне активного лоббирования против законопроекта со стороны таких организаций, как CTA и Chamber for Progress.
«Хотя мы считаем, что безопасность передовых ИИ-систем лучше регулировать на федеральном уровне, а не через лоскутное законодательство штатов, прогресс в области ИИ не будет ждать консенсуса в Вашингтоне», — заявили в Anthropic. «Вопрос не в том, нужно ли регулирование ИИ, а в том, создадим ли мы его обдуманно сегодня или будем реагировать постфактум завтра. SB 53 предлагает разумный путь к первому варианту».
Если закон будет принят, SB 53 обяжет ведущие компании, включая OpenAI, Anthropic, Google и xAI, разрабатывать框架 безопасности, публиковать отчеты о безопасности перед выпуском мощных моделей ИИ, а также введет защиту для сотрудников, сообщающих о рисках.
Законопроект фокусируется на предотвращении «катастрофических рисков», определяемых как гибель не менее 50 человек или ущерб свыше $1 млрд. Речь идет, например, о предотвращении использования ИИ для создания биологического оружия или кибератак, а не о более ближайших проблемах вроде дипфейков.
Сенат Калифорнии уже одобрил предыдущую версию SB 53, но окончательное голосование еще предстоит. Губернатор Гэвин Ньюсом пока не выразил позиции, хотя ранее наложил вето на похожий законопроект SB 1047 от того же сенатора.
Инициативы по регулированию разработчиков ИИ сталкиваются с сопротивлением Силиконовой долины и администрации Трампа, которые утверждают, что это замедлит инновации в гонке с Китаем. Такие инвесторы, как Andreessen Horowitz и Y Combinator, ранее выступали против SB 1047, а администрация Трампа неоднократно угрожала заблокировать регулирование ИИ на уровне штатов.
Критики, включая главу по политике ИИ в Andreessen Horowitz Мэтта Перо, указывают на возможное нарушение Конституции из-за вмешательства в межштатную торговлю. Однако соучредитель Anthropic Джек Кларк подчеркивает, что индустрия не может ждать действий федерального правительства: «Мы предпочли бы федеральный стандарт, но SB 53 создает важный шаблон для управления ИИ».
OpenAI в письме Ньюсому призвала не принимать законы, которые вытеснят стартапы из Калифорнии, не упоминая SB 53 напрямую. Бывший сотрудник OpenAI Майлз Брандидж раскритиковал позицию компании, назвав аргументы «вводящими в заблуждение». При этом SB 53 затрагивает только компании с выручкой свыше $500 млн.
Эксперты, включая Дина Болла из Фонда американских инноваций, отмечают, что SB 53 умереннее предыдущих инициатив и имеет высокие шансы стать законом. Авторы законопроекта, по словам сенатора Винера, учли рекомендации экспертной группы при губернаторе, включая соучредителя World Labs Фей-Фей Ли.
Большинство ИИ-лабораторий уже имеют внутренние политики безопасности, но SB 53 закрепит эти требования законодательно. В сентябре из законопроекта исключили положение о стороннем аудите разработчиков ИИ, на чем ранее настаивали технологические компании.