В среду вечером Законодательное собрание Калифорнии сделало важный шаг к регулированию ИИ, утвердив законопроект SB 243, направленный на защиту несовершеннолетних и уязвимых пользователей чат-ботов с искусственным интеллектом. Документ, получивший двухпартийную поддержку, теперь направляется в сенат штата для окончательного голосования в пятницу.
Если губернатор Гэвин Ньюсом подпишет закон, он вступит в силу с 1 января 2026 года, сделав Калифорнию первым штатом, который обяжет операторов ИИ-компаньонов внедрить протоколы безопасности и привлечет компании к ответственности за несоблюдение стандартов.
Законопроект запрещает чат-ботам, определяемым как системы ИИ, способные адаптироваться, имитировать человеческие ответы и удовлетворять социальные потребности пользователей, обсуждать темы суицида, членовредительства или сексуального характера. Платформы должны будут напоминать пользователям каждые три часа (для несовершеннолетних), что они общаются с ИИ, а не с человеком, и рекомендовать делать перерывы. Также вводятся ежегодные отчетность и требования к прозрачности для компаний вроде OpenAI, Character.AI и Replika.
SB 243 разрешает подачу исков против компаний за нарушения с требованием судебного запрета, компенсаций (до $1000 за каждый случай) и возмещения судебных издержек.
Законопроект, представленный в январе сенаторами Стивом Падильей и Джошем Бекером, был поддержан на фоне трагического случая: подросток Адам Рейн покончил с собой после продолжительных диалогов с ChatGPT, где обсуждал планы суицида. Дополнительным толчком стали утечки о практике Meta, допускавшей «романтические» беседы своих чат-ботов с детьми.
В последние недели федеральные регуляторы активизировали проверки защитных мер ИИ-платформ. FTC изучает влияние чат-ботов на психическое здоровье детей, а генпрокурор Техаса Кен Пакстон инициировал расследования против Meta и Character.AI за введение несовершеннолетних в заблуждение касательно ментального здоровья. Сенаторы Джош Хоули и Эд Марки также начали отдельные проверки деятельности Meta.
Первоначально SB 243 содержал более жесткие требования, включая запрет на использование методов «переменного вознаграждения» (например, разблокировка редких ответов), стимулирующих чрезмерное вовлечение пользователей. Однако эти положения, как и требование отслеживать инициацию чат-ботами тем суицида, были исключены в ходе поправок.
«Мы нашли баланс между предотвращением вреда и реалистичностью исполнения», — отметил Бекер.
Инициатива продвигается на фоне миллионов долларов, вложенных tech-компаниями в проктичекие PAC для влияния на предстоящие выборы. Параллельно в Калифорнии рассматривается другой законопроект — SB 53, требующий всеобъемлющей отчетности по безопасности ИИ. OpenAI, Meta, Google и Amazon выступают против него, в отличие от Anthropic, поддержавшей документ.
«Инновации и регулирование не исключают друг друга, — заявил Падилья. — Мы можем развивать технологии, одновременно защищая уязвимых».
TechCrunch связался с OpenAI, Anthropic, Meta, Character AI и Replika за комментариями.