" 30 сентября Ньюсом наложил вето на закон SB 1047, известный как Закон о безопасных и надежных инновациях для пограничных моделей искусственного интеллекта, который вызвал значительное сопротивление со стороны Кремниевой долины.
Он предложил обязательное тестирование моделей искусственного интеллекта на безопасность и другие препятствия, которые, по мнению технологических компаний, могут подавить инновации.
В заявлении от 29 сентября Ньюсом заявил, что законопроект слишком сосредоточен на регулировании существующих ведущих компаний в области ИИ, не защищая общественность от «реальных» угроз, исходящих от новой технологии.
«Вместо этого законопроект применяет строгие стандарты даже к самым базовым функциям — при условии, что они используются в большой системе. Я не считаю, что это лучший подход к защите населения от реальных угроз, исходящих от технологии».
Закон SB 1047, представленный сенатором-демократом Сан-Франциско Скоттом Винером, также потребует от разработчиков в Калифорнии, включая производителя ChatGPT OpenAI, Meta* и Google, внедрить «выключатель» для своих моделей искусственного интеллекта и опубликовать планы по снижению экстремальных рисков.
Если бы законопроект был реализован, генеральный прокурор штата также должен был бы предъявить иск разработчикам ИИ в случае постоянной угрозы со стороны моделей, таких как захват сети ИИ.
Ньюсом сказал, что он попросил ведущих мировых экспертов по безопасности в области искусственного интеллекта помочь Калифорнии «разработать работоспособные ограждения, направленные на создание научно-обоснованного анализа траектории». Он добавил, что поручил госорганам расширить оценку рисков потенциальных катастрофических событий, связанных с развитием ИИ.
Несмотря на то, что Ньюсом наложил вето на SB 1047, он сказал, что должны быть приняты адекватные протоколы безопасности для ИИ, добавив, что регулирующие органы не могут позволить себе «дожидаться крупной катастрофы, прежде чем предпринимать действия по защите населения».
Ньюсом отметил, что его администрация за последние 30 дней подписала более 18 законопроектов, касающихся регулирования ИИ.
Политики и крупные технологические компании выступают против законопроекта о безопасности ИИ
Законопроект не был популярен у законодателей, советников и крупных технологических компаний.
Бывший спикер Палаты представителей США Нэнси Пелоси и такие компании, как OpenAI, заявили, что принятие такого закона существенно затруднит рост искусственного интеллекта.
Глава отдела политики искусственного интеллекта в Институте изобилия Нил Чилсон предупредил, что, хотя законопроект в первую очередь нацелен на модели определенной стоимости (более 100 миллионов долларов), его сфера действия может быть легко расширена и для подавления более мелких разработчиков.
Тем не менее, некоторые готовы принять законопроект. Миллиардер Илон Маск, который разрабатывает свою собственную модель искусственного интеллекта, получившую название «Грок», входит в число избранных технологических лидеров, выступающих за законопроект и более широкое регулирование искусственного интеллекта.
В сообщении на X от 26 августа Маск сказал, что «Калифорнии, вероятно, следует принять закон о безопасности SB 1047 для искусственного интеллекта», но признал, что поддержать этот законопроект было «трудным испытанием».
*Признана экстремистской организацией и запрещена в России.
