В Кремниевой долине разгорается новый законодательный скандал. Автор самого противоречивого законопроекта США по безопасности искусственного интеллекта 2024 года SB 1047 возвращается с новой инициативой. Сенатор штата Калифорния Скотт Винер представил новый законопроект, который защитит сотрудников ведущих ИИ-лабораторий, позволяя им выступать публично, если они считают, что ИИ-системы их компании могут представлять «критический риск» для общества.
Правда, этим дело не ограничивается — новый законопроект SB 53 также предусматривает создание публичного облачного вычислительного кластера под названием CalCompute, который предоставит исследователям и стартапам необходимые вычислительные ресурсы для разработки ИИ на благо общества.
А ведь предыдущий законопроект Винера, калифорнийский SB 1047, вызвал бурные дебаты по всей стране о том, как обращаться с массивными системами ИИ, которые могут вызвать катастрофы! Законопроект SB 1047 был направлен на предотвращение возможности создания очень крупными моделями ИИ катастрофических событий, таких как гибель людей или кибератаки, приводящие к ущербу более $500 млн. И это при том, что губернатор Гэвин Ньюсом в конечном итоге наложил вето на законопроект в сентябре, заявив, что SB 1047 — не лучший подход.
Но история на этом не закончилась — дебаты вокруг SB 1047 быстро приняли неприятный оборот. Некоторые лидеры Силиконовой долины заявили, что SB 1047 нанесет ущерб конкурентному преимуществу Америки в глобальной гонке ИИ и утверждали, что законопроект вдохновлен нереалистичными опасениями, что системы ИИ могут привести к сценариям судного дня, как в научной фантастике.
Впрочем, тысячи экспертов продолжают спорить об опасностях ИИ. Тем временем, сенатор Винер заявил, что некоторые венчурные капиталисты провели «пропагандистскую кампанию» против его законопроекта, указывая, в частности, на утверждение Y Combinator о том, что SB 1047 отправит основателей стартапов в тюрьму — утверждение, которое эксперты сочли вводящим в заблуждение.
Реакция законодателя оказалась прагматичной — SB 53 по сути берет наименее противоречивые части SB 1047, такие как защита информаторов и создание кластера CalCompute, и переупаковывает их в новый законопроект об ИИ.
Примечательно, что Винер не уклоняется от темы экзистенциального риска ИИ в SB 53. Новый законопроект специально защищает информаторов, которые считают, что их работодатели создают системы ИИ, представляющие «критический риск». Законопроект определяет критический риск как «предвидимый или существенный риск того, что разработка, хранение или внедрение базовой модели разработчиком приведет к смерти или серьезным травмам более 100 человек, или к ущербу в размере более $1 млрд денежным средствам или имуществу».
SB 53 ограничивает разработчиков передовых моделей ИИ — вероятно, включая OpenAI, Anthropic и xAI, среди прочих — от принятия ответных мер против сотрудников, которые раскрывают тревожную информацию генеральному прокурору Калифорнии, федеральным властям или другим сотрудникам. Согласно законопроекту, эти разработчики будут обязаны отчитываться перед информаторами о определенных внутренних процессах, которые информаторы считают вызывающими беспокойство.
