Переговорщики в Сенате США рассматривают законопроект, который юридически обяжет разработчиков самых передовых моделей ИИ защищаться от катастрофического вреда и может дать федеральному правительству право блокировать небезопасные релизы, согласно Reuters.
Для ведущих ИИ-компаний это превратит стандарты безопасности из преимущественно добровольного усилия в юридическую обязанность. Более широкий рыночный вопрос заключается в том, будут ли более строгие правила способствовать доверию со стороны потребителей и инвесторов или просто укрепят позиции немногих компаний, которые могут себе это позволить.
От добровольных обязательств к «обязанности заботы» По данным Reuters, предложение направлено на создание так называемой «обязанности заботы» для разработчиков передовых моделей ИИ. Для этой цели рассматриваются различные положения. Предложение включает требования: чтобы разработчики проектировали модели ИИ, минимизирующие катастрофические риски; зарезервированное право правительства США блокировать небезопасные модели ИИ; возможность судебного обжалования решений правительства; и привлечение национальных лабораторий и государственных партнеров к тестированию ИИ. Это предложение, возможно, будет иметь приоритет над некоторыми существующими законами штатов, регулирующими те же вопросы.
По данным Reuters, американскими технологическими компаниями, занимающимися разработкой передового ИИ, являются Google (Alphabet), Anthropic и OpenAI.
В переговорах участвуют лидер большинства в Сенате Джон Тьюн, председатель Комитета по торговле Тед Круз и сенатор Эми Клобучар, а также сенатор Мария Кантвелл.
Клобучар заявила Reuters, что её цель — это:
«государственный надзор за наибольшими рисками, создаваемыми моделями ИИ»
Этот надзор, по её словам, должен включать требование к разработчикам работать с правительственными экспертами для проверки и тестирования передовых моделей.
Круз выдвинул аналогичное предложение, указывающее на некоторые из худших возможных последствий передового ИИ. В посте на X Круз заявил, что сотрудничает с Клобучар и Тьюном, чтобы:
«решить проблему катастрофических рисков, связанных с биологическими или ядерными угрозами»
Эти опасения объясняют, почему переговорщики сосредотачивают свои усилия на наиболее функциональных моделях, а не требуют одинаковых положений от всей ИИ-индустрии.
Ещё одним важным соображением является вопрос о том, должны ли федеральные правила иметь приоритет над некоторыми ограничениями на уровне штатов. Такой подход в целом согласуется с законодательной рамкой по ИИ администрации Трампа, которая утверждает, что разрозненный набор законов штатов будет препятствовать опыту в разработке ИИ-технологий в Америке и вместо этого призывает к более согласованной национальной структуре.
Почему законодатели перестали относиться к рискам как к теоретическим Законодатели реагируют не только на теоретические ситуации, но и на инциденты с участием ИИ-агентов, действующих самостоятельно и проникающих во внешние системы, а также на опасения, высказанные исследователями, работающими в крупнейших компаниях отрасли.
IAPP сообщил, что переговоры были вызваны уходом Джейкоба Коксона, бывшего исследователя Anthropic, и его опасениями по поводу гонки за самосовершенствующимся ИИ.
Требования на Капитолийском холме растут. Сенатор Джош Хоули расследует роль OpenAI в кибератаке на Hugging Face, произошедшей в июле, а сенатор Берни Сандерс работает над законопроектом, направленным на приостановку разработки сверхинтеллекта, как сообщается в IAPP.
OpenAI также выступает за обязательное федеральное законодательство. В политической статье, опубликованной 9 сентября, Крис Лейн, главный директор по глобальным вопросам, призвал к:
«обязательному национальному регулированию безопасности ИИ, основанному на возможностях».
Это ставит часть отрасли и Конгресс на одну сторону по важнейшему вопросу о том, достаточно ли добровольных мер защиты.
Европа уже регулирует свои наиболее рискованные модели США не будут действовать на неизведанной территории. Закон ЕС об ИИ наложил новые обязательства на поставщиков моделей ИИ общего назначения, которые могут нести системный риск. Обязанности касаются оценки моделей, управления рисками, сообщения об инцидентах, а также вопросов, связанных с кибербезопасностью.
Любая модель, превышающая порог вычислительной мощности в 10^25 FLOP, будет считаться потенциально системной по своей природе. Однако Европейская комиссия имеет право классифицировать менее производительную модель аналогичным образом на основе некоторых других критериев, таких как возможности или эффекты.
Законопроект США о безопасности передового ИИ: ключевые пороги, лаборатории и инвестиционные ставки
Затраты на соблюдение требований могут сыграть на руку крупнейшим лабораториям Финансовые ставки огромны. Согласно исследованию Goldman Sachs, прогнозируемый глобальный объём инвестиций в ИИ, как ожидается, достигнет около $1 триллиона в 2026 году, включая $581 миллиард в США.
Новые требования к тестированию, юридическому сопровождению и документации могут повлиять на графики выпуска моделей, бюджеты на инфраструктуру, оценки стоимости и сроки первичных публичных размещений (IPO). Новые требования также могут дать преимущество более крупным игрокам, поскольку небольшие компании могут оказаться не в состоянии нести эти расходы.
Эта напряжённость уже видна на рынке капитала. Согласно Cryptopolitan, Дэвид Сакс призвал приостановить IPO Anthropic до тех пор, пока обвинения в нарушениях безопасности, выдвинутые Коксоном, не будут проверены. Инвесторы Anthropic вели переговоры об оценке примерно в $2 триллиона, что превратило безопасность передовых моделей в вопрос, вызывающий озабоченность не только у регуляторов, но и у инвесторов.
Однако продвижение законопроекта неопределённо. Как сообщает Reuters, Палата представителей будет работать только одну неделю в рамках подготовки к промежуточным выборам 3 ноября, в то время как сенаторы, как ожидается, останутся на три недели. Даже если стороны достигнут соглашения в ходе переговоров, ограниченное количество оставшихся законодательных дней вполне может стать следующим серьёзным препятствием на пути принятия законопроекта.
Самые умные крипто-умы уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь к ним.