Los negociadores del Senado de EE. UU. están considerando una legislación que exigiría legalmente a los desarrolladores de los modelos de IA más avanzados protegerse contra daños catastróficos y que podría otorgar al gobierno federal el poder de bloquear lanzamientos inseguros, según Reuters.
Para las principales empresas de IA, esto transformará los estándares de seguridad de un esfuerzo mayormente voluntario a una obligación legal. Una pregunta más amplia del mercado es si las regulaciones más estrictas fomentarán la confianza entre consumidores e inversionistas o simplemente reforzarán a las pocas empresas que pueden costearlas.
De compromisos voluntarios a un "deber de cuidado" Según Reuters, la propuesta busca crear lo que se denomina un "deber de cuidado" para los desarrolladores de modelos de IA de frontera. Se están considerando varias estipulaciones para este propósito. La propuesta incluye requisitos para: que los desarrolladores diseñen modelos de IA que minimicen los riesgos catastróficos; que el gobierno de EE. UU. se reserve el derecho de bloquear modelos de IA inseguros; apelaciones judiciales contra decisiones gubernamentales; y la participación de laboratorios nacionales y socios gubernamentales en las pruebas de IA. Esta propuesta posiblemente tendrá precedencia sobre algunas leyes estatales existentes que regulan los mismos temas.
Según Reuters, las empresas tecnológicas estadounidenses dedicadas al desarrollo de IA de frontera son Google (Alphabet), Anthropic y OpenAI.
En las conversaciones participan el líder de la mayoría del Senado, John Thune, el presidente del Comité de Comercio, Ted Cruz, y la senadora Amy Klobuchar, con la participación también de la senadora Maria Cantwell.
Klobuchar dijo a Reuters que su objetivo es:
"la supervisión gubernamental de los mayores riesgos que plantean los modelos de IA"
Esa supervisión, dijo, debería incluir exigir a los desarrolladores que trabajen con expertos gubernamentales para verificar y probar los modelos avanzados.
Cruz ha presentado una propuesta similar que señala algunas de las peores posibilidades de la IA de frontera. En una publicación en X, Cruz dijo que está colaborando con Klobuchar y Thune para:
"abordar los riesgos catastróficos que involucran amenazas biológicas o nucleares"
Estas preocupaciones explican por qué los negociadores están concentrando sus esfuerzos en los modelos más funcionales en lugar de exigir las mismas disposiciones a toda la industria de la IA.
Otra consideración importante es si las regulaciones federales deberían reemplazar algunas de las restricciones a nivel estatal. Este enfoque es generalmente consistente con el marco legislativo de IA de la administración Trump, que sostiene que un conjunto desordenado de leyes estatales obstaculizará la experiencia en el desarrollo de la tecnología de IA en Estados Unidos y pide en cambio un marco nacional más consistente.
Por qué los legisladores dejaron de tratar los riesgos como teóricos Los legisladores no solo responden a situaciones teóricas sino también a incidentes de agentes de IA que actúan por su cuenta y penetran sistemas externos, junto con las preocupaciones expresadas por investigadores que trabajan en los principales actores de la industria.
La IAPP indicó que las negociaciones fueron impulsadas por la renuncia de Jacob Coxon, ex investigador de Anthropic, y sus preocupaciones sobre una carrera hacia la IA auto-mejorante.
Las demandas están aumentando en el Capitolio. El senador Josh Hawley investiga el papel de OpenAI en el ciberataque a Hugging Face que ocurrió en julio, mientras que el senador Bernie Sanders trabaja en un proyecto de ley destinado a pausar el desarrollo de la superinteligencia, según informó la IAPP.
OpenAI también aboga por una legislación federal ejecutable. En un artículo de política publicado el 9 de septiembre, Chris Lehane, Director Global de Asuntos Gubernamentales, pidió:
"una regulación nacional obligatoria de seguridad de IA basada en capacidades."
Esto coloca a cierta parte de la industria y al Congreso en el mismo lado de una cuestión crucial sobre si las salvaguardas voluntarias siguen siendo suficientes.
Europa ya regula sus modelos más riesgosos Estados Unidos no estará navegando en aguas desconocidas. La Ley de IA de la Unión Europea ha impuesto nuevas responsabilidades a los proveedores de modelos de IA de propósito general que tienen posibilidad de riesgo sistémico. Las obligaciones tratan sobre la evaluación de modelos, la gestión de riesgos, la notificación de incidentes, así como cuestiones relacionadas con la ciberseguridad.
Cualquier modelo que supere el umbral de potencia computacional de 10^25 FLOP se considerará potencialmente sistémico por naturaleza. Sin embargo, la Comisión Europea tiene el derecho de clasificar un modelo de menor rendimiento de manera similar basándose en otros criterios como capacidades o efectos.
Proyecto de Ley de Seguridad de IA de Frontera en EE. UU.: Umbrales Clave, Laboratorios y Apuestas de Inversión
Los costos de cumplimiento podrían favorecer a los laboratorios más grandes Las apuestas financieras son enormes. Según Goldman Sachs Research, se estima que la inversión global en IA alcanzará aproximadamente $1 billón en 2026, lo que incluye $581 mil millones en EE. UU.
Los nuevos requisitos de pruebas, legales y de documentación pueden afectar los cronogramas de lanzamiento de modelos, los presupuestos de infraestructura, las valoraciones y el momento de las OPI. Los nuevos requisitos también pueden proporcionar una ventaja a los actores más grandes, ya que las empresas más pequeñas pueden no ser capaces de soportar los costos.
Esta tensión ya se ve en el mercado de capitales. Según Cryptopolitan, David Sacks pidió la suspensión de la OPI de Anthropic hasta que se verificaran las acusaciones de seguridad hechas por Coxon. Los inversionistas de Anthropic mantuvieron una conversación sobre la valoración de aproximadamente $2 billones, lo que convirtió la seguridad de los modelos de frontera en un tema de preocupación no solo para los reguladores sino también para los inversionistas.
El progreso del proyecto de ley, sin embargo, es incierto. Según informó Reuters, la Cámara de Representantes solo estará en sesión durante una semana en preparación para las elecciones de medio término del 3 de noviembre, mientras que se espera que los senadores permanezcan durante tres semanas. Incluso si las partes involucradas llegan a un acuerdo durante las negociaciones, los limitados días legislativos restantes bien podrían servir como el próximo gran obstáculo para la aprobación del proyecto de ley.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.