info@josefelgueroso.com
2024-11-14
El gobernador de California, Gavin Newsom, vetó el Proyecto de Ley 1047 del Senado de California, conocido como la "Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial Fronteriza". El proyecto buscaba establecer salvaguardas para el desarrollo de modelos de IA con el objetivo de mitigar riesgos catastróficos. La decisión de Newsom refleja el desafío que supone regular un sector tecnológico en constante evolución.
El Proyecto de Ley 1047 tenía como objetivo regular a los desarrolladores de "modelos cubiertos", sistemas de inteligencia artificial a gran escala que requieren recursos computacionales significativos para su entrenamiento. Proponía la creación de una Junta Estatal de Modelos Fronterizos para supervisar el desarrollo de modelos de IA y garantizar el cumplimiento de protocolos de seguridad.
El proyecto de ley introdujo requisitos estrictos para los desarrolladores de IA, que incluían:
Estas disposiciones tenían como objetivo mitigar los riesgos asociados con la IA avanzada, como la desinformación, los "deepfakes" y las vulnerabilidades en infraestructuras críticas.
El Proyecto de Ley 1047 adoptó un sistema de clasificación de riesgos basado en la capacidad computacional, centrándose en modelos a gran escala que superaran ciertos umbrales de potencia de procesamiento (10^26 FLOPS) y costo de entrenamiento ($100 millones). Sin embargo, en una declaración que acompañó a su veto, el gobernador Newsom criticó explícitamente este enfoque, señalando que modelos más pequeños y especializados podrían ser igual de peligrosos o incluso más que los sistemas a gran escala previstos en el proyecto. En su lugar, Newsom abogó por un marco empírico y basado en pruebas que evalúe los riesgos de los sistemas de IA según tres criterios clave: su despliegue en entornos de alto riesgo, su participación en procesos de toma de decisiones críticas y el uso de datos sensibles.
El enfoque alternativo basado en el uso se alinea con los marcos regulatorios emergentes a nivel mundial. Por ejemplo, tanto el Proyecto de Ley 205 del Senado de Colorado como la Ley de IA de la Unión Europea emplean clasificaciones de riesgo que se centran en los casos de uso y los impactos potenciales en lugar de los recursos computacionales. Esos marcos reconocen que los riesgos de la IA provienen principalmente de cómo se despliegan y configuran los sistemas, no únicamente de su tamaño o potencia de procesamiento. La posición del gobernador enfatiza la necesidad de "barreras de seguridad proactivas" mientras se mantiene una flexibilidad suficiente para la innovación. Este enfoque equilibrado facilitaría una supervisión más específica de las aplicaciones de IA en sectores sensibles como la seguridad pública, la atención médica y la infraestructura crítica, sin importar el tamaño o los requisitos computacionales del modelo.
El incumplimiento de las disposiciones del proyecto de ley habría expuesto a los desarrolladores a acciones civiles iniciadas por el Fiscal General. El proyecto también incluía protecciones para denunciantes, fomentando la notificación de fallos de seguridad y destacando su énfasis en la responsabilidad dentro del sector de la IA.
Aunque reconoció la importancia de regular la inteligencia artificial, el gobernador Newsom enfatizó la necesidad de marcos adaptables y basados en pruebas. Su veto subraya los desafíos de equilibrar la innovación con la seguridad y la responsabilidad en una era de capacidades de IA en rápido avance. A medida que California continúa deliberando sobre la regulación de la IA, el diálogo iniciado por el Proyecto de Ley 1047 sin duda dará forma a futuras políticas en este ámbito.
SB-1047 Safe and Secure Innovation for Frontier Artificial Intelligence Models Act
Declaración del Gobernador Newson acerca de su Veto del Proyecto de Ley SB 1047