El proyecto de ley de seguridad de la IA vetado por Newsom por temor a que ralentice el desarrollo tecnológico

Foto de Scott Graham en Unsplash

El gobernador de California, Gavin Newsom, vetó el domingo su proyecto de ley de seguridad de inteligencia artificial (IA), por temor a que sofocara la innovación y la retención de negocios en el estado. El proyecto de ley, que tenía como objetivo imponer algunas de las primeras regulaciones de IA en Estados Unidos, expuso una contradicción en la postura de la industria tecnológica sobre la regulación, ya que las empresas presionan por la supervisión pero se resisten a leyes a nivel estatal que podrían sentar un precedente en todo Estados Unidos.

La legislación propuesta, Ley de Innovación Segura para Modelos de Inteligencia Artificial Fronteriza (SB 1047), habría requerido pruebas de seguridad rigurosas para los sistemas avanzados de IA, ya que el desarrollo de esos proyectos costó más de 100 millones de dólares. También pidió un mecanismo de «interruptor de apagado» que podría apagar los modelos de IA en caso de mal funcionamiento e introdujo una supervisión estricta de los modelos de IA avanzados con capacidades más allá del contexto de la tecnología actual.

Las preocupaciones del gobernador Newsom

El gobernador Newsom expresó que las regulaciones del proyecto de ley eran demasiado amplias y que los estándares propuestos podrían aplicarse fácilmente a tecnologías de inteligencia artificial de bajo riesgo, independientemente de su aplicación prevista.

«[The bill] no considera si un sistema de IA se implementa en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos sensibles”, dijo Newsom en su mensaje de veto. También enfatizó que la legislación podría expulsar a las empresas de California, un centro global de tecnología.

El senador estatal Scott Wiener, autor del proyecto de ley, no estuvo de acuerdo con la decisión del gobernador y advirtió que California ahora carecía de la supervisión necesaria para «tecnología extremadamente poderosa». Criticó la dependencia de compromisos voluntarios de las empresas de tecnología, argumentando que estos rara vez brindan protección suficiente al público.

«No podemos esperar a que ocurra una catástrofe importante antes de tomar medidas», dijo Wiener.

La posición de la industria tecnológica sobre la regulación de la IA

Durante años, los gigantes tecnológicos han insistido en que la inteligencia artificial necesita regulación para evitar daños; esas mismas empresas se encontraban entre los más feroces opositores del proyecto de ley propuesto. Expertos en tecnología como Google, Meta y OpenAI han declarado que la legislación obstaculizará el desarrollo de la IA en California, particularmente para los modelos de IA de código abierto que dependen de código disponible públicamente. Los críticos han argumentado que las reglas propuestas podrían desalentar la innovación e impulsar la investigación y el desarrollo de la IA a otras regiones con regulaciones menos restrictivas.

Independientemente, Newsom afirmó su compromiso con la regulación de la IA y anunció planes para colaborar con expertos en el desarrollo de «barandillas de seguridad operables» para la tecnología. También encargó a las agencias estatales que evaluaran los riesgos asociados con la IA, particularmente en sectores de infraestructura críticos como la energía y el agua.

El proyecto de ley expuso una contradicción en el corazón de la posición de la industria tecnológica sobre la regulación, planteando preguntas sobre qué tipo de supervisión quieren. Las empresas tal vez prefieran regulaciones que puedan ayudar a formular a nivel federal, en lugar de leyes estatales estrictas que podrían sentar un precedente en todo Estados Unidos. Las empresas tecnológicas están ansiosas por evitar una combinación de regulaciones estatales que podrían complicar el cumplimiento y aumentar los costos operativos. La regulación federal, por otra parte, sería más uniforme.

El debate en torno a la SB 1047 es sólo una parte de las discusiones nacionales sobre la gobernanza de la IA, ya que los esfuerzos en el Congreso para introducir regulaciones federales sobre la IA se han estancado. Algunos, como el director ejecutivo de Tesla, Elon Musk, apoyaron el proyecto de ley, argumentando que una regulación proactiva es esencial para gestionar los riesgos asociados con los potentes sistemas de IA.

Con el veto asegurado, California, sede de las empresas de inteligencia artificial más avanzadas del mundo, sin duda seguirá a la vanguardia de esta conversación en evolución.