Mientras el gobierno federal parece contento de quedarse quieto y esperar, más de 40 estados de EE. UU. están considerando cientos de proyectos de ley de regulación de inteligencia artificial.

California, con su estatus como un estado avanzado en tecnología y una gran economía, tiene la oportunidad de liderar el camino. De hecho, la Unión Europea está tratando de coordinarse con el estado en cuanto a leyes de inteligencia artificial. La UE abrió una oficina en San Francisco en 2022 y despachó un enviado de tecnología, Gerard de Graaf, para comunicarse mejor sobre leyes y regulaciones en torno a la IA.

Estamos viviendo lo que de Graaf llama “el año de la IA.” De Graaf y la subdirectora de la oficina de la UE en San Francisco, Joanna Smolinska, le dijeron a CalMatters que si los legisladores de California aprueban la regulación de la IA en los próximos meses, el estado puede surgir como un referente para la regulación de la IA en los Estados Unidos. En otras palabras: las leyes de California podrían influir en el futuro de la IA tal como la conocemos.

El mes pasado, de Graaf viajó a Sacramento para hablar con varios legisladores estatales clave para la regulación de la IA:

• La asambleísta Rebecca Bauer-Kahan, demócrata de San Ramon, es autora de un proyecto de ley que requiere que las empresas y agencias estatales informen los resultados de las pruebas de modelos de IA en un esfuerzo por prohibir la discriminación automatizada
• El senador estatal demócrata Scott Wiener de San Francisco es autor de un proyecto de ley para regular la IA generativa
• La asambleísta Buffy Wicks, demócrata del este de la bahía, es autora de un proyecto de ley que requeriría que las plataformas en línea pongan marcas de agua en imágenes y videos generados por la IA a veces conocidos como deepfakes antes de las elecciones de este otoño
• Y el senador Tom Umberg, presidente del Comité Judicial del Senado, al que Politico se refirió como el “principal guardián de las reglas de la AI en California.

La reunión para discutir los proyectos de ley fue al menos el sexto viaje que de Graaf u otros funcionarios de la UE hicieron a Sacramento en dos meses. Funcionarios de la UE que ayudaron a redactar la Ley de IA y el Vicepresidente de la Comisión de la UE, Josep Fontelles, también hicieron viajes a Sacramento y Silicon Valley en las últimas semanas.

Esta semana, los líderes de la UE finalizaron un proceso de varios años con la aprobación de la Ley de IA, que regula el uso de la inteligencia artificial en 27 naciones. Prohíbe el reconocimiento de emociones en la escuela y en el lugar de trabajo, prohíbe puntuaciones de crédito social como las utilizadas en China para recompensar o castigar ciertos tipos de comportamiento y algunos casos de policía predictiva. La Ley de IA asigna etiquetas de alto riesgo para la IA en la atención médica, contratación y emisión de beneficios gubernamentales.

Existen algunas diferencias significativas entre la ley de la UE y lo que están considerando los legisladores de California. La Ley de IA aborda cómo pueden usar la IA las agencias de aplicación de la ley, mientras que el proyecto de ley de Bauer-Kahan no lo hace, y el proyecto de ley de marcas de agua de Wicks podría terminar siendo más estricto que los requisitos de la Ley de IA. Pero los proyectos de ley de California y la Ley de IA adoptan un enfoque basado en el riesgo para la regulación, ambos aconsejan pruebas y evaluaciones continuas de formas de IA consideradas de alto riesgo, y ambos exigen marcas de agua en salidas de IA generativa.

“Si tomamos estos tres proyectos de ley juntos, probablemente estamos cubriendo el 70-80% de lo que incluimos en la Ley de IA”, dijo de Graaf. “Es una relación muy sólida de la que ambos nos beneficiamos.”

En la reunión, de Graaf dijo que discutieron proyectos de ley de IA, sesgos y evaluaciones de riesgos de IA, modelos de IA avanzados, el estado de las marcas de agua en imágenes y videos creados por IA, y qué temas priorizar. La oficina de San Francisco opera bajo la autoridad de la delegación de la UE en Washington D.C. para promover la política tecnológica de la UE y fortalecer la cooperación con figuras tecnológicas y políticas influyentes en los Estados Unidos.

La inteligencia artificial puede hacer predicciones sobre las personas, incluyendo qué películas quieren ver en Netflix o las próximas palabras en una oración, pero sin altos estándares y pruebas continuas, la IA que toma decisiones críticas sobre la vida de las personas puede automatizar la discriminación. La IA tiene un historial de perjudicar a personas de color, como en el caso del uso policial del reconocimiento facial, decidir si otorgar un apartamento o una solicitud de hipoteca para una vivienda. La tecnología tiene una capacidad demostrada para afectar adversamente las vidas de la mayoría de las personas, incluyendo mujeres, personas con discapacidades, jóvenes, ancianos y personas que solicitan beneficios gubernamentales.

En una reciente entrevista con KQED, Umberg habló sobre la importancia de encontrar un equilibrio, insistiendo en que “podríamos estar equivocados.” Demasiada poca regulación podría llevar a consecuencias catastróficas para la sociedad, y demasiada podría “estrangular a la industria de IA” que tiene su sede en California.

La coordinación entre los funcionarios de California y la UE intenta combinar iniciativas regulatorias en dos mercados influyentes de forma única.

La mayoría de las principales empresas de IA tienen su sede en California, y según la empresa de seguimiento de startups Crunchbase, durante los últimos ocho meses, las empresas en el área de la bahía de San Francisco recaudaron más dinero en inversiones de IA que el resto del mundo combinado.

El Reglamento General de Protección de Datos, conocido como GDPR, es la ley de protección de la privacidad más conocida de la Unión Europea. También llevó a la creación del término “el efecto Bruselas,” cuando la aplicación de una sola ley lleva a una influencia desproporcionada en otros países. En este caso, la ley de la UE obligó a las empresas tecnológicas a adoptar protecciones de usuario más estrictas si querían acceder a los 450 millones de residentes de la región. Esa ley entró en vigor en 2018, el mismo año en que California aprobó una ley similar. Más de una docena de estados de EE. UU. hicieron lo mismo.

Definición de IA

De Graaf dijo que la coordinación es necesaria porque la tecnología es una industria global y es importante evitar políticas que dificulten a las empresas cumplir con las normas en todo el mundo.

Uno de los primeros pasos para trabajar juntos es una definición compartida de cómo definir la inteligencia artificial para que estén de acuerdo en qué tecnología se incluye en una ley. De Graaf dijo que su oficina trabajó con Bauer-Kahan y Umberg en cómo definir la IA “porque si tienen definiciones muy diferentes para empezar, entonces la convergencia o armonización es casi imposible.”

Dado el reciente paso del Acta de IA, la ausencia de acción federal y la complejidad de regular la IA, los abogados del personal del Comité Judicial del Senado celebraron numerosas reuniones con funcionarios de la UE, dijo Umberg a CalMatters en un comunicado. La definición de IA utilizada por el comité judicial del Senado de California se basa en diversas voces, incluidas agencias federales, la Organización para la Cooperación y el Desarrollo Económicos y la UE.

“Creo firmemente que podemos aprender del trabajo de los demás y regular la IA de manera responsable sin perjudicar la innovación en este entorno dinámico y rápidamente cambiante,” dijo Umberg a CalMatters en un comunicado escrito.

El trío de proyectos de ley discutidos con de Graaf en abril fueron aprobados en sus respectivas cámaras esta semana. Sospecha que las preguntas de los legisladores de California serán más específicas a medida que los proyectos de ley se acerquen a su adopción.

Los legisladores de California propusieron más de 100 proyectos de ley para regular la IA en la presente sesión legislativa.

“Creo que ahora es imperativo para la Legislatura reducir los proyectos de ley a un número más manejable,” dijo. “Es decir, hay más de 50, por lo que nos enfocamos particularmente en los proyectos de ley de estos miembros de la asamblea o senadores en sí.”

La agencia estatal también busca proteger la privacidad de los californianos

Los funcionarios electos y su personal no son los únicos que hablan con funcionarios de la UE. La Agencia de Protección de la Privacidad de California - una agencia estatal creada para proteger la privacidad de las personas y requerir que las empresas cumplan con solicitudes de eliminación de datos - también habla regularmente con funcionarios de la UE, incluido de Graaf.

La mayoría de los estados con leyes de protección de la privacidad dependen de los fiscales generales estatales para hacer cumplir la ley. California es el único estado con una agencia independiente con autoridad para hacer cumplir la ley, auditar empresas, imponer multas o llevar a empresas a los tribunales, según el director ejecutivo de la agencia, Ashkan Soltanti, porque elementos clave de la ley de protección de la privacidad de la UE influyeron en la formación de la ley de privacidad de California. De Graaf y Soltani testificaron sobre las similitudes entre las definiciones de IA en California y la UE en una audiencia del comité de privacidad de la asamblea en febrero.

“Las raíces de la agencia se inspiraron en gran medida en el Reglamento General de Protección de Datos (GDPR),” dijo Soltani. “Existe un interés y un objetivo, y de hecho, nuestra ley nos dirige a hacer todo lo posible para asegurarnos de que nuestro enfoque sea armónico con marcos en otras jurisdicciones, no solo estados, sino también a nivel internacional.”

Soltani fue contratado cuando se creó la agencia en 2021. Dijo a CalMatters que la coordinación internacional es una parte importante del trabajo. Después de contratar personal y abogados, una de sus primeras tareas fue unirse a la Asamblea Mundial de Privacidad, un grupo de 140 autoridades de privacidad de datos de todo el mundo. California es el único estado de EE. UU. que es miembro del grupo.

La alineación es importante para establecer las reglas del camino para las empresas pero también para que los consumidores se protejan a sí mismos y a sus comunidades en un mundo digital donde las fronteras se difuminan.

“No piensan si están haciendo negocios con una empresa de California, una empresa europea o una empresa asiática, especialmente si todo está en inglés, simplemente piensan que están interactuando en línea, por lo que tener marcos consistentes para la protección, en última instancia, beneficia a los consumidores,” dijo Soltani.

Al igual que los legisladores de California, la Agencia de Protección de la Privacidad de California está escribiendo reglas sobre cómo las empresas utilizan la IA y protecciones para consumidores, estudiantes y trabajadores. Y al igual que el Acta de IA, las reglas provisionales requieren evaluaciones de impacto. Su junta de cinco miembros considerará aprobar las reglas como ley en julio.

El último día del año del calendario legislativo para que los legisladores de California aprueben un proyecto de ley como ley es el 31 de agosto.

###

¡El Festival de Ideas de CalMatters se llevará a cabo del 5 al 6 de junio! Obtén más información y compra tus entradas en este enlace.

CalMatters.org es una empresa de medios sin fines de lucro y no partidista que explica las políticas y la política de California.