La asambleísta demócrata Jacqui Irwin, una ex profesional de la tecnología, está desafiando a la industria con un proyecto de ley de alcance amplio que requeriría que los desarrolladores de inteligencia artificial revelen qué datos utilizan para “entrenar” sus sistemas.

“La confianza del consumidor en los sistemas de IA no ha crecido al mismo ritmo vertiginoso que la adopción de la industria”, dijo Irwin en una audiencia el mes pasado. “Muchos consumidores tienen preguntas válidas sobre cómo se crean estos sistemas y servicios de IA”.

La preocupación de Irwin por la IA es notable dado que podría ser la principal experta en tecnología de la Legislatura y, ocasionalmente, su defensora.

Como joven ingeniera en el laboratorio de física aplicada de la Universidad Johns Hopkins, le asignaron resolver problemas de lanzamientos de misiles nucleares Trident II de la Marina de los Estados Unidos, lo que la convierte en la única científica espacial legítima de la Legislatura.

Ella es una ex ingeniera de Teledyne Technologies, un conglomerado aeroespacial y tecnológico mundial con sede en la ciudad natal de Irwin, Thousand Oaks.

Ella copreside el Caucus Legislativo de Tecnología e Innovación de California y un grupo de trabajo legislativo nacional sobre IA, ciberseguridad y privacidad. También ha sido la favorita de las grandes empresas de tecnología, una vez redactando legislación que los críticos acusaron de debilitar las protecciones de privacidad digital de California en nombre de la industria tecnológica a la que tenía estrechos lazos familiares. En ese momento, su esposo era el director de operaciones de Ring, propiedad de Amazon. El influyente grupo de presión TechNet en 2017 la nombró “Legisladora del Año”.

Pero ahora TechNet y casi todos los grupos de presión que representan a las grandes empresas de tecnología se oponen a su última legislación, Asamblea Bill 2013. La influyente Cámara de Comercio de California también se opone al proyecto de ley, que la Asamblea Estatal votó 56-8 para enviar al Senado la semana pasada.

El mes pasado, Ronak Daylami de la Cámara le dijo al Comité de Privacidad y Protección al Consumidor de la Asamblea, en el que Irwin se sienta, que el proyecto de ley de Irwin podría exponer los secretos comerciales cuidadosamente guardados por las empresas tecnológicas.

“Aunque puede que no sea obvio a simple vista”, dijo Daylami, “la experiencia y el juicio, así como la selección real de datos y conjuntos de datos elegidos para entrenar un modelo de IA específico, son por sí mismos propietarios”.

¿La divulgación evitaría el sesgo de la inteligencia artificial?

Pero Irwin dijo que su proyecto de ley daría a los consumidores una herramienta poderosa para comprender mejor la tecnología emergente, que ha generado alarmas de privacidad después de que se reveló que las empresas tecnológicas usaron reconocimiento facial, publicaciones en redes sociales y material con derechos de autor como obras de arte y artículos de noticias para entrenar su software de inteligencia artificial.

Irwin dijo que el requisito de divulgar datos de entrenamiento también podría ayudar a prevenir posibles sesgos en la toma de decisiones del software de inteligencia artificial.

Dijo que el tema despertó su interés en una reunión reciente de la Conferencia Nacional de Legislaturas Estatales donde escuchó a un grupo de médicos hablar sobre el uso de la IA en la dispensación de medicamentos. El problema, dijo, era que no estaba claro si dichos sistemas tenían sesgos inherentes ya que no se les exige a las empresas divulgar los datos que usaron para entrenar sus sistemas.

Se preguntó: ¿Qué pasaría si fuera como un ensayo clínico de fármacos que solo probó la medicación en hombres suburbanos blancos, en lugar de un grupo diverso de pacientes cuyos cuerpos podrían reaccionar de manera diferente? “Con estos dispositivos médicos de IA, realmente deberías saber en qué grupo se entrenó”, dijo.

Ampliándolo un poco, Hayley Tsukayama, defensora legislativa de la Electronic Frontier Foundation, comparó los requisitos de divulgación con poder leer una lista de ingredientes que van en una comida.

“La lista de ingredientes a veces es mucho más fácil de interpretar que tratar de probar un plato al final e intentar averiguar qué tiene”, dijo.

Irwin posee acciones de Amazon y tecnología

El proyecto de ley de divulgación de IA no es la primera incursión de Irwin en la regulación de la tecnología desde que se unió a la Asamblea en 2014.

Su oficina proporcionó lo que llamó una lista “no exhaustiva” de otros 13 proyectos de ley de tecnología y ciberseguridad que Irwin ha redactado, la mayoría de los cuales fueron aprobados. Algunos de ellos también fueron objeto de oposición por parte de la industria tecnológica, que ha donado al menos $288,000 a sus campañas a lo largo de los años, según la base de datos Digital Democracy.

Desde 2015, los votos de Irwin han coincidido con la posición de TechNet en un 28% de las veces, según un análisis de Digital Democracy.

Sin embargo, su legislación tecnológica más polémica fue un proyecto de ley de 2019 que según críticos habría debilitado la histórica Ley de Privacidad del Consumidor de California. La ley otorga a los californianos autoridad legal para ordenar a las empresas tecnológicas que les informen qué información personal han recopilado, y los clientes pueden ordenar a las empresas que la eliminen y que no la vendan.

En ese momento, el esposo de Irwin, Jon, era el director de operaciones de Ring, propiedad de Amazon, lo que planteaba la apariencia de un conflicto de intereses dado que la Ley de Privacidad regulaba a la empresa.

Irwin insistió en que no lo había. Le dijo a Politico en ese momento que era ofensivo asumir que trabajaba en nombre de la empresa de su esposo, dada su experiencia y conocimientos profesionales.

Jon Irwin desde entonces ha dejado Amazon para convertirse en director de operaciones de CENTEGIX, una empresa tecnológica que fabrica dispositivos de alerta de emergencia portátiles y sistemas de seguridad para escuelas y otras instituciones, según su página de LinkedIn. La asambleísta informó a funcionarios de ética estatales el año pasado que la familia vendió acciones de Amazon, valoradas entre $300,000 y $3 millones. Los funcionarios de ética estatales permiten a los legisladores informar amplios rangos del valor de sus carteras de acciones cuando presentan sus declaraciones de divulgación financiera anuales.

Las presentaciones de divulgación de Irwin muestran que también adquirió al menos $60,000 en inversiones de criptomonedas, inteligencia artificial y semiconductores el año pasado. En su entrevista de la semana pasada con CalMatters, Irwin se negó a proporcionar una cifra más precisa para las ventas de acciones de Amazon o abordar sus otras inversiones recientes en tecnología. Ella dijo que cumplió con los requisitos de divulgación ética del estado, y que las inversiones de ella y su esposo no influyen en su proceso de toma de decisiones.

“Tomé cada decisión basada en lo mejor para mis constituyentes”, dijo. “No necesito que nadie cuestione nada de lo que hago, así que siempre somos muy cuidadosos con cada decisión.”

Más bien, ella dijo que se interesó en la legislación tecnológica y de ciberseguridad porque su experiencia la hacía una candidata natural para ello. E incluso se ha tomado el tiempo de educar a sus colegas legisladores sobre ciberseguridad.

“Puedes hablar con cualquiera de mis colegas; la mayoría de ellos, les he tomado sus teléfonos y les he dicho ‘Dios mío, tu teléfono te está rastreando; estas aplicaciones te están rastreando. Desactivemos los dispositivos de ubicación y hagamos una autenticación de dos pasos,’” dijo. “En la asamblea, me pongo de pie y le digo a la gente cómo hacer que sus teléfonos sean más seguros.”

Tsukayama, el defensor legislativo de la Electronic Frontier Foundation, dijo que Irwin definitivamente conoce temas tecnológicos complicados tan bien o mejor que cualquier persona en la Legislatura, incluso si el grupo de derechos digitales a veces se opone a su legislación.

“No siempre hemos estado de acuerdo con ella,” dijo Tsukayama, “pero rara vez es por un malentendido de cómo funciona la tecnología.”

###

Reportero de economía de CalMatters Levi Sumagaysay y reportero de datos Jeremia Kimelman contribuyeron a esta historia.

El Festival de Ideas de CalMatters tiene lugar el 5 y 6 de junio! Obtén más información y consigue tus entradas en este enlace.

CalMatters.org es una empresa de medios sin fines de lucro y no partidista que explica las políticas y políticas de California.