Los legisladores de California acaban de enviar al gobernador Gavin Newsom más de una docena de proyectos de ley que regulan la inteligencia artificial, las pruebas para detectar amenazas a la infraestructura crítica, frenan el uso de algoritmos en niños, limitan el uso de deepfakes y más.
Pero los expertos en el sector de la IA y sus aledaños afirman que las leyes propuestas no consiguen detener algunos de los daños más preocupantes de la tecnología, como la discriminación por parte de empresas y entidades gubernamentales. Al mismo tiempo, dicen los observadores, que los proyectos de ley aprobados sean vetados o promulgados puede depender en gran medida de la presión de la industria, en particular las acusaciones de que el estado se está autoregulando para no competir en un campo en auge.
Los debates sobre los proyectos de ley y las decisiones del gobernador sobre si firmar o no cada uno de ellos son particularmente importantes porque California está en el epicentro del desarrollo de la IA y muchos legisladores se han comprometido este año a regular la tecnología y poner al estado a la vanguardia de la protección de las personas contra la IA en todo el mundo.
Sin duda, el SB 1047 recibió más atención que cualquier otro proyecto de ley de regulación de la IA este año, y después de que pasó por ambas cámaras de la legislatura por amplios márgenes, la industria y los defensores del consumidor están observando de cerca para ver si Newsom lo convierte en ley.
El proyecto de ley, presentado por el senador demócrata de San Francisco Scott Wiener, aborda las enormes amenazas potenciales que plantea la IA y exige que los desarrolladores de modelos avanzados de IA los prueben para comprobar su capacidad de permitir ataques a la infraestructura digital y física y ayudar a los no expertos a fabricar armas químicas, biológicas, radioactivas y nucleares. También protege a los denunciantes que quieran denunciar este tipo de amenazas desde dentro de las empresas tecnológicas.
Pero ¿qué pasa si los daños más preocupantes de la IA son comunes y no apocalípticos? Esa es la opinión de personas como Alex Hanna, director de investigación de Distributed AI Research, una organización sin fines de lucro creada por ex investigadores de inteligencia artificial ética de Google con sede en California. Hanna dijo que 1047 muestra cómo los legisladores de California se centraron demasiado en el riesgo existencial y no lo suficiente en prevenir formas específicas de discriminación. Preferiría que los legisladores consideraran prohibir el uso del reconocimiento facial en las investigaciones criminales, ya que ya se ha demostrado que esa aplicación de la IA conduce a la discriminación racial. También le gustaría que los contratistas adoptaran estándares gubernamentales en torno a la tecnología potencialmente discriminatoria.
“Creo que la 1047 fue la que recibió más ruido por quién sabe qué razón, pero ciertamente no están liderando el mundo ni tratando de igualar lo que Europa tiene en esta legislación”, dijo sobre los legisladores de California.
El proyecto de ley contra la discriminación por IA queda anulado
Un proyecto de ley que sí abordaba la IA discriminatoria fue destripado y luego archivado este año. El Proyecto de Ley 2930 habría requerido que los desarrolladores de IA realizaran evaluaciones de impacto y las presentaran al Departamento de Derechos Civiles y habría hecho que el uso de IA discriminatoria fuera ilegal y sujeto a una multa de $25,000 por cada infracción.
El proyecto de ley original pretendía ilegalizar el uso de la IA discriminatoria en sectores clave de la economía, como la vivienda, las finanzas, los seguros y la atención sanitaria. Pero la autora Rebecca Bauer-Kahan, demócrata de San Ramón, lo retiró después de que el Comité de Asignaciones del Senado limitara el proyecto de ley a la evaluación de la IA en el empleo. Se espera que ese tipo de discriminación ya se frene con las normas que están redactando el Departamento de Derechos Civiles de California y la Agencia de Protección de la Privacidad de California. Bauer-Kahan dijo a CalMatters que planea presentar un proyecto de ley más fuerte el próximo año y agregó: “Tenemos fuertes protecciones contra la discriminación, pero bajo estos sistemas necesitamos más información”.
Al igual que el proyecto de ley de Wiener, el de Bauer-Kahan fue objeto de presión por parte de opositores de la industria tecnológica, entre ellos Google, Meta, Microsoft y OpenAI, que contrató a su primer lobista en Sacramento esta primavera. A diferencia del proyecto de ley de Wiener, también atrajo la oposición de casi 100 empresas de una amplia gama de industrias, entre ellas Blue Shield of California, la empresa de aplicaciones de citas Bumble, la empresa de biotecnología Genentech y la empresa farmacéutica Pfizer.
Según Samantha Gordon, directora de programas de TechEquity, que presionó a favor del proyecto de ley, el fracaso del proyecto de ley contra la discriminación en materia de inteligencia artificial es una de las razones por las que todavía existen “enormes lagunas” en la regulación de la inteligencia artificial en California. Gordon, que coorganizó un grupo de trabajo sobre inteligencia artificial con grupos de derechos humanos, laborales y de privacidad, cree que el estado todavía necesita una legislación que aborde “la discriminación, la divulgación, la transparencia y qué casos de uso merecen una prohibición porque han demostrado su capacidad para dañar a las personas”.
Sin embargo, Gordon dijo que la aprobación del proyecto de ley de Wiener marcó un avance importante, al igual que la aprobación del Proyecto de Ley del Senado 892, que establece los estándares para los contratos que firman las agencias gubernamentales para los servicios de IA. Al hacerlo, el autor y senador demócrata de Chula Vista Steve Padilla le dijo a CalMatters a principios de este año, se aprovecha el poder adquisitivo del gobierno para fomentar servicios de IA más seguros y éticos.
Si bien algunos expertos criticaron el proyecto de ley de Wiener por lo que no hizo, la industria tecnológica lo ha criticado por lo que sí hace. Los requisitos de prueba de la medida y los mecanismos de cumplimiento asociados frenarán a las empresas tecnológicas de rápido crecimiento y crearán un efecto paralizante en el intercambio de códigos que inhibe la innovación, han dicho las grandes empresas tecnológicas como Google y Meta.
Dado el poder de la industria en California, esta crítica es el proverbial elefante en la habitación, dijo Joep Meindertsma, CEO de Pause.ai. Pause.ai es un defensor de la regulación de la IA, apoyando el proyecto de ley de Wiener e incluso organizando protestas en las oficinas de empresas con sede en California, incluidas Meta y OpenAI. Por eso, Meindertsma se alegró de ver tantos proyectos de ley regulatorios aprobados por la legislatura este año. Pero le preocupa que se vean socavados por la tensión entre el deseo de regular la IA y el deseo de ganar la carrera -no solo entre empresas sino entre países enteros- para tener la mejor IA. Los reguladores en California y en otros lugares, dijo, quieren tener las dos cosas.
“La dinámica del mercado entre los países que intentan mantenerse por delante de la competencia, tratando de evitar regular demasiado a sus empresas por miedo a desacelerarse mientras los demás siguen compitiendo, esa dinámica es el tema que creo que es el más tóxico en toda la situación”, dijo.
Ya hay indicios de que la presión de la industria podría prevalecer, al menos contra el proyecto de ley de Wiener.
Varios miembros demócratas de la delegación del Congreso de California han pedido a Newsom que vete el proyecto de ley. La expresidenta de la Cámara de Representantes Nancy Pelosi, que representa a San Francisco, también se ha manifestado en contra.
En las últimas semanas, Newsom parece haberse inclinado por la IA, lo que ha suscitado dudas sobre su disposición a regularla. El gobernador mostró un gran interés en utilizar la IA para resolver problemas en el estado de California, firmando un acuerdo con la potencia de la IA, Nvidia, el mes pasado, lanzando un programa piloto de IA para asesoramiento fiscal en febrero y el jueves presentando una solución de IA destinada a conectar a las personas sin hogar con los servicios. Cuando se le preguntó directamente sobre el proyecto de ley de Wiener en mayo, Newsom se mostró ambiguo y dijo que los legisladores deben lograr un equilibrio entre responder a los pedidos de regulación y exagerar.
Lee el resto del artículo en Calmatters.