El Concejo Municipal de Nueva York ha aprobado un paquete legislativo histórico que establece la creación de la Oficina de Rendición de Cuentas Algorítmica, junto con nuevos requisitos de transparencia y estándares de uso para la inteligencia artificial (IA) en todas las dependencias de la ciudad.

Esta iniciativa busca garantizar la equidad, proteger la privacidad y establecer límites claros para las herramientas tecnológicas que impactan los servicios municipales y la vida de los ciudadanos. Se trata de uno de los marcos regulatorios más integrales para el sector público en los Estados Unidos, posicionando a la metrópoli como un referente en gobernanza digital.

Supervisión y orden frente al vacío legal

Hasta el momento, las agencias neoyorquinas han utilizado diversos sistemas algorítmicos para tareas operativas y administrativas sin un marco unificado que evaluara o monitoreara su funcionamiento. Con la nueva legislación, se busca poner fin a la falta de directrices claras.

La propuesta denominada Introducción 199-A, impulsada por la concejal Jennifer Gutiérrez, crea la oficina central que se encargará de analizar las herramientas algorítmicas, recopilar comentarios del público y publicar evaluaciones periódicas. Asimismo, la medida 1024-A obligará a esta oficina a publicar una lista de todos los sistemas de IA que se sometan a evaluaciones previas a su implementación, garantizando que los ciudadanos sepan qué herramientas están bajo revisión.

“Durante años, bajo esta administración, las agencias fueron dejadas a su suerte para adivinar el camino con la IA: sin estándares, sin supervisión y sin una guía real”, afirmó la concejal Jennifer Gutiérrez. “Este paquete pone fin al caos y les da a los empleados de la ciudad y a los neoyorquinos la rendición de cuentas y la claridad que merecen”.

Estándares de cumplimiento y transparencia

Complementando estas medidas, la Introducción 926-A, patrocinada por la concejal Julie Menin, exige que la nueva oficina establezca estándares básicos de cumplimiento para el desarrollo, la compra y el uso de sistemas de IA que tengan contacto con el público. Estos estándares buscan asegurar que cualquier tecnología adoptada por los departamentos municipales sea justa y respete la privacidad.

Al respecto, la concejal Menin destacó la importancia de la supervisión en un momento de transformación tecnológica: “A medida que la IA transforma los procesos de toma de decisiones, no podemos permitirnos avanzar sin una supervisión adecuada. Esta legislación establece salvaguardas esenciales para proteger los derechos de todos los neoyorquinos”.

Un modelo para otras municipalidades

El avance de Nueva York se produce en un contexto donde gobiernos locales en todo el mundo, incluidos los de la región latinoamericana, enfrentan el reto de integrar la tecnología sin comprometer los derechos ciudadanos. La creación de esta oficina y de los estándares de transparencia podría servir como hoja de ruta para otras ciudades que buscan modernizar su gestión de manera responsable y ética.