En un esfuerzo por tomar la delantera en la regulación de la Inteligencia Artificial (IA), la Ciudad de México recientemente aprobó una iniciativa de ley que crea un marco jurídico sobre su uso en el ámbito de la administración pública. Se trata de un proyecto promovido por el Instituto de Transparencia, Acceso a la Información Pública, Protección de Datos Personales y Buenas Prácticas que tiene como objetivo garantizar que se establezcan las medidas adecuadas para cuestiones relacionadas con la seguridad de los datos, la discriminación algorítmica y la transparencia ante el uso de estas tecnologías.
Primer paso hacia la regulación
La iniciativa legislativa consta de aproximadamente 75 artículos, lo que para algunos es insuficiente para abordar adecuadamente las complejidades de la IA. Por ejemplo, Emilio Carrillo, socio de Pérez Correa González, señala que se trata de un paso positivo pero que muestra una escasa conciencia de la gravedad de las consecuencias que puede acarrear esta tecnología. Carrillo relaciona el desarrollo de la IA con “la construcción de una bomba atómica sin la teoría suficiente para prever sus efectos”, es decir, que aún no se prevén los riesgos que conlleva su uso y aplicación.
Principios fundamentales de la ley
La propuesta se basa en tres principios:
- Seguridad de los datos: un principio que se vuelve imperativo con tantas vulnerabilidades a la privacidad en el mundo actual. Al respecto, Carrillo señala que, si bien ha habido una recopilación constante de datos biométricos y personales, no existen medios adecuados y efectivos en la ley para proteger dicha información, especialmente en manos del gobierno.
- Prevención de la discriminación algorítmica: Los algoritmos de IA recientemente establecidos están diseñados para perpetuar el sesgo existente en caso de que los datos de los que se alimentan sean discriminatorios. Existe un intento de evitarlo por parte de la ley; sin embargo, como señala Carrillo, no existen herramientas satisfactorias para realizar una auditoría que garantice que dichos modelos no discriminen en función de ciertas características (por ejemplo, raza, género, etc.).
- Transparencia y auditabilidad: La ley dice que los sistemas deben ser auditables; no obstante, Carrillo duda de la posibilidad de auditar sistemas altamente complejos. Dichos algoritmos existentes comprometen en gran medida la capacidad de comprender cómo se toman las decisiones automatizadas porque es casi imposible escudriñar sus detalles opacos.
Desafíos en la regulación de la IA
Uno de los mayores retos identificados es la velocidad con la que evoluciona la tecnología. Carrillo describe esta situación como una “carrera armamentista”, donde los avances en IA superan rápidamente cualquier intento regulatorio. Las leyes existentes sobre protección de datos no son lo suficientemente robustas para abordar los nuevos riesgos que presenta esta tecnología. Además, se critica que la legislación no incluye mecanismos claros para el consentimiento informado. Los ciudadanos a menudo deben proporcionar datos personales sin comprender cómo serán utilizados, lo que plantea serias preocupaciones éticas sobre el uso y manejo de su información.
Necesidad de capacitación
Carrillo enfatiza la importancia de capacitar adecuadamente a los funcionarios encargados de manejar sistemas de IA, ya que, sin una formación adecuada, es poco probable que estos profesionales puedan gestionar correctamente las tecnologías o explicar sus decisiones a los ciudadanos. La falta de un programa integral para formar a estos operadores podría resultar en un uso ineficiente y potencialmente dañino de esta tecnología.
La iniciativa legislativa para regular la IA en la Ciudad de México representa un primer paso trascendental hacia un marco normativo estrictamente necesario, pero enfrenta varios desafíos críticos, entre otros, la velocidad del avance tecnológico, junto con las limitaciones actuales en términos de capacitación y protección del ciudadano, sugiere que es necesaria una visión integral para abordar todas las complejidades asociadas con el uso de las tecnologías de la Inteligencia Artificial en el sector público. La regulación efectiva requerirá, desde luego, de una legislación adecuada, pero también de un compromiso continuo con la educación y formación en este campo todavía incipiente.