IA en el Municipio: el gobierno avaló su incorporación pero advirtió sobre los riesgos y pidió reforzar el control humano

La discusión sobre el uso de inteligencia artificial en la Municipalidad de General Pueyrredon sumó un nuevo elemento con el informe elaborado por la Subsecretaría de Gobierno Digital, a cargo de José Luis Dranuta. La dependencia manifestó una opinión favorable respecto del proyecto impulsado por Acción Marplatense para establecer reglas sobre el desarrollo, implementación y utilización responsable de sistemas de IA, aunque planteó una serie de modificaciones y advertencias para garantizar que la incorporación de estas herramientas no genere decisiones opacas, discriminatorias o sin control.

En el informe al que accedió 0223, Dranuta destacó que la Subsecretaría "comparte el espíritu general del proyecto", especialmente porque plantea que la incorporación de inteligencia artificial debe realizarse bajo criterios de "responsabilidad, transparencia, protección de datos personales, trazabilidad, supervisión humana, equidad, seguridad y resguardo de los derechos fundamentales de la ciudadanía".

El funcionario remarcó que la IA puede tener un impacto positivo en el funcionamiento del Estado. "La inteligencia artificial constituye una herramienta de enorme potencial para mejorar la calidad de los servicios públicos, optimizar procesos administrativos, reducir tiempos de respuesta, fortalecer la atención ciudadana, asistir en la toma de decisiones y ampliar capacidades estatales", sostuvo. Sin embargo, advirtió que el ámbito público requiere controles específicos, sobre todo cuando las herramientas puedan tener consecuencias sobre los vecinos.

En ese sentido, el informe señala que deben evitarse "usos opacos, sesgados, discriminatorios o carentes de control humano", especialmente cuando los sistemas puedan "afectar derechos, generar efectos jurídicos o incidir sobre el acceso a prestaciones, beneficios, sanciones, fiscalizaciones o servicios municipales".

La Subsecretaría consideró acertado que la iniciativa tenga un enfoque basado en riesgos y contemple distintos niveles de criticidad, evaluaciones previas, mecanismos de mitigación y auditorías. También respaldó la creación de un Registro de Sistemas de Inteligencia Artificial que permita conocer qué herramientas utiliza el Municipio, con qué finalidad, qué dependencia es responsable, quién es el proveedor, qué datos están involucrados y cuáles son los mecanismos de supervisión.

Uno de los principales planteos apunta a evitar que la futura ordenanza quede rápidamente desactualizada frente a la velocidad con la que evoluciona la tecnología. Por eso, Dranuta recomendó que la norma establezca "principios, obligaciones generales y criterios rectores", mientras que los aspectos técnicos y operativos queden para una reglamentación posterior. La regulación, sostuvo, debería preservar "neutralidad tecnológica y flexibilidad regulatoria".

Otro de los puntos centrales está relacionado con quién tendrá la responsabilidad frente a las decisiones adoptadas con asistencia de inteligencia artificial. La Subsecretaría pidió incorporar expresamente el principio de "supervisión humana significativa" y remarcó que "ningún sistema de IA podrá sustituir la responsabilidad administrativa, política o funcional de los agentes y autoridades competentes". Así, las herramientas podrán "asistir, recomendar, clasificar o priorizar información", pero las decisiones públicas deberán mantener "identificación de responsable humano, posibilidad de revisión, motivación suficiente y mecanismos de impugnación cuando corresponda".

El informe también puso la lupa sobre los datos municipales y los contratos con empresas tecnológicas. En caso de que las herramientas sean provistas por terceros, recomendó establecer cláusulas sobre propiedad y disponibilidad de los datos públicos, confidencialidad, seguridad, trazabilidad, acceso a registros, reversibilidad y auditoría. Además, planteó la "prohibición de uso no autorizado de datos municipales para entrenamiento externo". En materia de datos personales, se sugirió incorporar mecanismos de minimización de la información utilizada, finalidad determinada, conservación limitada y anonimización o seudonimización cuando corresponda, junto con controles reforzados cuando se trate de información sensible.

A su vez, el gobierno recomendó que la implementación sea gradual. El esquema propuesto contempla una primera etapa de relevamiento de los sistemas existentes o proyectados, una segunda de clasificación de riesgos y registro, y una tercera destinada a aprobar protocolos, capacitar al personal y adecuar las futuras contrataciones.

El proyecto de Acción Marplatense no es la única iniciativa que se encuentra en tratamiento en el Concejo Deliberante. La UCR presentó además una propuesta para conformar una Mesa de Trabajo destinada a elaborar un "Marco Municipal para el Desarrollo, Uso y Gobernanza de la Inteligencia Artificial" en General Pueyrredon.

La iniciativa local se conoce luego que febrero de 2025 el gobierno bonaerense estableciera una guía de “uso y pautar mínimas” para la utilización de la IA en la gestión pública provincial, a partir de un documento elaborado por la Dirección de Digitalización e Inteligencia Artificial. Precisamente, la propuesta de AM plantea tomar como base ese documento para adaptarlo a la realiación de la gestión municipal.