“Uso responsable”: Provincia estableció criterios para el uso de la IA en la administración pública

La irrupción de la inteligencia artificial generativa irrumpió con todo en los últimos meses y repercute en todos los ámbitos de la vida, incluido en la administración estatal. Por ello, el gobierno de Axel Kicillof acaba de diseñar una guía de “uso y pautas mínimas” para su utilización en la gestión bonaerense, estableciendo recomendaciones y casos en los cuales no podrá ser utilizada.

Todo ello quedó asentado en una reciente resolución del Ministerio de Gobierno con la publicación de un documento titulado “Directrices de uso de Inteligencia Artificial Generativa en la Administración Pública de la Provincia de Buenos Aires”, una creación de la Dirección de Digitalización e Inteligencia Artificial, un área puesta en funciones hace poco tiempo.

“Los grandes cambios producidos a fines de esta década por la cuarta revolución industrial, popularizando y democratizando la utilización de diferentes herramientas digitales, especialmente los sistema de inteligencia artificial, hacen necesario el abordaje por parte el Estado de medidas proactivas tendientes a trazar claros lineamientos de uso dentro de la Administración Pública”, planteó el gobierno.

En ese marco, advirtió sobre los riesgos y preocupaciones generados por el uso de la IA, por lo que es importante fijar criterios que buscan el equilibrio entre la protección de los derechos humanos de la ciudadanía, la innovación y el desarrollo. “La masificación y popularización de la inteligencia artificial generativa (IAGen) conlleva un sinnúmero de ventajas facilitando las labores administrativas, pero a su vez representando un desafío por los riesgos y responsabilidades que apareja”, sentó como punto de partida.

Alcances y limitaciones de la Inteligencia Artificial Generativa

En el documento, el gobierno hizo hincapié en el uso responsable, la necesidad de una supervisión humana, la capacitación permanente y la evaluación de impacto. Asimismo, a través de ocho puntos sentó las directrices para la utilización de la IAGen, donde se abordan el tipo de uso permitido, observaciones a tener en cuenta, como así también las prohibiciones.

1. Autorización de acceso y uso: antes de utilizar la IAGen, los agentes tendrán que obtener la aprobación de su superior jerárquico inmediato.

2. Comportamiento ético: los agentes que utilicen una IAGen deberán hacerlo de forma ética y profesional, de acuerdo con las características propias de su trabajo. Teniendo como valores cardinales la responsabilidad, el compromiso, la confidencialidad, la dignidad y el respeto que merecen las funciones que ejerce.

3. Transparencia: que una IA sea transparente significa que posee un grado de comprensibilidad e interpretabilidad inteligible para los seres humanos que se relacionan con ella. En este caso es aconsejable que la IAGen cuente con el respaldo de información y documentación explicativa sobre el alcance de su sistema.

4. Confidencialidad y protección de datos: antes de compartir datos o documentos electrónicos con la IAGen, y de contener información confidencial que pertenezca a la provincia de Buenos Aires, o datos personales o sensibles que identifiquen individuos, previamente estos deberán anonimizarse.

5. Seguridad de la información: queda terminantemente prohibido introducir en la lAGen información que pueda comprometer la seguridad del Estado de la Provincia de Buenos Aires, como, por ejemplo: contraseñas, claves de acceso, detalles de infraestructura crítica.

6. Evaluación de resultados: los agentes deben asegurarse de que el contenido generado o modificado utilizando estas IAs sea revisado por las personas correctas para verificar su precisión, relevancia, sensibilidad de los datos, prejuicios cifrados, sesgos inapropiados y cumplimiento normativo antes de utilizarlo oficialmente. Además, los resultados obtenidos deben llevar advertencia que son productos de la IA, para el caso de generación de imágenes, sonido o vídeo; y en la producción o composición de documentos en los que la IA sea su creadora.

7. Usos prohibidos: las herramientas de IA generativa no pueden ser utilizadas sin intervención y revisión humana, en el proceso de toma de decisiones para la adjudicación de beneficios, acreditación, verificación o acciones relacionadas con investigaciones, aplicación civil o que puedan afectar negativamente un derecho de la ciudadanía.

8. Concientización: los interesados en IAGen tienen que mantenerse informados sobre las mejores prácticas y actualización de la presente directriz. Además, deberán comprender e interiorizarse de las limitaciones internas y externas de las inteligencias artificiales generativas, en particular sobre los sesgos inapropiados.