El presente documento busca presentar una serie de acuerdos iniciales y generales para el uso responsable y ético de la IA en Vicente López. El principal objetivo de este documento es presentar de forma sencilla aquellos elementos que deben ser tenidos en cuenta por los desarrolladores y encargados de la implementación de soluciones de IA en el Municipio. Con esto se busca promover el uso de la tecnología y fomentar la utilización de IA brindando claridad sobre los lineamientos éticos que son aplicables en el Municipio y los criterios que se deben tener en cuenta en el desarrollo de este tipo de proyectos.

Así mismo, se busca promover la participación de múltiples partes interesadas en el desarrollo de esta tecnología en el Municipio de Vicente Lopez, el respeto de los derechos fundamentales y la dignidad de todas las personas impactadas por el uso de esta tecnología.

 

¿Qué es la inteligencia artificial?

La inteligencia artificial es una tecnología en constante desarrollo y con una capacidad de desplegar distintas funcionalidades. A diferencia de otras tecnologías emergentes, la IA puede ser utilizada en un sinnúmero de sectores y para el desarrollo de varias tareas. De esta forma, es posible ver sistemas de IA en el comercio, la asesoría de servicios, el procesamiento de solicitudes y en el análisis de información, entre muchas otras actividades. Por lo tanto, lograr una sola definición de la IA no es una tarea sencilla y, al contrario, se han generado todo tipo de definiciones conforme a la utilización que se da a la tecnología y el sector en el que se utiliza. Múltiples entidades se han dado a la tarea de tratar de definir la tecnología y han evidenciado la dificultad de esta tarea. La OECD, la UNESCO y la ONU son algunas de las organizaciones internacionales que han trabajado alrededor de esta materia y han elaborado reportes completos al respecto.

En este documento se reconoce dicha complejidad y se busca brindar una definición de IA que permita partir la discusión ética alrededor del uso y despliegue de esta tecnología. De esta forma, esta definición solo busca dar un entendimiento común sobre el tipo de sistemas que estarían cobijados por este documento y los acuerdos aquí mencionados.

De esta manera, definimos la inteligencia artificial como sistemas informáticos capaces de realizar procesos lógicos, con o sin entrenamiento, que se asemejan a procesos cognitivos que pueden llevar a cabo los seres humanos. Para ello, se hacen uso de saberes relacionados con el campo de la matemática y la estadística, y de la creciente capacidad de procesamiento de las computadoras.

 

IA en el sector público-Declaraciones Iniciales

En un mundo donde se generan una gran cantidad de datos, los gobiernos pueden hacer uso de la inteligencia artificial para mejorar su interacción con el ciudadano, generar políticas públicas basadas en evidencia, acelerar y automatizar procesos, encontrar necesidades y problemáticas nuevas, entre otros ejemplos. Para asegurar el cumplimiento de estos objetivos, se parten de las siguientes declaraciones:

- A los efectos, en el Municipio de Vicente López somos conscientes que la utilización de IA en la administración pública debe incluir participación de distintos actores provenientes de los sectores de la sociedad civil, la empresa privada, la academia, entre otros, que garanticen su uso responsable. Todo proyecto o solución de IA debe estar mediado por este proceso de participación incluyente y debe garantizarse este tipo de participación activa.

 

- Reconocemos que el despliegue de los sistemas de IA debe enmarcarse en las dimensiones de uso que tienen consenso internacional, aclarándose que las mismas irán aplicándose de manera paulatina y de acuerdo con nuestro marco de gestión local. Por lo tanto, Vicente López también reconoce el marco de principios propuestos por organismos internacionales como la OCDE (2019) y la UNESCO (2021), que orienten el uso ético de la IA dentro de la administración pública, operacionalizando los mismos a nuestra realidad local.

 

- Vicente López respetará y actuará en base a los marcos técnicos y normativos existentes, y promoverá la adopción de buenas prácticas que se originen en el ámbito local, nacional o internacional. Para este fin, el desarrollo e implementación de toda solución de IA dentro del Municipio de Vicente López deberá estar inspirado en los principios y metodologías desarrollados en este documento. 

 

- El Municipio de Vicente López reconoce que además de principios éticos existen marcos legales aplicables a esta tecnología. Por lo tanto, el Municipio también buscará un cumplimiento adecuado de las normas aplicables al desarrollo de proyectos de IA, entre ellos, la Ley de Protección de Datos Personales (Ley 25326) y la Ley de Acceso a la Información Pública (Ley 27275), entre otras normas que sean pertinentes al respecto.

 

Declaración de Principios:

A partir de las declaraciones anteriormente mencionadas, se pasará a hacer una declaración de los principios generales e iniciales para el desarrollo de soluciones de IA en el Municipio. Como se podrá observar, estos son principios que debe ser observados por todos los actores que participen en el ciclo de vida de desarrollo de una solución de IA. Estos son principios básicos y generales que ya han sido desarrollados en los diferentes documentos y recomendaciones internacionales que han inspirado este documento. 

La importancia de los principios que se enlistan a continuación recae en el compromiso que realiza el Municipio de Vicente López en lograr su cumplimiento y a que los mismo son los que el Municipio ha decidido priorizar dentro de sus proyectos de IA:

• Las soluciones y proyectos basados en IA deben responder al interés general.

• Las soluciones de IA deben estar inspiradas en los principios de la igualdad, inclusión y equidad. 

• La solución de IA debe lograr el interés público para llegar a todos los ámbitos del Estado respetando las libertades y Derechos de los ciudadanos.

• La solución IA no debe ser considerada un fin en sí misma, sino debe ser abordada como una herramienta que impulse y genere valor agregado a la administración pública.

• El uso de las tecnologías de IA debe ser respetuoso de los Derechos Humanos, adoptando los estándares internacionales de Derechos Humanos como marco principal a través de los cuales evaluar los efectos principales de la IA para con las personas y con la sociedad.

• Cuando se sucedan dilemas éticos derivados de las soluciones de IA, los mismos deberán ser resueltos por seres humanos. La intervención humana deberá mediar en la toma de decisiones a partir del uso de soluciones de IA.

• Todos los proyectos de IA deberán estar visibilizados de manera explícita, informando de forma clara al ciudadano la utilización de este tipo de tecnología y su interacción con este tipo de innovación. Las implementaciones de IA deben ser transparentes y llevadas a cabo respetando los marcos normativos vigentes aplicables en materia de acceso público a la información. Dicha transparencia también debe expresarse en la apertura de los algoritmos y los datos utilizados en la solución implementada en el sector público.

Como se puede observar, estos son principios amplios que se busca que respondan al desarrollo de la tecnología y que permitan al Municipio adaptarse al rápido cambio tecnológico que puede presentarse en los próximos años. Ahora bien, dado esta amplitud y generalidad es necesario que también exista algún tipo de institucionalidad capaz de dotar de mayor contenido e interpretación a cada uno de estos principios, en especial para su uso en casos concretos. 

Para este fin, el Municipio de Vicente López contará con un Observatorio de Ética de IA compuesto por diversos actores de la sociedad y del ecosistema local que se encargarán de dicho proceso de interpretación y desarrollo de estos principios conforme al contexto tecnológico que experimente el Municipio. Este será uno de los primeros Observatorios a nivel ciudad en la región y el mundo en esta materia que se espera ayude al proceso de desarrollo y adopción de este tipo de principios.

 

Acciones para la implementación de principios de ética de IA en el Municipio:

Para la adopción efectiva y pronta de estos principios se proponen las siguientes líneas de acción dentro del Municipio de Vicente López:

  

Reporte ante el Observatorio de Ética de IA 

En primer lugar, todos los proyectos y soluciones de IA implementados por el sector público del Municipio de Vicente López deberán ser informados y reportados ante el Observatorio de Ética de IA del Municipio. La información que deberá ser entregada será aquella que se especifica en este documento junto con aquella adicional que el Observatorio determine adecuada para este fin. 

Dentro de la información a ser reportada por las entidades que desarrollen o implementen soluciones de IA está la siguiente:

1_ Cada proyecto de IA a ser reportado ante el Observatorio deberá especificar el problema identificado, la pertinencia del uso de una solución de IA, la identificación de herramientas que se usarán en los casos de uso, impacto social identificado, nivel de dificultad en la aplicabilidad o interpretación del algoritmo.

 

2_ Dentro de cada proyecto a reportar en el Observatorio se informará el análisis frente a posibles sesgos discriminatorios. En caso de que se identifique la posibilidad de que haya un sesgo se señalará las acciones realizadas para disminuir posibles prácticas discriminatorias a partir de dicho sesgo.

 

3_ Cuando se utilicen sistemas de IA conocidos como de “caja negra”, se deberá exponer ante el Observatorio las funcionalidades propias del sistema y la razón por la que el proyecto es catalogado como de “caja negra”. 

 

4_ Para la seguridad de la información y la protección de datos, se deberá detallar en el reporte cuál es la forma en que se recolectarán los datos, los usos que se le darán y la manera en que se procesarán. 

 

5_ En caso de ser un desarrollo propio, se proveerá un enlace al repositorio donde se encuentra alojado el código y la forma como los miembros del Observatorio pueden acceder al mismo.

 

6_ En caso de integrar herramientas de análisis desarrolladas por terceros, será necesario aportar al Observatorio información sobre los algoritmos o servicios utilizados y el nombre del proveedor. Todo esto se hará conforme a la documentación brindada por el proveedor y que pueda ser de público acceso. 

 

- Evaluaciones de impacto algorítmico 

Las entidades del sector público del Municipio deberán hacer una evaluación de impacto algorítmico antes de la implementación de la solución de IA y reportar los resultados de estas evaluaciones al Observatorio. Dicha evaluación deberá tener una mirada transversal del respeto hacia los DDHH. Dentro de este proceso se debe involucrar a cada una de las entidades que participen en el ciclo de vida de un sistema de IA.   

Para ello, el Observatorio de Ética de IA del Municipio trabajará en la confección de guías que orienten la realización de este tipio de evaluaciones dentro de las distintas Secretarías del Municipio que hagan uso de esta tecnología.

 

- Otras tareas prioritarias del Observatorio 

El Observatorio analizará la pertinencia en el uso de soluciones IA que presentan mayores riesgos éticos, como por ejemplo aquellos que utilizan datos biométricos en espacios públicos. El Observatorio también implementará y promoverá pruebas de concepto y pilotos en los sectores estratégicos y de alto riesgo en un espacio controlado (tipo sandbox). El Observatorio gestionará un espacio de diálogo sobre el uso de la IA en la Administración Pública Municipal, que permita generar consensos sobre lineamientos y buenas prácticas adicionales en la materia. Dichos espacios serán abordados a manera de Mesas de Diálogo y Co-creación con diversos actores de la sociedad civil, la academia, el sector privado, el ámbito internacional y demás actores involucrados en la materia.

El Observatorio también promoverá un programa de capacitación de funcionarios públicos en distintos niveles según vinculación directa con la tecnología.

El Observatorio realizará una primera propuesta para la adopción de las Recomendaciones de Ética de IA de la UNESCO dentro del Municipio, estableciendo una hoja de ruta concreta para este fin. Así mismo, trabajará en la implementación de las principales recomendaciones del reporte “AI Ethics in policy and action: city governance of algorithmic-decision systems” elaborado por el Global Observatory of Urban AI.

 

Vigencia:

Las declaraciones y compromisos adquiridos para su debida implementación en el Municipio de Vicente López entrarán en vigor a partir de Octubre de 2022.

Toda actualización de este documento será dada a conocer a través de la página web: www.vicentelopez.gov.ar/declaracion-de-principios-de-etica-de-ia-en-vicente-lopez