Anexo B. Ejemplos de instrumentos de IA en ALC alineados con los principios de la OCDE sobre la IA basados en valores

No discriminación: imposibilidad de realizar el tratamiento de datos con fines discriminatorios ilícitos o abusivos.

La ley incluye otros dos derechos relacionados:

• Toda persona natural tiene asegurada la titularidad de sus derechos personales y garantizados los derechos fundamentales de libertad, intimidad y privacidad, de conformidad con los términos de esta ley.

• El titular de los datos tiene derecho a solicitar una revisión de las decisiones tomadas únicamente sobre la base del tratamiento automatizado de los datos personales, que afecten sus intereses, incluidas las decisiones destinadas a definir su perfil personal, profesional, de consumo y de crédito, o aspectos de su personalidad.

IA con centro en las personas: la IA debe contribuir al bienestar integral de las personas y evitar dañarlas en forma directa o indirecta.

IA inclusiva: la IA no debe discriminar en forma arbitraria ni ser utilizada en perjuicio de ningún grupo. Debe desarrollarse con perspectiva de género y considerando especialmente a niñas, niños y adolescentes.

Privacidad: "La inteligencia artificial debe estar precedida de un respeto por la intimidad de las personas y su esfera privada que impide el uso de información que estos no hayan autorizado y el perfilamiento de individuos a través de esta tecnología" (pág. 29).

Control humano de las decisiones propias de un sistema de inteligencia artificial (Human-in-the-loop y Human-over-the-loop): que el ser humano tenga control total sobre la recolección de datos, la toma de decisiones y los sistemas que interactúan con la ciudadanía. Este principio sugiere un mayor nivel de autonomía una vez que se haya alcanzado un mayor nivel de madurez de la tecnología en materia de IA en el país (pág. 31).

No discriminación: "Los sistemas de inteligencia artificial no pueden tener resultados o respuestas que atenten contra el bienestar de un grupo específico o que limiten los derechos de poblaciones históricamente marginadas" (pág. 34). Este principio se aplica a los datos, los algoritmos y las prácticas.

No discriminación: El tratamiento de datos personales no puede originar discriminación de ningún tipo (ver sección 8).

Derechos relacionados con la toma de decisiones automatizada: toda persona tiene derecho, en cualquier momento (...) a exigir al responsable del tratamiento de los datos que garantice que ninguna decisión, a la cual fuera aplicable esta sección, se asiente solo en el tratamiento automatizado de los datos personales relativos al titular de tales datos, con el fin de evaluar cuestiones relacionadas con él (por ejemplo, su rendimiento laboral, su solvencia, su fiabilidad o su conducta).

"El titular de los datos personales tiene derecho a no ser sujeto de una decisión basada únicamente en el tratamiento automatizado de sus datos personales, que produzca efectos jurídicos negativos o le produzca un detrimento a un derecho, cuyo objeto sea evaluar determinados aspectos de su personalidad, estado de salud, rendimiento laboral, crédito, fiabilidad, conducta, característica o personalidad, entre otros."

No discriminación: el proyecto se compromete a que los organismos públicos elaboren un estudio de impacto a fin de disminuir el sesgo en el uso de algoritmos para la clasificación de personas en el sector privado (por ejemplo, sistemas de IA que clasifiquen a las personas para otorgarles beneficios, oportunidades o sanciones). Todos los casos prácticos de IA de este tipo tendrían que someterse a un estudio de impacto socioeconómico para garantizar la equidad.

Proteger la voluntad y libertades de las personas en la implementación de IA, buscando el respeto por la integridad y el derecho a la autodeterminación de los individuos.

Priorizar la seguridad, integridad y dignidad humana en el diseño y aplicación de herramientas de IA, evaluando y monitoreando los factores que pueden impactar en ello.

Fomentar la igualdad al reducir la posibilidad de sesgos discriminatorios en los datos y modelos utilizados.

Promover la justicia al ofrecer mecanismos operados por personas para revisar, apelar y corregir decisiones o acciones tomadas por sistemas basados en IA.

Asegurar la privacidad al incorporar, desde el diseño, mecanismos de consentimiento y control personal sobre el uso de los datos.

Interés general: Las soluciones basadas en IA impulsadas desde el Estado deben tender al interés general, garantizando la inclusión y la equidad. Para esto, se debe trabajar específicamente para reducir la posibilidad de sesgos no deseados en datos y modelos utilizados que puedan impactar de manera negativa en las personas o favorecer prácticas discriminatorias.

Respeto de los Derechos Humanos: Toda solución tecnológica que utilice IA debe respetar los Derechos Humanos, las libertades individuales y la diversidad.

Ética: Cuando la aplicación y/o el desarrollo de soluciones basadas en IA presenten dilemas éticos, estos deben ser abordados y resueltos por seres humanos.

Privacidad por diseño: Las soluciones de IA deberán contemplar, desde su diseño, la privacidad de las personas. Los principios de Protección de Datos Personales vigentes en Uruguay se consideran componentes de este documento.

Sobre la información transparente: el responsable del tratamiento de los datos adoptará las medidas apropiadas para proporcionar toda la información (...) relativa al tratamiento, al titular de los datos de forma concisa, transparente, inteligible y fácilmente accesible, con un lenguaje claro y sencillo (p. 37).

Derecho de acceso: al momento de tratarse los datos personales del titular, [el titular de los datos tiene derecho] a solicitar y a que le sea entregada (...) una descripción de (...) la existencia de la toma de decisiones automatizada, incluida la elaboración de perfiles, a la que se refiere el artículo 18 y, al menos en esos casos, información significativa sobre la lógica aplicada, así como la importancia y las consecuencias previstas de dicho tratamiento para el titular de los datos.

Libre acceso: garantía, a los titulares, de una consulta fácil y gratuita sobre la forma y duración del tratamiento, así como sobre la integridad de sus datos personales.

Transparencia: garantía, a los titulares, de información clara, precisa y fácilmente accesible sobre la realización del tratamiento y sus agentes de tratamiento, respetando el secreto comercial e industrial.

Toda vez que le fuera solicitado, el responsable del tratamiento deberá proporcionar información clara y adecuada sobre los criterios y procedimientos utilizados para la decisión automatizada, respetando los secretos comerciales e industriales.

IA segura: Debido a la estrecha dependencia que existe entre el entrenamiento de algoritmos y el uso de datos para ello, la transparencia y explicabilidad se transforman en elementos relevantes para la concepción de una IA segura.

Transparencia: "apertura para brindar información significativa y comprensible sobre el diseño, funcionamiento e impacto que tienen los sistemas de inteligencia artificial" (pág. 27). Considera las fuentes de información, el modelo con el que se usan los algoritmos, la precisión de los algoritmos, y la información sobre los equipos y personas involucradas en el diseño y desarrollo.

Explicación: "tanto para los desarrolladores y usuarios del sistema como para aquellos individuos que pueden verse afectados por sus decisiones y resultados. La información debe ser de fácil acceso y comprensible, en aras de promover una participación activa de los ciudadanos en la concepción, implementación y evaluación de los sistemas de IA" (pág. 27). De este modo, se refiere a que la información sobre la importancia de los datos para el sistema, cómo se recolectan, los fines de hacerlo, los objetivos iniciales de los algoritmos, y los resultados esperados y obtenidos, así como los roles de las personas involucradas, debe ser accesible.

Derechos de acceso a los datos personales: una persona tiene derecho a: -ser informada por el responsable del tratamiento de los datos, de forma gratuita, acerca de si los datos personales de los que es titular están siendo tratados por dicho responsable o en su nombre; -recibir, por parte del responsable del tratamiento de datos, de forma gratuita y si el tratamiento de los datos es según lo descrito en el punto a), una descripción de los datos personales de los que es titular, los fines para los que se están tratando o se van a tratar los datos personales, y los destinatarios o clases de destinatarios a los que serán divulgados o pueden ser divulgados; -ser informada por el responsable de los datos, previo pago de la tasa prescripta, de la lógica que ha sido aplicada en una toma de decisión cuando el tratamiento, por medios automatizados, de datos personales de los cuales dicho individuo es titular tiene por objeto evaluar cuestiones relacionadas con el individuo (por ejemplo, su rendimiento laboral, su solvencia, su fiabilidad o su conducta), y ha constituido o es probable que constituya la única información utilizada para tomar una decisión que afecte significativamente a la persona.

Explicar a los usuarios que interactúan con servicios basados en IA, el proceso de decisión que el sistema toma sobre ellos, los beneficios esperados y los riesgos potenciales asociados a su uso.

Fomentar apertura y confianza al compartir al público la mayor cantidad de información posible, preservando la confidencialidad requerida, que permita entender el método de entrenamiento y el modelo de toma de decisiones del sistema.

Publicar los resultados de las evaluaciones del sistema procurando incluir versiones dirigidas a distintos públicos.

Transparencia: El proyecto se compromete a implementar una plataforma que haga las veces de registro de algoritmos de IA y datos asociados en el sector público.

Transparencia. Las soluciones de IA utilizadas en el ámbito público deben ser transparentes, cumpliendo con la normativa vigente. Esta transparencia debe:

• Poner a disposición los algoritmos y datos utilizados para el entrenamiento de la solución y su puesta en práctica, así como las pruebas y validaciones realizadas.

• Visibilizar explícitamente, a través de mecanismos de transparencia activa, todos aquellos procesos que utilicen IA, ya sea en la generación de servicios públicos o en el apoyo a la toma de decisiones.

Prevención: adopción de medidas para evitar perjuicios ocasionados por el tratamiento de datos personales.

IA segura:

• Integridad, calidad y seguridad de los datos.

• Evaluaciones de los riesgos y vulnerabilidades.

• Ciberseguridad: confidencialidad, integridad y protección tanto de datos, algoritmos, procesos y prácticas.

Seguridad: "Los sistemas de inteligencia artificial no deben generar afectaciones a la integridad y salud física y mental de los seres humanos con los que interactúan" (pág. 32). Este principio incluye medidas tales como la inmutabilidad, confidencialidad e integridad de los datos de partida, y la creación de códigos de conducta y sistemas de riesgo que permitan identificar posibles afectaciones.

Mitigar situaciones de riesgo e incertidumbre de forma continua y generar estrategias de respuesta a los efectos derivados del uso de IA.

Priorizar la seguridad, integridad y dignidad humana en el diseño y aplicación de herramientas de IA, evaluando y monitoreando los factores que pueden impactar en ello.

Establecer mecanismos sólidos de protección de datos de los usuarios, especialmente atributos sensibles, y notificar sobre posibles eventualidades en el manejo de los mismos.

Seguridad: Los desarrollos de IA deben cumplir, desde su diseño, con los principios básicos de la seguridad de la información. Los lineamientos y la normativa relacionados con ciberseguridad vigentes en Uruguay que apliquen al desarrollo de IA se consideran componentes de este documento.

Responsabilidad y rendición de cuentas: demostración por parte del agente de la adopción de medidas efectivas capaces de demostrar la observancia y el cumplimiento de las normas de protección de datos personales e incluso la eficacia de dichas medidas.

Responsabilidad: "Existe el deber de responder por los resultados que produzca un sistema de inteligencia artificial y las afectaciones que llegue a generar" (pág. 33). Responsabilidad de las entidades que recolectan y procesan datos, y de las personas que diseñan un algoritmo. También sugiere establecer responsabilidades claras en la cadena de diseño, producción e implementación.

Determinar responsabilidades y obligaciones claras de distintos actores sobre el proceso de diseño, desarrollo, implementación y uso de la tecnología.

Responsabilidad: el proyecto se compromete a que el país adoptará lineamientos éticos para el uso de IA de manera sostenible, transparente y replicable, con claras definiciones en cuanto a responsabilidad y protección de los datos.

Responsabilidad: Las soluciones tecnológicas basadas en IA deben tener un responsable claramente identificable y que responda por las acciones derivadas del accionar de la solución.