Chile ha implementado varias iniciativas para regular la IA de forma responsable, incluyendo un repositorio de algoritmos públicos, reformas a la ley de protección de datos, e instrucciones para la transparencia algorítmica. Las lecciones aprendidas son que se requiere tiempo para establecer regulaciones basadas en la experiencia práctica, construir sobre marcos regulatorios existentes, y fortalecer las capacidades a través de la colaboración público-privada.

1. Política Pública de IA responsable: la
experiencia chilena en regulación de la IA y
lecciones para Latinoamérica
4 septiembre 2023
18 Taller Internacional de Regulación

2. Agenda
1. ¿Qué es una política pública de IA
responsable?
2. Experiencia chilena en regulación de la IA
3. Lecciones para Latinoamérica

3. ¿Qué es una Política Pública de IA
responsable?

4. Definición responsabilidad
La responsabilidad es la obligación o disposición a
responder por las acciones o actividades propias,
creaciones o personas a cargo aceptando las
consecuencias de estos actos.

5. Con una mirada estratégica

6. Con participación ciudadana

7. En todo el ciclo de vida
Conceptualiza
ción y diseño
Recolección,
análisis y
procesamient
o de datos
Desarrollo del
modelo y
validación
Uso y
Monitoreo

8. Implementación práctica de los estándares éticos
Proporciona-
lidad
Transparencia
Responsabilidad
Equidad
Privacidad
Licencia social

9. Ejemplo: DART y responsabilidad
https://www.nature.com/articles/s41433-020-01366-0

10. Con participación y acciones en todos los sectores

11. Experiencia chilena en la
regulación de la IA

12. Repositorio Algoritmos Públicos
https://www.algoritmospublicos.cl/

13. Los algoritmos están en todos los ámbitos de las políticas públicas
https://goblab.uai.cl/informe-anual-2023-repositorio-algoritmos-publicos/

14. Situación actual
USO DE DATOS PERSONALES TIPOS DE PROCESOS
RESPUESTA PORCENTAJE
SI 78,3%
NO 17,4%
NO RESPONDE 4,3%
CLASIFICACIÓN SIST.
UNIFICADO GESTIÓN
CALIDAD INSTITUCIONAL PORCENTAJE
PRODUCTO
ESTRATÉGICO
76,1%
PROCESO SOPORTE
INSTITUCIONAL
23,9%
https://goblab.uai.cl/transparencia-algoritmica-en-el-sector-publico-2/

15. Opacidad en el uso de algoritmos en el Estado de Chile
Hay información pública: 17
sistemas
No hay información pública: 53
sistemas
Indica información de prensa u
otra fuente como la web del
proveedor: 19 sistemas
Nos indica que debemos revisar
Mercado Público: 3 sistemas
https://goblab.uai.cl/transparencia-algoritmica-en-el-sector-publico-2/

16. Debilidades regulación de protección de datos
1. Principios regulados de forma inorgánica y deficiente
2. Un procedimiento insuficiente de tutela de derechos ARCO
3. Ausencia de regulación para el flujo transfronterizo de datos
4. Un catálogo exiguo de bases de legalidad habilitantes basado únicamente en la ley o
en el consentimiento del titular
5. Ausencia de regulación sobre categorías de datos relevantes (ej. datos genéticos o de
menores de edad)
6. Un estatuto sancionatorio deficiente sin multas que signifiquen incentivos al
cumplimiento de la norma
7. Ausencia de una autoridad de control independiente y con facultades de fiscalización
y supervisión de los responsables de datos personales.
Consejo para la Transparencia (2021)

17. Protección de datos e IA: Reforma a la ley de PDP
● Obligación de transparencia sobre la existencia de
decisiones automatizadas.
● El titular de datos tiene derecho a oponerse y a no
ser objeto de decisiones basadas en el
tratamiento automatizado de sus datos
personales, incluida la elaboración de perfiles,
que produzca efectos jurídicos en él o le afecte
significativamente.
● Considera el derecho a obtener una explicación
● Derecho de acceso a información significativa
sobre la lógica aplicada al tratamiento en estos
casos.

19. Iniciativa pionera en Chile y América Latina, ejecutada por la
Universidad Adolfo Ibáñez con financiamiento de BID Lab (parte de la
iniciativa fAIr LAC).
Objetivo: Incorporar estándares éticos en el diseño y adquisición de
algoritmos en el sector público y privado de Chile.
Son socios:
UN PROYECTO MULTIACTOR

20. Conceptualización
y diseño
Recolección,
análisis y
procesamiento de
datos
Desarrollo del
modelo y
validación
Uso y Monitoreo
Sistema de IA
Ficha de datos
(Data sheet)
Hitos: visibilidad de la gestión responsable
Evaluación de Impacto en
Protección de Datos
Entrega de datos. Términos
del tratamiento por encargo
Transparencia del modelo
Explicabilidad
Perfil del modelo (Model Card)
Elección del modelo con análisis de
métricas de equidad estadística
Guía Formulación
Ética de proyectos CD
Auditorías
algorítmicas

21. Capacitación a funcionarios públicos
Formamos a 111 funcionarios/as de más de 60 agencias públicas diferentes

22. PILOTOS EN SERVICIOS PÚBLICOS
IMPLEMENTACIÓN DE ALGORITMOS
CON ESTÁNDARES ÉTICOS
▪ DPP: servicio de auditoría en base a datos para analizar las
salidas favorables por medio de un modelo predictivo
(licitación)1
.
▪ FONASA: solución para la selección de prestadores en
Modalidad Libre Elección que serán fiscalizados (licitación).
▪ IPS: algoritmos para llegar a quienes no han cobrado alguna
ayuda estatal a la cual tienen derecho, con lo que se espera
beneficiar a 300.000 personas (desarrollo interno).
1
La DPP fue socia del proyecto en 2021 y 2022.

23. DESARROLLO Y PILOTAJE
INSTRUCCIÓN GENERAL DE
TRANSPARENCIA ALGORÍTMICA CON CPLT
▪ 1ª normativa sobre el tema en Latinoamérica.
▪ Obligará a más de 1.000 organismos estatales a entregar
información sobre algoritmos que utilizan en sus servicios a
la ciudadanía.
▪ La propuesta será sometida a consulta pública y se espera
que esté publicada en el último trimestre de 2023 y, tras un
periodo de vacancia, entrará en vigencia en 2024.

24. BASES TIPO CON CHILECOMPRA
LICITACIÓN DE CIENCIA DE DATOS E IA
▪ 1ª norma de América Latina con cláusulas éticas para la
licitación y adquisición de sistemas de decisiones
automatizadas por parte del Estado.
▪ Deberán ser cumplidas por los proveedores que quieran
vender servicios como perfilamiento de usuarios, detección
de fraudes o modelos predictivos, entre otros.
▪ Publicadas y vigentes desde enero de 2023.
https://www.chilecompra.cl/2023/01/ya-se-encuentra-disponible-bases-tipo-para-licitar-pro
yectos-de-algoritmos-e-inteligencia-artificial-con-requisitos-eticos/

25. GUÍA CON DGD
FORMULACIÓN ÉTICA DE PROYECTOS
DE CIENCIA DE DATOS
▪ Orientada a los innovadores públicos, entrega herramientas
para reconocer y enfrentar desafíos legales y éticos al
momento de diseñar, formular e implementar sistemas de
toma de decisión y proyectos de inteligencia artificial o
modelos algorítmicos.
▪ Contiene las principales consideraciones legales y riesgos
éticos sobre datos personales, transparencia y rendición de
cuentas, y sesgos y discriminación.
▪ Publicada en agosto de 2022.
https://digital.gob.cl/transformacion-digital/estandares-y-guias/guia-formulacion-etica-de-
proyectos-de-ciencia-de-datos/

26. Participación ciudadana como constante metodológica

27. Acciones con el sector privado

28. Capacitación
● Dos versiones de programa “AI Business
Sessions”, orientado a empresas tecnológicas y
startups
● Más de 200 desarrolladores capacitados de
180 organizaciones

29. RFI y licitaciones
● 20 empresas participantes de las
licitaciones de los pilotos
● 26 empresas participantes del RFI

30. fAIr VENTURE
HERRAMIENTA DE INVERSIÓN
RESPONSABLE
▪ Metodología concreta y aplicada para que fondos de
venture capital y startups tecnológicas evalúen posibles
riesgos éticos y efectos sociales en inversiones de IA y
tecnológicas en general.
▪ La herramienta se puede sumar a procesos de due diligence.
▪ Contiene preguntas y niveles de riesgo en tres dimensiones
de análisis: sociedad, solución y sistema.

31. Impulsando la autoregulación

32. Lecciones para Latinoamérica

33. Lecciones
1. Es un camino que toma tiempo
2. Se requiere construir sobre mecanismos regulatorios y
capacidades existentes
3. Las regulaciones deben venir de la experiencia práctica
4. La colaboración público-privada es necesaria
5. El fortalecimiento de capacidades es esencial

34. EL CAMINO CHILENO HACIA UNA IA RESPONSABLE
DIC 2020
Convenio
BID Lab - UAI
Pilotaje inédito de metodologías,
con casos y datos reales
2021 - 2023
2022 - 2023
Desarrollo de IG Transparencia
Algorítmica única en A.Latina
ENE 2023
Publicación 1ª Bases Tipo IA
con requisitos éticos
JUN 2023
Adjudicación
ANID, 2ª etapa
OCT 2021
Política Nacional
IA
AGO 2022
Guía Formulación
Ética de proyectos
ENE 2022
Asociación Empresas
Algoritmos Éticos
AGO 2023
Incorporación
Servicio Civil
2021 - 2023
Capacitación sectores
público y privado

35. EL CAMINO CHILENO HACIA UNA IA RESPONSABLE
2020 - 2025
Actividades permanentes de difusión, comunicaciones, y participación en eventos nacionales e internacionales.

36. EL CAMINO CHILENO HACIA UNA IA RESPONSABLE
2020 - 2025
Actividades permanentes de difusión, comunicaciones, y participación en eventos nacionales e internacionales.

37. Lecciones
1. Es un camino que toma tiempo
2. Se requiere construir sobre mecanismos regulatorios y
capacidades existentes
3. Las regulaciones deben venir de la experiencia práctica
4. La colaboración público-privada es necesaria
5. El fortalecimiento de capacidades es esencial

38. Se requiere construir sobre mecanismos regulatorios y capacidades existentes

39. Lecciones
1. Es un camino que toma tiempo
2. Se requiere construir sobre mecanismos regulatorios y
capacidades existentes
3. Las regulaciones deben venir de la experiencia práctica
4. La colaboración público-privada es necesaria
5. El fortalecimiento de capacidades es esencial

40. Conceptualización
y diseño
Recolección,
análisis y
procesamiento de
datos
Desarrollo del
modelo y
validación
Uso y Monitoreo
Sistema de IA
Ficha de datos
(Data sheet)
Hitos: visibilidad de la gestión responsable
Evaluación de Impacto en
Protección de Datos
Entrega de datos. Términos
del tratamiento por encargo
Transparencia del modelo
Explicabilidad
Perfil del modelo (Model Card)
Elección del modelo con análisis de
métricas de equidad estadística
Guía Formulación
Ética de proyectos CD
Auditorías
algorítmicas

41. Lecciones
1. Es un camino que toma tiempo
2. Se requiere construir sobre mecanismos regulatorios y
capacidades existentes
3. Las regulaciones deben venir de la experiencia práctica
4. La colaboración público-privada es necesaria
5. El fortalecimiento de capacidades es esencial

42. La colaboración público-privada es necesaria

43. Lecciones
1. Es un camino que toma tiempo
2. Se requiere construir sobre mecanismos regulatorios y
capacidades existentes
3. Las regulaciones deben venir de la experiencia práctica
4. La colaboración público-privada es necesaria
5. El fortalecimiento de capacidades es esencial

44. El fortalecimiento de capacidades es esencial

45. Monitoreo de la regulación de IA
https://forogpp.com/inteligencia-artificial/regulacion-sobre-ia/

46. goblab@uai.cl / paz.hermosilla@uai.cl
https://goblab.uai.cl/algoritmos-eticos/

47. Política Pública de IA responsable: la
experiencia chilena en regulación de la IA y
lecciones para Latinoamérica
4 septiembre 2023
18 Taller Internacional de Regulación