Este documento discute los sesgos algorítmicos y la necesidad de regular la inteligencia artificial. Explica que los sistemas de aprendizaje automático pueden proyectar y amplificar los sesgos en los datos de entrenamiento. Luego analiza ejemplos de sesgos de género, raza y otros. Finalmente, resume varias regulaciones y principios como el Reglamento General de Protección de Datos de la UE, la necesidad de transparencia, explicabilidad y supervisión humana, y garantizar la diversidad y no discriminación.

1. Inteligencia Artificial
y Tecnologías Algorítmicas
Prof. Lionel Brossi
Instituto de la Comunicación e Imagen
Universidad de Chile
lionel.brossi@uchile.cl
@Lio_Brossi

2. Módulo 3: Gobernanza y regulación de la Inteligencia Artificial.
SESGOS
ALGORÍTMICOS
Los sistemas algorítmicos de aprendizaje automático dependen en gran medida
de los datos con los cuales son alimentados. Si estos datos están sesgados, las
decisiones algorítmicas podrían proyectarlos e incluso amplificarlos.

3. Sesgos sobre género, cuerpo y sexualidad.
Costello, Cary Gabriel 2016. Traveling While Trans: The False Promise of Better
Treatment. Disponible en: https://trans-fusion.blogspot.com/2016/01/traveling-while-trans-false-promise-
of.html

4. Sesgos sobre género, cuerpo y sexualidad.
https://bit.ly/2IlJJmL

5. Sesgos sobre género, cuerpo y sexualidad.

6. Sesgos raciales

7. Sesgos raciales

8. Sesgos raciales + “Gender Shades”

10. Sesgos raciales
https://www.nytimes.com/2018/10/23/arts/television/netflix-race-targeting-personalization.html

11. REGULACIÓN Y
GOBERNANZA

12. ● El Reglamento Europeo General de Protección de Datos (RGPD) regula el
«derecho a la explicación», el cual garantizar que a todo sujeto interesado se le
informe de los algoritmos empleados en las decisiones que le conciernen.
● Las empresas están obligadas a informar de las filtraciones de datos siempre que
haya «un alto riesgo para los derechos y libertades del interesado».
Reglamento Europeo General de Protección de Datos (RGPD)
Enlace al artículo 22: https://gdpr-info.eu/art-22-gdpr/

13. Modelo de regulación por capas
Transparencia, responsabilidad y explicabilidad

14. ● Agencia humana y supervisión.
● Robustez técnica y seguridad.
● Privacidad y gobierno de datos
● Transparencia.
● Diversidad, no discriminación y equidad.
● Bienestar social y ambiental.
● Rendición de cuentas.
Guía ética para una IA confiable

15. Principios rectores para garantizar el uso efectivo y ético de la IA, Gobierno de Canadá:
● Comprender y medir el impacto del uso de la IA mediante el desarrollo y el intercambio de
herramientas y enfoques.
● Ser transparente sobre cómo y cuándo estamos utilizando AI, comenzando con una clara
identificación de las necesidades del usuario y un beneficio público.
● Proporcionar explicaciones significativas sobre la toma de decisiones de IA, al tiempo que
ofrecer oportunidades para revisar los resultados y desafiar estas decisiones.
● Ser lo más abierto posible compartiendo el código fuente, los datos de capacitación y otra
información relevante, a la vez que proteger la información personal, la integración de sistemas
y la seguridad y defensa nacional.
● Proporcionar capacitación suficiente para que los empleados del gobierno que desarrollan y
usan soluciones de AI tengan las habilidades de diseño, función e implementación responsables
necesarias para mejorar los servicios públicos basados ​​en IA.

16. Matriz AI e Inclusión