In this talk at Multi-Academic International Congress (CIMA) organized by students from Universidad Tecnica del Norte in Ibarra, Ecuador I explained the challenges that AI faces in today's world regarding data privacy, which is an important consideration when developing a solution that collects people's data and sends to the cloud. How is it treated? Is it shared with other organizations? How to process it in local scenarios, so the data stays in?

1. Inteligencia Artificial y
Privacidad de los Datos
Luis Beltrán
luis@luisbeltran.mx

2. • Microsoft MVP en Tecnologías de
Desarrollador
• Investigador y estudiante de
doctorado en la Universidad Tomás
Bata en Zlín, República Checa.
• Docente en el Tecnológico Nacional
de México en Celaya.

4. La Inteligencia Artificial es la combinación de
algoritmos planteados con el propósito de crear
máquinas y software que presenten las mismas
capacidades que el ser humano.
¿Qué es la Inteligencia Artificial?

6. Aprendizaje Supervisado

8. • La velocidad del surgimiento de nuevas tecnologías
y su adopción es cada vez mayor. Esta evolución
trae un crecimiento exponencial de superficies
posibles de ataques, al mismo tiempo que ofrece
innumerables oportunidades a las empresas.
• Ante el inmenso volumen de datos que necesitan
ser procesados, los algoritmos avanzados
simplifican el análisis y la toma de decisiones.

9. • La inteligencia artificial es la tecnología más
adecuada para superar este desafío, pero trae
consigo un temor:
¿Cómo queda la seguridad y la privacidad de mis
datos al adoptarla?

11. • Los datos siguen siendo de las empresas, pero
todas se benefician de un proceso acelerado de
evolución de la tecnología.
• Una misma plataforma es usada por numerosas
empresas, las cuales entre más utilicen la
tecnología, más inteligentes se volverán.

12. • Ejemplo: Si un algoritmo aprende a calcular el churn de
una compañía, esa inteligencia será compartida y, a
partir de allí, ayudará a todos los usuarios.
• El intercambio de información también posibilita
un benchmarking con el mercado en general, no solo
con una empresa específica.
• Esta colaboración ayuda a las organizaciones a conocer
mejor el mercado en el que actúan y tomar decisiones
más acertadas para un crecimiento sostenible.

13. • Sin embargo, debería haber un equilibrio entre la
privacidad y la colaboración.
• La privacidad es fundamental para la seguridad de
la información de las compañías y para una mayor
adopción de la inteligencia artificial.
• La colaboración es la clave para la evolución de la
plataforma: sin cooperación, el proceso será muy
lento.

14. • Propósitos del procesamiento de datos personales.
• Base legal del procesamiento de datos personales.
• Datos inferidos.
• Auditoría y control en sistemas.

15. GDPR
• “Estas Directrices proporcionan un conjunto de
medidas de referencia que los gobiernos, los
desarrolladores de IA, los fabricantes, y los
proveedores de servicios deben seguir. Con ellas se
asegurará que las aplicaciones de IA no socaven la
dignidad humana y los derechos humanos y
libertades fundamentales de todos individuales. En
particular con respecto al derecho a la protección
de datos:”

16. • “La protección de la dignidad humana […] los
derechos humanos y libertades fundamentales, en
particular el derecho a la protección de datos
personales, son esenciales al desarrollar y adoptar
aplicaciones de IA que pueden tener consecuencias
en los individuos y la sociedad. Esto es
especialmente importante cuando las aplicaciones
de IA se utilizan en los procesos de toma de
decisiones.”

17. “El desarrollo de IA que se basa en el procesamiento de
datos personales debe basarse en los principios de:
• legalidad
• imparcialidad
• especificación del propósito
• privacidad por diseño y por defecto
• responsabilidad y demostración de cumplimiento
(rendición de cuentas)
• transparencia
• seguridad de datos”

18. • “Un enfoque centrado en evitar y mitigar los
riesgos potenciales del procesamiento. Los datos
personales son un elemento necesario de la
innovación responsable en el campo de la IA.”
• “Las aplicaciones deben permitir un control
significativo por parte de los sujetos sobre los
datos y efectos relacionados en los individuos y en
la sociedad.”

19. • Algunas empresas tienden a almacenar datos más del
necesario al considerar que en algún momento podrán
sacarle rendimiento.
• Sin embargo, cuando se utilicen datos personales, esta
consideración entra en conflicto con dos principios de
la protección de datos: la minimización de datos y
la limitación de la finalidad.
• “Únicamente podrán tratarse aquellos datos
adecuados, pertinentes y limitados a lo necesario en
relación con los fines, que a su vez deben ser
determinados, explícitos y legítimos.”

21. • Como desarrollador de software, ¿esto me afecta?
• Enviar y/o almacenar datos fuera de tu red,
servidor o país puede estar sujeto a políticas de
privacidad o regulatorias.
• Enfoque útil: contenedores que desplieguen y
hospeden las herramientas para análisis de datos
de forma local.

22. • ¿Realmente necesitamos datos
personales?
• Anonimización de datos:
• Los datos anónimos no son datos
personales
• Es una oportunidad, no una barrera
• Cumple con las regulaciones

23. Demo

25. ¡Gracias por su atención!
luis@luisbeltran.mx
https://youtube.com/user/darkicebeam
https://slideshare.net/icebeam
@darkicebeam
icebeam7
luisantoniobeltran
luisbeltran.mxTomás Bata University in Zlín
Tecnológico Nacional de México en Celaya