Presentado por Fernando Esponda en Data Day México 2016

1. h"p://sg.com.mx/dataday #datadaymx
Datos Seguros e Inmunidad
Ar2ficial
Fernando Esponda

2. Historia
• Minería de datos
• Beneficios y riesgos
• Una idea nueva para mi@gar los riegos
• Lecciones de la naturaleza

3. Nuevas oportunidades
• Vivimos en un época muy especial
• Grandes can@dades datos disponibles
• Gran diversidad de datos
• Capacidad de cómputo accesible
• Recursos humanos para explotarlo

4. Nuevas responsabilidades
• Toda nueva tecnología conlleva a nuevas responsabilidades
• En par@cular los beneficios no deben de cegarnos a sus posibles
consecuencias perjudiciales
• Los riesgos no son inmediatamente aparentes y no suficiente gente
piensa en esto

5. Privacidad y seguridad
• En par@cular hay que pensar en el riesgo derivado de:
• Lo sensible de los datos mismos
• Las inferencias que pueden hacerse acerca de individuos
• La información que puede derivarse al combinar datos aparentemente
inocuos

6. Ejemplos Beneficios si, pero…
• Existen beneficios de publicar la información médica de la gente
• ¿Puede aumentar el precio de mi seguro?
• Existen beneficios de conocer los movimientos de cada persona
• ¿Cómo afecta esto mi seguridad?
• ¿Quiero que se sepa públicamente a donde voy?

7. Beneficios si, pero…
• Existen beneficios de que los diferentes comercios conozcan mis
compras y hábitos
• ¿Qué información sensible revela esto a terceros?
• ¿Es por esto que me cobran más por un boleto de avión?
• Existen beneficios de saber las transacciones de tarjeta de los
individuos
• ¿Qué dice esto de mi movilidad y hábitos de compra que no es deseable?

8. Beneficios si, pero…
• Existen beneficios de que el contenido de mis comunicaciones sea
monitoreada
• ¿Qué tal que son mal interpretadas?
• Existen beneficios de monitorear el progreso en el aprendizaje de los
niños
• ¿Puede u@lizarse esto para cuartar las oportunidades futuras de mis hijos si
no les va bien en secundaria?

9. Beneficios si, pero…
• Existe gran potencial en tener datos de búsquedas y visitas en
internet
• ¿Puede esto afectar nuestra probabilidad de empleo? (O causar problemas
con mi mujer?)
• Existe gran potencial en tener datos económicos de alta granularidad
• ¿Puede usarse el cuanto gano de forma dañina?

10. A tomar en cuenta
• El consen@miento de los usuarios no es suficiente
• La gente no lee los acuerdos de privacidad
• Imposible saber el uso futuro
• Muchos datos se recolectan sin nuestro conocimiento
• La responsabilidad debe recaer en parte en el proveedor de servicios , no en
el usuario
• Es imposible determinar cuál será el uso futuro de un dato
• El cruce con otras fuentes de datos pueden revelar información
insospechada
• Pero no podemos detener el progreso. Cómo podemos ser
responsables?

11. Algunas soluciones
• Anonimización
• Encripción
• La llave
• Buscar otras alterna@vas
• Voltear a la naturaleza para obtener inspiración
• Resguardar información
• Minimizar la información que se recolecta

12. Idea General
Información Nega@va
• Dado un conjunto de elementos S: todos los elementos que no están
en S

13. Ejemplos
• Todos los días
• Reporte de ac@vidades, discurso polí@co
• Lo que se omite del reporte
• Leer entre líneas
• Sé qué no me gusta
• Filoso_a Hindú
• Define quién eres mediante la iden@ficación sistemá@ca de quién no eres
• Todo esto sugiere que hay información valiosa en la imagen nega@va
de un conjunto

14. Arte
Relación entre Fondo y Figura

15. Rachel Whiteread y Futurama

16. h"p://sg.com.mx/dataday #datadaymx
Un Ejemplo más de Información
Nega@va

17. El Sistema Inmune
• Un ejemplo biológico de una representación nega@va de la
información
• Proteger al organismo de enfermedades (patógenos)
• Cómo son los patógenos?
• División entre Propio y No-Propio
• Propio: los componentes que ocurren normalmente en el organismo
• No-Propio: todo lo demás

18. Sistema Inmune
• Las células inmunes (e.g. células T) aprenden a no interaccionar con lo Propio
• El conjunto de todas las células inmunes definen que es Propio al
individualmente especificar que no lo es

20. Bases de Datos Nega@vas
• Una base de datos posi@va, DB, es un conjunto de cadenas de
longitud fija
• Una base de datos nega@va, NDB , representa todas las cadenas (o
registros) que no están en DB
• Ejemplo
• U= Todas las posibles cadenas de cuatro caracteres
• DB={juan, eric, dave}
• U-DB={cris, john, horo, luca, ryan, raul, tehj, bosh, bull, tosh, guff, blah,.…}

21. Bases de Datos Nega@vas
• Dos preguntas:
• Se puede crear dicha base de datos eficientemente?
• A par@r de este punto asumimos que las cadenas de DB son binarias
• Para una base DB de cadenas de longitud l (bits) hay 2l-|DB| cadenas que no están en
DB
• Para |DB|=100, l =30. El número de registros que no están en DB es:
230-100=1,073,741,724
• Para qué?

22. Puede Crearse Eficientemente?
• Sí: Hay un algoritmo que crea una representación de U - DB (dada DB) en
@empo polinomial
• Dado que U - DB es tan grande, debe haber subconjuntos con cadenas muy
similares
• La estrategia es encontrar estos conjuntos y representar las similitudes
obviando las diferencias
• El método es introducir un nuevo símbolo (comodín) que permite esta
compresión
• Las bases de datos nega@vas (NDB) están definidas sobre {0,1,*}

23. El Símbolo Comodín *
00111
00110
00111
00110
0011*
00000
00100
10000
10100
00000
00100
10000
10100
*0*00

24. Creación de una Base Nega@va
Gzip, etc
Algoritmo
para NDB
archivo1 archivo1.zip
archivo1 Todo_menos_archivo1.zip

25. Bases Nega@vas
Dos Preguntas
• Es posible crear una base nega@va eficientemente
• Para qué? (Propiedad: aplicación)
• Irreversibilidad: seguridad*
• Representación: minería de datos
• Sugerencias bienvenidas!!
* En colaboración con Stephanie Forrest y Paul Helman

26. Para qué?
Privacidad/Seguridad
• DB = El nombre de las personas en esta plá@ca
• NDB = Todas las posibles combinaciones de 30 caracteres excepto sus
nombres
• Cómo afecta la privacidad/seguridad de la información?
• Irreversibilidad
• Qué tan di_cil es recuperar DB dado NDB?
• Qué @po de preguntas podemos hacer?

27. Para qué?
Privacidad
• Es demostrablemente di_cil recuperar DB dado NDB
• Reducción de SAT a este problema
• El problema pertenece a la clase de complejidad NP-Completo
• Fácil de verificar una solución
• Di_cil de obtener una solución
• Dada una NDB que representa nega@vamente los nombres de los
aquí presentes:
• Fácil: Atendió Juan a la plá@ca?
• Di_cil: Quién estuvo en la plá@ca?

28. De Preservar a Recolectar
• Vimos como representar información nega@vamente sirve para
salvaguardar información
• Ahora veremos como la misma idea puede u@lizarse para recolectar
información de individuos y mantener su privacidad
• Este trabajo fue elaborado en conjunto con Victor Guerrero, Antonio Fragoso
y Kael Huerta

29. Encuestas Directas
• Seleccione la opción que con@ene el número de parejas que usted ha
tenido:
[ ] 0
[ ] de 1 a 3
[ ] de 4 a 6
[ ] 7 o más

30. Encuestas Directas
• Los par@cipantes probablemente se negarán a contestar o
contestarán con menos que la verdad
• Quizá podemos lograr nuestros obje@vos (obtener estadís@cas
poblacionales) con menos información personal

31. Encuestas Nega@vas
• Seleccione una opción que NO contenga el número de parejas que
usted ha tenido:
[ ] 0
[ ] de 1 a 3
[ ] de 4 a 6
[ ] 7 o más

32. Encuestas Nega@vas
• Con@ene menos información que la encuesta directa (con más de
dos opciones)
• Es suficiente para es@mar las frecuencias poblacionales
• Nota:
Las encuestas (directas) en cues@ón @enen una pregunta y n opciones
exhaus@vas y mutuamente excluyentes
• Ejemplo

33. Encuestas Nega@vas
• Cómo saber la probabilidad con la que se escoge p(i,j)?
• Usar información previa…
• Controlarlo mediante el uso de disposi@vos
• Ventajas
• Esperamos que sean más precisas que las encuestas directas
• Requieren revelar menos información
• Requieren de menos confianza en el encuestador
• Permiten estudios longitudinales

34. Encuestas Nega@vas
Generalizaciones y Usos
• Poder responder más de una opción
• Sirve para que el método escale en número de opciones
• Personalizar criterio de privacidad
• U@lizar esta técnica para disminuir la can@dad de información
personal en una base de datos antes de hacerla pública
• Trabajo en proceso con Abraham Solís
• Medir la u@lidad de una base de datos perturbada con esta técnica

35. Conclusión
• Al imaginar todas las cosas maravillosas que podemos
hacer con la combinación de datos y aprendizaje de
máquina, tomemos un momento para pensar como
hacerlo con el menor daño
• La naturaleza @ene todavía muchas lecciones que dar
a la ingeniería

36. h"p://sg.com.mx/dataday #datadaymx
Gracias
Fernando Esponda
fernando.esponda@itam.mx

37. Encuestas Nega@vas
Ejemplo
• Se aplica el cues@onario con 4 opciones a una muestra de 100
personas
• 31 contestan la opción 1
• 23 cada una de las opciones 2, 3 y 4
• Nuestro obje@vo es es@mar la proporción de la población que
pertenece a la categoría i: Ci=?
• Por ejemplo, para es@mar C1
• A par@r de los datos recopilados es@mamos la proporción de personas que escogen la
opción i, e.g: E1= 31/100

38. Encuestas Nega@vas
Ejemplo
• Podemos escribir esto como:
• E1 = p(1,2)C2+p(1,3)C3+p(1,4) C4
• p(i,j)=la probabilidad de escoger la opción i dado que el par@cipante pertenece a j
• Cj = la proporción de la población que pertenece a j
• Suponemos para este ejemplo p(1,2)= p(1,3) = p(1,4)
• E1=1/3(C2 + C3 + C4) = 1/3(1 - C1)
• Despejamos C1
• C1 =1-3E1 = 1 - (3*31/100) = 1 - (93/100) =7/100
• El resto de las proporciones se calculan de manera similar
• Regresar