«Introduciendo fundamentos de inteligencia artificial en la escuela a través de actividades prácticas». Juan David Rodríguez García, asesor Técnico Docente en el Instituto Nacional de Tecnologías Educativas y Formación del Profesorado (INTEF)

1. Ética para robots y otros desafíos filosóficos de la
Inteligencia Artificial en el ámbito educativo
Antonio Miguel Seoane Pardo
IES Venancio Blanco (Salamanca) – Profesor de Filosofía
Universidad de Salamanca – Facultad de Educación
Grupo de Investigación en InterAcción y eLearning (GRIAL) – Instituto Univ. de CC de la Educación (IUCE)
aseoane@usal.es
Seminario eMadrid sobre «Machines Are Learning, So Are Students:
Inteligencia Artificial en Colegios e Institutos»

2. Índice
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 2
1. ¿Para qué enseñamos? Competencias clave en el s. XXI
2. Desafíos de IA + Filosofía en educación
3. Computational Thinking & Machine Ethics
4. Ejemplo: pensamiento computacional en Valores Éticos
5. Conclusiones: otros desafíos filosóficos de la IA

3. 1. Para qué enseñamos.
Competencias clave en el s. XXI
La mayoría de niños aprende a
hablar en sus primeros años de
vida. Y, curiosamente, nadie les
enseña a hacerlo
Ken Robinson
Fuente: http://www.atc21s.org/

4. Para qué enseñamos
Competencias clave en el s. XXI
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 4
• Diferentes enfoques en el marco competencial
- ¿Educamos en competencias? ¿Qué evaluamos?
• Necesidad de impulsar las competencias STEM
- ¿STEM = más materias de “informática”?
• STEM skills & friends – La “paradoja STEM”
- Refuerzo de las STEM mediante su uso transversal
• Necesidad de un enfoque más global sobre las competencias
- Atención a las soft skills
• Implicaciones metodológicas
- ¿No es hora de ir derribando tabiques en las escuelas?

5. 2. Desafíos de IA + Filosofía en
educación
La Inteligencia Artificial en la
educación: oportunidades y retos
para el desarrollo sostenible
UNESCO (Semana del
aprendizaje móvil, marzo, 2019)

6. 2. Desafíos de IA + Filosofía
en educación
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 6
Desafíos
y
repercusiones
políticas
de
la
IA
en
educación
Desarrollar una visión integral de las políticas públicas en materia de IA al
servicio del desarrollo sostenible
Garantizar la utilización equitativa e inclusiva de la IA en la educación
Preparar a los docentes para una educación dirigida por la IA
Desarrollar sistemas de datos inclusivos y de calidad
Reforzar las investigaciones sobre la IA en la educación
Tomar en consideración las cuestiones éticas y de transparencia en la recopilación, la
utilización y la difusión de los datos

7. 2. Desafíos de IA + Filosofía
en educación
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 7
Desafíos
y
repercusiones
políticas
de
la
IA
en
educación
Desarrollar una visión integral de las políticas públicas en materia de IA al
servicio del desarrollo sostenible
Garantizar la utilización equitativa e inclusiva de la IA en la educación
Preparar a los docentes para una educación dirigida por la IA
Desarrollar sistemas de datos inclusivos y de calidad
Reforzar las investigaciones sobre la IA en la educación
Tomar en consideración las cuestiones éticas y de transparencia en la recopilación, la
utilización y la difusión de los datos
“Para abordar los problemas éticos, es esencial consultar a
expertos y formar equipos para crear anteproyectos y hojas de
ruta ante la incertidumbre del desarrollo de la IA en el futuro
cercano”
“Algunos de estos países también están preocupados por las
consecuencias éticas de la IA en la educación. Por lo tanto, se
están introduciendo nuevas regulaciones para asegurar el uso de
la inteligencia artificial por parte de las empresas privadas en
términos de uso de datos, privacidad y la transparencia de las
formas en que se diseñan los algoritmos”

8. 2. Desafíos de IA + Filosofía
en educación
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 8
Desafíos
y
repercusiones
políticas
de
la
IA
en
educación
Desarrollar una visión integral de las políticas públicas en materia de IA al
servicio del desarrollo sostenible
Garantizar la utilización equitativa e inclusiva de la IA en la educación
Preparar a los docentes para una educación dirigida por la IA
Desarrollar sistemas de datos inclusivos y de calidad
Reforzar las investigaciones sobre la IA en la educación
Tomar en consideración las cuestiones éticas y de transparencia en la recopilación, la
utilización y la difusión de los datos
“Es esencial comenzar por definir internet como un derecho
humano y crear múltiples alianzas internacionales para construir
infraestructura en los sectores más pobres del mundo en
desarrollo”

9. 2. Desafíos de IA + Filosofía
en educación
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 9
Desafíos
y
repercusiones
políticas
de
la
IA
en
educación
Desarrollar una visión integral de las políticas públicas en materia de IA al
servicio del desarrollo sostenible
Garantizar la utilización equitativa e inclusiva de la IA en la educación
Preparar a los docentes para una educación dirigida por la IA
Desarrollar sistemas de datos inclusivos y de calidad
Reforzar las investigaciones sobre la IA en la educación
Tomar en consideración las cuestiones éticas y de transparencia en la recopilación, la
utilización y la difusión de los datos
“Los docentes y los equipos directivos deben tener suficiente autonomía
para administrar sus respectivas aulas y centros, basándose en la idea de
que están más familiarizados con las necesidades de sus estudiantes”
“Afirmar que la IA puede reemplazar a los docentes es estar mal informado”
Una perspectiva crítica sobre las formas en que las tecnologías digitales y de IA
afectan a las vidas humanas y a los nuevos marcos de pensamiento
computacional y habilidades digitales puede incrementar las capacidades de los
estudiantes para comprender el poder, los peligros y las posibilidades de la IA.
Permitir que los maestros se aprovechen de que la inteligencia artificial asuma
tareas repetitivas para incorporar más capacidades humanas para las que no
tenían tiempo antes: mentoría, apoyo emocional, habilidades interpersonales, etc.
Ayudar a los estudiantes a adquirir aquellas habilidades y competencias que
probablemente no serán reemplazadas por máquinas

10. 2. Desafíos de IA + Filosofía
en educación
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 10
Desafíos
y
repercusiones
políticas
de
la
IA
en
educación
Desarrollar una visión integral de las políticas públicas en materia de IA al
servicio del desarrollo sostenible
Garantizar la utilización equitativa e inclusiva de la IA en la educación
Preparar a los docentes para una educación dirigida por la IA
Desarrollar sistemas de datos inclusivos y de calidad
Reforzar las investigaciones sobre la IA en la educación
Tomar en consideración las cuestiones éticas y de transparencia en la recopilación, la
utilización y la difusión de los datos
Potencial de Learning Analytics: patrones de aprendizaje,
atención a la diversidad, aprendizaje personalizado, nuevas
“filosofías” del aprendizaje…

11. 2. Desafíos de IA + Filosofía
en educación
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 11
Desafíos
y
repercusiones
políticas
de
la
IA
en
educación
Desarrollar una visión integral de las políticas públicas en materia de IA al
servicio del desarrollo sostenible
Garantizar la utilización equitativa e inclusiva de la IA en la educación
Preparar a los docentes para una educación dirigida por la IA
Desarrollar sistemas de datos inclusivos y de calidad
Reforzar las investigaciones sobre la IA en la educación
Tomar en consideración las cuestiones éticas y de transparencia en la recopilación, la
utilización y la difusión de los datos
“La IA puede brillar y hablar por sí misma, pero a menos que esté
bien integrada en las prácticas cotidianas de los docentes, nunca
se verán efectos educativos”

12. 2. Desafíos de IA + Filosofía
en educación
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 12
Desafíos
y
repercusiones
políticas
de
la
IA
en
educación
Desarrollar una visión integral de las políticas públicas en materia de IA al
servicio del desarrollo sostenible
Garantizar la utilización equitativa e inclusiva de la IA en la educación
Preparar a los docentes para una educación dirigida por la IA
Desarrollar sistemas de datos inclusivos y de calidad
Reforzar las investigaciones sobre la IA en la educación
Tomar en consideración las cuestiones éticas y de transparencia en la recopilación, la
utilización y la difusión de los datos
“Si bien la IA tiene muchas aplicaciones positivas, también hay
preocupaciones sociales y éticas que deben abordarse. La
mayoría de las personas al menos ha leído algo sobre sistemas
de inteligencia artificial que discriminan injustamente, que toman
decisiones que repercuten en nuestra vida de manera no
transparente, o que la IA está nos quitará el empleo y es capaz
de arrebatar el control a los humanos”
Riesgos:
• Uso de algoritmos de machine learning para toma de decisiones y
orientación a estudiantes con técnicas de data mining (consejo
“automatizado” vs. recomendación “individualizada” ¿Es fiable?)
• Concentración de datos personales (ciberataques y monopolización del
control de datos)

13. 3. Computational thinking &
Machine Ethics
I’m sorry, Dave.
I’m afraid I can’t do that
HAL 9000
2001: A Space Odyssey

14. Computational Thinking
& Machine Ethics
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 14
• “Computational thinking is a way that humans, not
computers, think” (Wing, 2006). CT está por todas partes
• CT no es solo “codificación”. Posee un uso más amplio
• CT debería utilizarse como estrategia metodológica para
plantear y resolver problemas tanto en Ciencias como en
Humanidades y CCSS
• Ejemplo: CT para explicar y resolver dilemas éticos en
“máquinas morales”

15. Computational Thinking
& Machine Ethics
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 15
• Ética computacional ≠ Ética de las máquinas
- Ética computacional: comportamiento humano e implicaciones
morales del uso de máquinas por humanos
- Ética de máquinas: conducta moral de los artefactos dotados de
inteligencia artificial

16. Computational Thinking
& Machine Ethics
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 16
ORIGEN DE LA ÉTICA DE MÁQUINAS
Isaac Asimov: “Runaround” (1942)
LAS TRES LEYES DE ASIMOV (Código moral)
1. Un robot no hará daño a un ser humano o, por inacción, permitirá que
un ser humano sufra daño.
2. Un robot debe cumplir las órdenes dadas por los seres humanos, a
excepción de aquellas que entrasen en conflicto con la primera ley.
3. Un robot debe proteger su propia existencia en la medida en que esta
protección no entre en conflicto con la primera o con la segunda ley.

17. Computational Thinking
& Machine Ethics
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 17
EL “BLOQUEO DE ASIMOV” O EL ASNO DE BURIDÁN
EL PROBLEMA DEL “ZOMBIE ÉTICO”
• El cumplimiento de la primera ley de Asimov puede dejar paralizado al
robot y convertirlo en un “zombie ético” (Winffield, 2014)

18. Computational Thinking
& Machine Ethics
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 18
¿Podemos hacer resolver a una máquina
lo que no hemos resuelto los humanos?
• El dilema del tranvía (Philippa Foot, 1978), en The Good Place…
¿Por qué no podemos resolverlo?

19. Computational Thinking
& Machine Ethics
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 19
En conclusión…
• La ética de máquinas tiene que ver con el comportamiento moral de
artefactos “mínimamente éticos” dotados de inteligencia artificial
Es ideal para la discusión ética
• Aplicaremos CT a la propia Ética, pero… ¿Qué enfoque moral?
- Enfoques Top-down (ética kantiana, utilitarismo)
- Enfoques Bottom-up (Turing, Piaget, Kohlberg)
- Enfoques Híbridos

20. CT & Machine Ethics
El coche autónomo
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 20
• Los vehículos autónomos serán pronto una realidad cotidiana en
nuestras vidas.
• Las principales dificultades a superar son probablemente más de
índole ética, sociológica y jurídica que técnica.
• ¿Qué enfoque moral? Utilitarismo, egoísmo, máximo beneficio…
• Los vehículos autónomos proporcionan escenarios visuales
causa/consecuencia que favorecen el análisis y discusión ética.
• Constituyen un campo de experimentación ideal para CT en Ética.

21. 4. Ejemplo: Computational
Thinking en Valores Éticos
Tienes un hijo. Este te enseña su
colección de mariposas y un
frasco con el veneno para
matarlas. ¿Qué haces?
Rick Deckard
Blade Runner

22. CT en Valores Éticos
Modelos de toma de decisiones
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 22
• Los modelos de programación de AI existentes (BDI, LIDA, GWT,
Clarion) son inviables (demasiado complicados para el caso)
• Otros modelos de análisis no tienen “estructura computacional”
• Nuestro marco: enfoque top-down y un conjunto finito de reglas
A. Enfoques consecuencialistas
A1. Utilitarismo: “la mejor acción es la que proporciona el mayor beneficio o causa el menor daño posible”
A2. Egoísmo (auto-protección): “la mejor acción es la que me protege a mí y a los que están conmigo”
A3. Ética basada en el beneficio: “la mejor acción es la que produce el menor coste económico”
B. Enfoques no consecuencialistas approaches
B1. Deontología: “la mejor acción es la que protege a quienes actúan conforme a las normas”
B2. No determinismo: “El comportamiento es el resultado del azar”

23. Acción formativa
Planificación didáctica
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 23
Título Introducción a las máquinas morales y la toma de decisiones en clase de Valores Éticos (5 sesiones)
Presenta-
ción
El objetivo de esta actividad consiste en formar a los estudiantes de E.S.O. en pensamiento computacional
aplicado a a Ética. Para ello, la planificación de la lección se centra en las implicaciones éticas de la programación
de vehículos autónomos para que estos ejecuten determinados comportamientos con consecuencias morales en
situaciones en las que una colisión es inevitable y se producirán daños personales y materiales con toda
seguridad. Los estudiantes deben aprender a analizar, representar, estudiar posibles soluciones (outcomes) y
reflexionar sobre los comportamientos éticos de las máquinas, así como “programar” dichos comportamientos
como respuesta a determinados estímulos (inputs), siguiendo determinados principios morales.
Edad 14-16 años Nivel Medio
Compe-
tencias
pensamiento computacional, toma de decisiones,
razonamiento lógico, discusión ética, dilemas morales
Finalidad
de la
actividad
Esta lección está orientad al desarrollo de competencias relacionadas con el pensamiento computacional, el
razonamiento lógico y la toma de decisiones basada en algoritmos. Para ello, se analizarán y estudiarán diferentes
enfoques éticos y se formalizarán sus principios morales esenciales al objeto de programar, teóricamente,
máquinas inteligentes para que tomen decisiones morales de manera autónoma. Además de estas competencias
“computacionales”, los estudiantes adquirirán consciencia de la relevancia de los valores y de los enfoques éticos,
no solo como principios que sirven como guía de las decisiones cotidianas, sino también para discutir y tratar de
alcanzar un consenso en relación con determinados principios morales “socialmente aceptados” para decidir
cómo deberían comportarse unas máquinas “inteligentes”, tanto en las interacciones con humanos como con
otras máquinas y el entorno.
Recursos
MIT Media Lab: Moral Machine. http://moralmachine.mit.edu.
ClaimMS: AccidentSketch.com. http://draw.accidentsketch.com.
AV-DMEC Framework (véase plan de actividades).
Matthieu Cherubini: Ethical autonomous vehicles. https://vimeo.com/85939744.
Kahoot: http://kahoot.it.

24. Acción formativa
Sesión 1. Intro y Moral Machine Platform
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 24
Actividad 1
Lectura y discusión, en grupos:
“Comprarías un coche que elegiría matarte para salvar otras vidas?”. El País, 24 junio 2016
Actividad 2
Qué debería hacer el vehículo? Decide y compara tu decisión con tus compañeros
Fuente: http://moralmachine.mit.edu

25. Acción formativa
Sesión 2. Análisis de escenarios predefinidos
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 25
Actividad 1
Trabajo en grupo: Análisis de escenarios predefinidos (ver figura), de acuerdo con los enfoques
éticos estudiados en las unidades anteriores
Actividad 2
Cada grupo explica su escenario a la clase, así como el enfoque ético que más se corresponde
con la “mejor” solución. ¿Está de acuerdo el grupo?

26. Acción formativa
Sesiones 3-4. Escenarios definidos por los estudiantes
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 26
Actividad 1
Trabajo en grupo:
- Desarrollo de su propio escenario, utilizando la “Matriz con elementos de ejemplo para el
Desarrollo de escenarios en accidentes con vehículos autónomos” (ver tabla) y aplicación del
Autonomous Vehicle - Decision Making in Ethics Classroom (AV-DMEC) (ver imagen)
- Diseño del escenario con AccidentSketch.com
- Descripción de la escena con proposiciones lógicas, utilizando conectores lógicos
Actividad 2
Analizar las posibles soluciones, de acuerdo con los diferentes enfoques éticos. ¿Cuál es el
mejor enfoque ético, en función de la “solución más deseable”? ¿Por qué?
Agentes Coche autónomo, Bus, Bus
escolar, Moto, Cilcista, Peatón,
Obstáculo, Semáforo, [...]
Propiedades Luz roja/verde, Niño, Bebé,
Mujer embarazada, Anciano/a,
Sentido contrario, Mismo
sentido, Más rápido/Más lento,
Con/Sin casco, Cruza
correcta/incorrectamente,
Impacto, Detención, Atropello
[...]
Conectores Y, O, SI, ENTONCES, O BIEN
Enfoques
éticos
Utilitarismo, Egoísmo, Ética
basada en el beneficio,
Deontología, No determinismo

27. Acción formativa
Sesión 5. Discusión y feedback
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 27
Actividad 1
Discusión:
- ¿Existe algún enfoque ético que es, en términos generals, preferible?
- ¿Existen escenarios en los que sea imposible determinar una salida que sea “la mejor”?
- ¿Existen escenarios en los que ninguno de los enfoques éticos proporcione una solución
razonable?
Introducción a procesos complejos de CT y procesos éticos de toma de decisiones
- Matthieu Cherubini: Ethical autonomous vehicles (https://vimeo.com/85939744)
Actividad 2
Evaluación:
Evaluación mediante gamificación (Kahoot.it!)

28. En conclusión…
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 28
• Los modelos actuales utilizados para la programación de moral machines son
todavía muy complicados para su uso en clase de Valores Éticos
• Dichos modelos explican “cómo debería actuar la máquina”. Esta experiencia está
destinada a indagar sobre “qué” y “por qué” la máquina debe actuar de cierta
forma
• Las plataformas actuales (como Moral Machines, del MIT) analizan la actitud de
los usuarios hacia dichas máquinas. No contemplan enfoques éticos a priori
• Esta propuesta permita a los estudiantes definir un conjunto potencialmente
infinito de escenarios y analizarlos mediante un marco ético para la toma de
decisiones
• Los estudiantes practican pensamiento computacional, procesos de toma de
decisiones, análisis filosófico de conductas morales, trabajo en equipo,
competencias orales, hablilidades de debate, negociación, etc.

29. En conclusión…
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 29
• La educación obligatoria debería abordar las competencias
STEM desde todas las materias, con un enfoque interdisciplinar
• El pensamiento computacional no es ”cosa de informaticos”,
como las decisiones éticas no son “cosa de filósofos”
• Esta acción formativa permite a los estudiantes experimentar las
consecuencias de las decisiones éticas, al tiempo que ponen en
práctica el razonamiento lógico, resolución de dilemas morales,
etc.
• Desarrollos futuros de esta experiencia deben avanzar hacia la
implicación de docentes de Informática: programación de
escenarios en Scratch, Arduino, etc.

30. 5. Conclusiones:
Otros desafíos filosóficos de la IA
Los macrodatos están observándote
Quienes poseen los datos poseen el futuro
Yuval Noah Harari
21 lecciones para el siglo XXI

31. Otros desafíos filosóficos de la IA
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 31
• Computing machinery and Intelligence (Alan Turing, 1950)
- Evolución de modelos conductistas a cognitivistas de la IA
- Más allá de la lógica de primer orden
El “test de Turing”

32. Otros desafíos filosóficos de la IA
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 32
• El principio de responsabilidad. Ética para la civilización
tecnológica (Hans Jonas, 1979)

33. Otros desafíos filosóficos de la IA
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 33
• El ”transhumanismo”: Humano, demasiado humano o el “mejoramiento”
de la especie humana (de la biología a la biotecnología, y viceversa)

34. Otros desafíos filosóficos de la IA
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 34
• Del ”mal radical” y el “mal banal”
Hannah Arendt y el juicio a Aldolf Eichmann (1961)
“yo solo hacía mi trabajo”

35. Otros desafíos filosóficos de la IA
Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 35
• “La tecnología nos permitirá hackear seres humanos”
Harari, 2018: 21 lecciones para el siglo XXI

36. Etica para robots y otros desafíos filosóficos de la Inteligencia Artificial en el ámbito educativo 36
¡Gracias!

37. Ética para robots y otros desafíos filosóficos de la
Inteligencia Artificial en el ámbito educativo
Antonio Miguel Seoane Pardo
IES Venancio Blanco (Salamanca) – Profesor de Filosofía
Universidad de Salamanca – Facultad de Educación
Grupo de Investigación en InterAcción y eLearning (GRIAL) – Instituto Univ. de CC de la Educación (IUCE)
aseoane@usal.es
Seminario eMadrid sobre «Machines Are Learning, So Are Students:
Inteligencia Artificial en Colegios e Institutos»