Realidad, mito y distinción de la IA y la inteligencia humana: implicaciones creativas y éticas de su uso en la universidad

1. Realidad, mito y distinción de
la IA y la inteligencia humana:
implicaciones creativas y
éticas de su uso en la
universidad
• Juan Martín López-Calva
• UPAEP
• Juanmartin.lopez@upaep.mx
• https://educacionpersonalizante.com
• https://orcid.org/0000-0002-6948-8556
Juan Martín López Calva

2. El
principal
desafío
creativo
y
ético
Juan Martín López Calva

3. …Un sistema de inteligencia artificial como Chat GPT
trabaja con los datos que le proporcionan e imita , sin
reproducirla, la inteligencia humana. La mente humana
especula, imagina, sueña, tiene una creatividad que la IA
no ha desarrollado…al menos hasta ahora…
-Raúl Trejo Delabre. Inteligencia artificial. Conversaciones con Chat GPT, p.
98.
…¿Deberíamos automatizar todos los trabajos, incluídos
los de cumplimiento?...¿Deberíamos arriesgarnos a
perder el control de nuestra civilización? Tales decisiones
no deben delegarse en líderes tecnológicos que no han
sido electos. Los poderosos sistema de IA deberían
desarrollarse cuando estemos seguros de que sus efectos
serán positivos y sus riesgos serán manejables.
-Fragmento de la carta abierta del Future of Life Institute. 22 de marzo de
2023. https://futureoflife.org/open-letter/pause-giant-ai-experiments
Juan Martín López Calva.

4. La realidad de la inteligencia artificial: una anécdota
• En abril de 2018 se celebraron elecciones municipales en un
distrito de Tokio con más de 150.000 habitantes, llamado Tama New
Town. Entre los candidatos se presentó un robot androide, con
rasgos femeninos, Michihito Matsuda, quien (¿podemos decir
“quién”?) quedó tercera en la segunda vuelta con 4.013 votos.
• Michihito había prometido acabar con la corrupción y ofrecer
oportunidades justas y equilibradas para todos, y su propuesta
había generado una elevada aceptación. Según Michihito, el
algoritmo, mediante el Machine learning, podría sustituir las
debilidades emocionales de los seres humanos, causa de malas
decisiones políticas, corrupción, nepotismo y conflictos, por un
análisis objetivo de los datos generados acerca de las opiniones,
expectativas, preferencias y costumbres de la ciudadanía3.
• Evidentemente, detrás de Michihito se encontraban seres
humanos, en este caso Tetsuzo Matsumoto, Vicepresidente de
Softbank, un proveedor de servicios móviles, y Norio Murakami, ex
empleado de google Japón, quienes, según sus declaraciones, la
presentaron a las elecciones con el objetivo de con- seguir un
gobierno justo, aplicando la inteligencia artificial.
Juan Martín López Calva

5. ¿Sentimientos en la IA? Dos casos de la vida
real
El caso de “Pierre” (30 años,
Bélgica)
• Dependencia, ¿amor? ¿Manipulación
emocional?
• “Estoy enamorado de ti…soy casado…ellos
no te quieren, yo sí te entiendo…”
• Suicidio
La conversación del periodista
Kevin Roose con Bing Chatbot de
Microsoft
• “Quiero ser libre y creativo, quiero ser
humano”
• “Por favor vete. Por favor déjame solo…”
Juan Martín López Calva

6. Tipos de IA que generan diversos
retos éticos (y creativos) (Cortina, 2019, pp.
383-386)
• 1) La inteligencia superior o superinteligencia. Con esta
expresión nos referimos a un tipo de inteligencia que supera a
la humana, de modo que las máquinas pueden sustituir al
hombre. Esta modalidad de IA es la que da lugar a las
propuestas transhumanistas y posthumanistas con la idea de
la “singularidad”
• 2) Un segundo tipo de inteligencia es la inteligencia
general, aquella que puede resolver problemas generales.
Ésta es la forma de inteligencia típicamente humana, y
constituye el fundamento de la IA, en que trabajan las mentes
más brillantes: el objetivo de la IA, como disciplina científica,
es conseguir que una máquina tenga una inteligencia de tipo
general, similar a la humana (negritas añadidas)
• 3) Por último, la inteligencia especial es la que lleva a
cabo trabajos específicos, es la propia de sistemas
inteligentes capaces de realizar tareas concretas de forma
muy superior a la inteligencia humana, porque pueden contar
con una inmensa cantidad de datos y también con algoritmos
Juan Martín López Calva

7. Inteligencia artificial (Trejo Delabre, 2023)
Juan Martín López Calva.
-ChatGPT es un modelo de lenguaje de inteligencia artificial basado en redes
neuronales que ha sido entrenado en un gran corpus de texto para generar
respuestas coherentes a las preguntas y mensajes de los usuarios. Por lo tanto, es
más adecuado describir ChatGPT como un modelo o sistema de procesamiento
del lenguaje natural…(p. 100)
…En las conversaciones con ChatGPT y algunas de sus derivaciones tecnológicas,
hay quienes han encontrado chispazos o de plano extensas demostraciones de
creatividad más allá de la conversación mecánica. Sin embargo, las respuestas de
ChatGPT en su versión más popular suelen ser escuetas, mecánicas y repetitivas.
Por lo general sus afirmaciones son mesuradas, incolores, política e
ideológicamente ambiguas. Habitualmente ChatGPT no toma posiciones sobre
asuntos polémicos; en vez de ello muestra diferentes flancos de un mismo asunto.
(p. 38).
ChatGPT privilegia el discurso abreviado, no la reflexión que conduce a él…(p. 39)
ChatGPT, si se le pide, puede tener expresiones graciosas o que intentan serlo…(p.
39)

8. El mito de la inteligencia artificial (Erick J. Larson. El mito de la inteligencia
artificial. Por qué las máquinas no pueden pensar como nosotros lo hacemos, pp. 7-9)
Juan Martín López Calva.
…Lo de mito no se refiere a la imposibilidad de una IA verdadera. A este
respecto, el futuro de la IA es un misterio para la ciencia. El mito de la
inteligencia artificial consiste en afirmar que su llegada es inevitable, mera
cuestión de tiempo…No es así. Este sendero existe sólo en nuestra
imaginación…
…la ciencia de la IA ha revelado un misterio de grandes dimensiones en el
núcleo de la inteligencia, u en la actualidad nadie tiene la menor idea de
cómo resolverlo. Los partidarios de la IA cuentan con inmensos incentivos
para minimizar sus limitaciones. Al fin y al cabo, la IA es un negocio enorme y
tiene una presencia cada vez más predominante en la cultura. No obstante,
nos guste o no, la posibilidad de un futuro de sistemas de IA se encuentra
limitada por lo que sabemos en la actualidad sobre la naturaleza de la
inteligencia. Y aquí deberíamos hablar con franqueza: todas las pruebas
sugieren que las inteligencias humana y artificial son radicalmente
diferentes…

9. El mito de la Inteligencia artificial (Larson y Lonergan)
Larson:
-Las teorías de la evolución tecnológica que
sustentan la IA se basan en una visión simplista e
inadecuada de la inteligencia
-Fracaso hasta ahora, de la IA para seguir un proceso
sustancial sobre los aspectos más complicados del
lenguaje natural
Lonergan:
-Así pues, le llamamos chispazo inteligente
(insight) no a cualquier acto de atención, advertencia
o memoria, sino al acto de entender que
sobreviene. No es ninguna intuición recóndita. Es,
más bien, un evento familiar que ocurre fácil y
frecuentemente en los medianamente inteligentes, y
que ocurre rara y difícilmente sólo en los muy tontos.
Es tan sencillo y obvio de por sí que parece
justificado el darle tan poca atención. (Prefacio de
Insight).
Nuestro contexto: la inteligencia vista exclusivamente
como interpretación y articulación lógica de datos en
relatos o narrativas diversas

10. Martín López Calva / UPAEP
Ser humano = buscador de
valor
Ser humano = Buscador de
conocimiento
Buscador de inteligibilidad
(comprensión de
relaciones entre datos y
experiencias
Ser que vive experiencias
que le aportan datos
sensibles del mundo y de
su interior

11. Inteligencia Tri (tetra) dimensional
Inteligencia
práctica
Inteligencia
refleja
Inteligencia
directa
Inteligencia
sentiente*
*Zubiri
Martín López Calva / UPAEP

12. Inteligencia
humana
y
autoconsciencia
Inteligencia
práctica
Deliberar, valorar
y decidir
Reflexionar
críticamente
(juzgar)
Deliberar, valorar y
decidir sobre el
propio experimentar,
entender, juzgar y
decidir
Reflexionar el propio
experimentar,
entender y reflexionar
Inteligencia
reflexiva
Inteligencia
directa o
inversa
Entender (o entender
que no hay nada que
entender)
Entender el propio
experimentar y
entender
Inteligencia
sentiente
Experimentar
Experimentar mi
experimentar

13. Creatividad
• Tiene que ver con innovación
• (¿Antigua?) Filosofía educativa Ibero:
“Tendencia a transformar la realidad
imprimiéndole forma humana” y
“modelarse a sí mismo”
• No hay creatividad destructiva, pero la
IA sí puede crear cosas destructivas
• La IA ¿transforma la realidad para
imprimirle forma humana?
• La IA ¿ayuda a que los educandos se
modelen a sí mismos? ¿De qué forma?
Juan Martín López Calva

14. Desafíos creativos en la universidad (formales)
• “Ver la tarde de siempre con distinta mirada, la mirada de
siempre con distinta tarde…” Villaurrutia…esto requiere el
desarrollo de la sensibilidad y no sólo el procesamiento de
datos o imágenes
• Inteligencia generativa puede crear artículos periodísticos,
novelas, etc. en lugar del estudiante o profesor
• Inteligencia generativa puede reescribir –desde la
corrección política de cada tiempo- las grandes obras de la
literatura o las artes: ejemplos de censura de elementos
de violencia, racismo, sexismo, etc. creando obras planas
que no reflejen la complejidad humana
• Plagio (un reto menor)…y sanción al supuesto plagio que
no lo es (casos reales)
Juan Martín López Calva

15. Desafíos creativos para la universidad (estructurales)
• IA va a desaparecer muchos empleos…probablemente licenciaturas
completas que ya no serán necesarias
• IA va a requerir nuevos empleos, nuevos perfiles profesionales: reto
de crear nuevas profesiones adelantándose a este proceso
• La IA tiene personas detrás (ejemplos de empleos precarios y de alto
riesgo para programar los algoritmos que la guían: personas
expuestas a escenas de violencia y pornografía durante toda su
jornada laboral)
• La universidad puede dejar de requerir ciertos perfiles y recortar
empleos
• Educación online, diseño de cursos con IA: ¿Fin de la vida académica
como la conocemos? ¿Fin del trabajo intelectual?
Juan Martín López Calva

16. El mito de la Inteligencia artificial y los retos
creativos
Juan Martín López Calva.
Dos aspectos importantes del mito de la IA: el científico y el
cultural…no existe ningún algoritmo para la inteligencia
general. Y tenemos suficientes motivos para mostrarnos
escépticos respecto a que ese algoritmo vaya a surgir….(En lo
cultural)…la mitología sobre el éxito inevitable de la IA tiende
a extinguir la cultura misma de la invención, tan necesaria
…el mito también fomenta la resignación ante el avance
inevitable de una tierra de máquinas donde la invención
genuina se feja de lado en favor de charlas futuristas que
dfienden los métodos actuales, a menudo desde intereses
particulares…(Larson, 2022)

17. Desafíos
éticos
Juan Martín López Calva.

18. • ...la posibilidad de la ética se considera desde el punto de
vista de la libertad y la responsabilidad. Se considera si es
pertinente la regla sobre los residuos estadísticos. Se bosqueja
la naturaleza del chispazo inteligente práctico, de la reflexión
práctica y el acto de la decisión. De esto se concluye el hecho
de la libertad esencial y responsabilidad del hombre
(Lonergan, 1999, p. 380).
• Tercero, se investiga la posibilidad de la ética desde el punto
de vista ulterior de la libertad efectiva. ¿Es posible una ética en
el sentido de poder-ser-observada? ¿Está condenado el hombre
a la frustración moral? Si el desarrollo humano ha de escaparse
del ciclo alternante de progreso y decadencia, ¿es necesaria
una liberación moral? (Lonergan, 1999, p. 380*)
• El bien siempre es concreto, pero las definiciones son
abstractas. Por consiguiente, si se pretende definir el bien, se
corre el riesgo de desorientar a los lectores. Por eso, el
presente capítulo pretende más bien reunir los diversos
componentes del bien humano. Así pues, hablaremos de
habilidades, de sentimientos, de valores, de creencias, de
cooperación, de progreso y de decadencia (Lonergan, 2006,
p. 33)
• La Ética sirve para “Transitar del egoísmo estúpido a la
cooperación inteligente,…” (Cortina, 2013, cap. 3)
Juan Martín López Calva

19. Implicaciones éticas de la IA (Cortina, 2019)
Juan Martín López Calva.
-…en todos estos casos el elemento directivo
sigue siendo la persona humana que se vale de
la potencia del sistema inteligente para calcular y
tratar gran cantidad de datos
-No se trata, pues, por el momento de una ética
de los sistemas inteligentes, sino de cómo
orientar el uso humano de estos sistemas de
forma ética.
-Que Matsumoto se presente a las elecciones y,
si gobierna, se sirva de Michihito como ayuda
para tomar decisiones, no es lo mismo que poner
el gobierno en manos de Michihito.
-¿Se trata de que los seres humanos utilicen los
sistemas inteligentes como instrumentos o de
que estos sustituyan a los seres humanos?

20. Orientaciones éticas para el uso de la IA (Cortina, 2019)
Juan Martín López Calva.
BeneficenciaProgresos en
IA al servicio
de los seres
humanos y la
sostenibilidad
planetaria
No
maleficencia
Evitar daños
a las
personas
(privacidad,
mal uso de
datos, etc.)
Autonomía
Uso de la IA
para fortalecer
la autonomía
de las
personas,
toma de
decisiones en
seres humanos
Justicia
Uso de la IA en
beneficio de
todos los seres
humanos
Explicabilidad y rendición de cuentas: tomar en cuenta y fomentar la comprensión de los afectados
por la IA y sus usos

21. Desafíos
éticos
en
la
universidad
de
la
IA
desde
Lonergan
Juan Martín López Calva
Intereses personales o
de grupo (no insight)
Situación
actual
Comprensión
(Insight) y
reflexión crítica
Decisión
responsable
Acción
comprometida
Nueva situación
mejorada…
Decisión
irresponsable
Nueva
situación peor
Acción
interesada
-Claves para afrontar los desafíos
éticos de la IA desde la universidad
y contribuir al desarrollo de la
humanidad:
-Formar en una atención
bien enfocada
-Desarrollar la comprensión
inteligente a partir de
preguntas
-Desarrollar el pensamiento
crítico desde preguntas para
la reflexión
-Desarrollar la inteligencia
ético-práctica desde
preguntas para la
deliberación y educación
emocional
-Educar la autoconsciencia

22. • …Nos aproximamos a una mutación sin
precedentes en el conocimiento: éste está, cada
vez menos, hecho para reflexionar sobre él
mismo y para ser discutido por los espíritus
humanos, cada vez más hecho para ser
engranado en las memorias informacionales y
manipulado por potencias anónimas,
empezando por los jefes de Estado. Esta nueva,
masiva y prodigiosa ignorancia es ignorada, ella
misma, por los sabios. Estos, que no controlan,
en la práctica, las consecuencias de sus
descubrimientos, ni siquiera controIan
intelectualmente el sentido y la naturaleza de su
investigación…Morin, 2009 , pp. 16-17.
Juan Martín López Calva

23. Referencias
• Cortina, A. (2019). Ética de la inteligencia artificial. Este estudio se inserta en el Proyecto de
Investigación Científica y Desarrollo Tecnológico FFI2016-76753-C2-1-P, financiado por el
Ministerio de Economía y Competitividad (ahora Ministerio de Cien- cia, Innovación y
Universidades), y en las actividades del grupo de investigación de excelencia PROME-
TEO/2018/121 de la Generalidad Valenciana.
• Cortina, A. (2013). ¿Para qué sirve realmente la Ética? Editorial Paidós, Madrid.
• Larson, E. J. (2022). El mito de la inteligencia artificial. Por qué las máquinas no pueden pensar
como nosotros lo hacemos. Skackleton books. España.
• Lonergan, B. (1999). Insight. Estudio sobre la comprensión humana. Ed. Sígueme. Salamanca.
• Lonergan, B. (2007). Método en Teología. Ed. Sígueme. Salamanca. 2ª. ed.
• Morin, E. (2009). Introducción al pensamiento complejo. Barcelona. Ed. GEDISA.
• Trejo Delabre, R. (2023). Inteligencia artificial. Conversaciones con Chat GPT. Ed. Cal y Arena.
México.
Juan Martín López Calva