Uso de Ia Inteligencia Artificial (IA)

1. Periodismo a pesar de todo
MARZO DE 2023. 10€
#39
#39
Inteligencia
Artificial:
riesgos,
verdades
y
mentiras
Nos fascina y va a cambiar nuestras
vidas. Pero la IA esconde trampas.
Necesita controles éticos, regulación
y mucha transparencia
Inteligencia
ArtificialRiesgos,verdades
ymentiras
8
413042
476153
00039

2. IA:riesgos,verdadesymentiras
Quizá no sea aún tan lista, pero nos fascina y va a cambiar
nuestras vidas. La inteligencia artificial ya es una realidad y
tenemos que poner límites a sus riesgos para poder disfrutar sus
ventajas. Una vez más, el brillo de la tecnología esconde trampas
y necesita controles éticos, regulación y transparencia.
DIRECTOR
Ignacio Escolar
@iescolar
DIRECTORES ADJUNTOS
Neus Tomàs
@neustomas
Ander Oliden
@anderinaki
José Precedo
@joseprecedo
EDITOR DE LA REVISTA
Gumersindo Lafuente
@sindolafuente
DISEÑO
David Velasco
@DVeIasco
Susana Millán
@Walkisu
EDICIÓN
Isabel Navarro
@isabelnavarr0
ILUSTRACIÓN DE PORTADA
Patricia Bolinches
EDITA Diario de Prensa
Digital, S.L.
Gran Vía, 46. 28013 Madrid
Tel. 91 548 96 67
DL: M-4188-2013
ISSN: 2255-3932
FOTOMECÁNICA Esther
García
IMPRIME Henneo Print
DISTRIBUYE SGEL, S.A.
www.eldiario.es
Periodismo a pesar de todo
MARZO DE 2023. 10€
#39
Nos fascina y va a cambiar nuestras
vidas. Pero la IA esconde trampas.
Necesita controles éticos, regulación
y mucha transparencia
Inteligencia
ArtificialRiesgos,verdades
ymentiras
8
413042
476153
00039
Ignacio Escolar
El miedo a
Frankenstein
PÁGINA 5
TRIBUNAS
Alejandro
Gándara
Inteligencia sin
instrucciones de
uso
PÁGINA 26
Mar Abad
Ay los amoríos en
tiempos de AI
PÁGINA 82
ENTREVISTA
Timnit Gebru
La ética en la
inteligencia
artificial
Por María
Sánchez Díez
PÁGINA 16
HUMOR
Manel
Fontdevila
PÁGINA 36
Bernardo
Vergara
PÁGINA 74
ILUSTRACIÓN
La portada
y todas las
ilustraciones han
sido realizadas
por Patricia
Bolinches
explotando las
herramientas de
la IA.
PÁGINA 78
3
La revista de elDiario.es
La loca idea de una
máquina que piense
Álvaro Ibáñez PÁGINA 6
El desafío cuántico
de la conciencia
Victor Etxebarria Ecenarro PÁGINA 22
La gran batalla de la
(necesaria) regulación
Jose-Miguel Bello y Villariño PÁGINA 28
La llave del poder mundial
José Enrique de Ayala PÁGINA 34
Inteligencia artificial vs
inteligencia humana
Verónica Bolón-Canedo PÁGINA 38
La nueva era del trabajo
Carlos del Castillo PÁGINA 54
Un ordenador racista
decide tu futuro
María Sánchez Díez PÁGINA 58
Otro tipo de periodismo
Mauricio Cabrera PÁGINA 62
El hombre máquina
Liset Menéndez de la Prida PÁGINA 66
Pulpos, loros y sistemas
conversacionales
Elena Álvarez Mellado PÁGINA 70
Algoritmos de bata blanca
Esther Samper PÁGINA 42
Información, campo de
batalla y seguridad
Francisco Rubio Damián PÁGINA 46
¿Peligran los artistas?
Arturo Fuentes Calle PÁGINA 76
¿Qué o quién puede hacer
la escuela más inteligente?
Jordi Adell PÁGINA 50

3. Las pedagogos se preguntan si deberían
educar ‘con’ la ayuda de la inteligencia
artificial o ‘para’ la era de la IA. Sus
posibilidades como herramienta en
el aprendizaje y las evaluaciones son
múltiples, pero también sus riesgos
¿Qué está pasando en educación con ChatGPT y la in-
teligencia artificial? La ley de Amara, elaborada por el
investigador estadounidense Roy Carles Amara, afir-
ma que los seres humanos, a lo largo de la historia,
hemos tendido a sobrestimar el impacto de la tecnología a
corto plazo y a subestimarlo a largo plazo. Quizá el estado de
opinión creado en los últimos meses sobre un sistema ‘inte-
ligente’ de charla online, ChatGPT, sea un ejemplo de ello.
Quizá sirva para poner las tecnologías asociadas a la inteli-
gencia artificial, y su impacto, en el radar educativo.
ChatGPT es un chatbot, es decir, una aplicación informá-
tica capaz de mantener una conversación por escrito y en
lenguaje natural con los seres humanos o redactar textos a
petición de los usuarios. En las redes sociales y en medios de
comunicación hemos visto multitud de ejemplos de interac-
ciones humano-ChatGPT que nos han dejado pasmados. Se
le podía preguntar sobre cualquier cosa y sus respuestas eran
textos gramaticalmente correctos (en el idioma elegido por
el humano), bien construidos, fluidos de estilo y que parecían
una respuesta inteligente a la pregunta que se le hacía. ¡Las
máquinas pensantes ya están aquí!, se ha llegado a decir. La
prensa, por su parte, se ha encargado de magnificar el hecho
durante unos cuantos días y de convertirlo en poco menos
que en una amenaza global contra el sistema educativo: si los
estudiantes pueden usar una aplicación como ChatGPT para
redactar sus trabajos todo se va al garete. Pánico moral…
¿como con los primeros ferrocarriles?
Algunas instituciones educativas, sobreactuando un poco,
han prohibido su uso a los estudiantes… en sus campus. Al-
gunos docentes, un tanto desconcertados, han pedido con-
sejo a las autoridades académicas sobre cómo replantear las
tareas que realizan sus estudiantes para que no les ‘cuelen’
trabajos escritos por una IA. Las universidades han difundido
online recomendaciones para los profesores. En un artículo
de la Revista Española de Educación Médica se describe un
experimento en el que se le pasaban a ChatGPT las pregun-
tas del examen MIR 2022… ¡y aprobaba! Aunque un poco por
debajo de la media, eso sí.
Aprendizaje automático y profundo
Un problema con la IA es que poca gente conoce los entresi-
jos de su funcionamiento y tendemos a creer por su nombre
que es similiar a la inteligencia de los seres humanos, aunque
esté lejos de ser cierto. No existe una definición canónica de
la IA. Hay quienes defienden que basta con que la máquina
“muestre un comportamiento inteligente” para considerarla
como tal, mientras algunos de sus fundadores afirman que
su misión no es simular la inteligencia humana, sino solucio-
nar eficientemente los problemas para los que ha sido pro-
gramada. Quizá se exageró un poco llamándola ‘inteligencia’
y la definición razonable, siguiendo al JISC (Comité Conjunto
de Sistemas de Información del Reino Unido), sería más bien
un conjunto de “teorías y técnicas desarrolladas para permi-
tir que los sistemas informáticos realicen tareas que normal-
mente requieren inteligencia humana o biológica”.
Sus campos actuales de aplicación son muy numerosos y,
en ocasiones, desconocidos para los ciudadanos. Aunque los
algoritmos con los que toman sus decisiones todavía son más
oscuros. Y la oscuridad es incompatible con la democracia.
Dos conceptos suelen aparecer asociados a la IA: aprendi-
zaje automático (‘machine learning’) y aprendizaje profundo
(‘deep learning’). No es lugar para explicaciones detalladas
(pueden encontrarse en Internet excelentes introducciones),
IAy{EDUCACIÓN}
¿Qué o quién
puede hacer
la escuela más
inteligente?
50
Jordi Adell
Pedagogo, profesor jubilado de la Universitat Jaume I
@jordi_a
!

4. 51
La revista de elDiario.es

5. pero necesitamos hacernos una idea de cómo se logra la in-
teligencia de las inteligencias artificiales. Así, el aprendizaje
automático designa un conjunto específico de técnicas de
base estadística cuyo objetivo es identificar patrones en con-
juntos amplios de datos y luego realizar acciones basadas en
dichos patrones. Habitualmente se utiliza un método esta-
dístico como las redes neuronales, los árboles de decisión o
la regresión logística. La calidad de las respuestas de la IA
depende de la cantidad y calidad de los datos y de los proce-
dimientos de entrenamiento. El aprendizaje profundo es una
clase de aprendizaje automático basado en redes neuronales
(otro nombre cuidadosamente escogido) y que necesita gran-
des conjuntos de datos y una notable potencia informática.
Así que la mayoría de los sistemas avanzados de IA, como
ChatGPT, utilizan el aprendizaje profundo…, con los resulta-
dos que conocemos.
Hay dos grandes tipos de preguntas ‘educativas’ sobre la
IA: las primeras podríamos englobarlas bajo la rúbrica ‘educar
con la ayuda de la IA’. La segunda, ‘educar para la era de la IA’.
¿Qué se ha investigado hasta la fecha sobre educar con la
ayuda de la IA’? En una reciente revisión sistemática, se han
identificaron cuatro grandes categorías con varios temas en
cada una: a) IA en el aprendizaje, como en la asignación de
tareas a los estudiantes en base a su competencia actual, en
la provisión de conversaciones ‘educativas’ entre humanos y
máquinas, en el análisis del trabajo de los estudiantes para
ofrecerles retroalimentación sobre desempeño y en aumen-
tar la adaptabilidad y la interactividad de los entornos digi-
tales en los que tiene lugar parte del aprendizaje; b) IA en la
enseñanza, como en los sistemas de tutoría inteligente, que
recomiendan contenidos didácticos y tareas personalizadas
a los estudiantes, combinadas con las enseñanza asistida por
ordenador, las tecnologías de IA se han aplicado para ayudar
a los profesores a gestionar su enseñanza en el aula y, final-
mente, para apoyar el desarrollo profesional de los docentes;
c) IA en la evaluación, actualmente existen sistemas de IA que
proporcionan una calificación automática a los trabajos de los
estudiantes y otros predicen el rendimiento futuro en base a
datos, permitiendo anticipar medidas correctoras si fuera ne-
cesario; finalmente, d) IA en la administración, se utilizan en
la mejora del rendimiento de las plataformas de gestión, en
la oferta servicios personalizados y en el apoyo a la toma de
decisiones educativas basadas en evidencias.
Y sobre “educar para la era de la IA”, ¿qué se ha reflexio-
nado? Es evidente que se trata de un tema bastante más
complejo y poliédrico que el anterior. Y tenemos más pregun-
tas que respuestas. Es posible que la IA vaya calando, como
lluvia fina, en cada vez más ámbitos de la vida de las perso-
nas. Empresas y gobiernos la usarán en la toma de decisiones
y en la prestación de servicios. Trasladado al currículum ex-
plícito, las preguntas son de este tipo: ¿qué deben saber y
saber hacer sobre IA los estudiantes en cada nivel educativo?
52
¿Qué deben conocer sobre sus derechos como ciudadanos,
que todavía están regulándose, y qué tipo de amenazas a
dichos derechos experimentarán? ¿Qué garantías legales ha-
brá sobre las decisiones soportadas por IA de la administra-
ción sobre aspectos relevantes de nuestras vidas? ¿Qué ne-
cesitaran los jóvenes para comprender las posibilidades y
limitaciones de la IA como profesionales de distintos ámbi-
tos? Por ejemplo, ¿qué debe saber un/a futuro médico sobre
la inteligencia artificial para ejercer su profesión? ¿O un gra-
duado en una familia específica de la Formación Profesional?
¿Y un abogado o abogada?
Muchas incógnitas, algunas certezas
Ante lo desconocido solo podemos echar mano de aquellas
cosas de las que estamos completamente seguros y con las
que estamos profundamente comprometidos: los Derechos
Humanos, los Objetivos de Desarrollo Sostenible, una demo-
cracia participativa de calidad, una educación obligatoria, pú-
blica y orientada al desarrollo integral de las personas y no a
su ‘empleabilidad’ y valor de mercado, un sistema político que
no privilegie a los más fuertes ignorando a quienes no resul-
tan ‘rentables’ o productivos, un fuerte control de las grandes
empresas tecnológicas, etc. Y necesitamos reflexión.
Si, como dijo Clemenceau, “la guerra es un asunto dema-
siado serio para dejarla en manos de los militares”; hoy, la IA
es un tema demasiado importante para dejarlo en manos de
las empresas informáticas. Los gobiernos deberían saberlo.
El problema es si tienen los recursos y la convicción necesa-
ria. Como educadores es necesario que conozcamos qué pue-
de hacer, cómo lo hace y qué no puede hacer la IA. En 2011,
Marc Andreessen escribió una frase que cada vez resulta más
cierta: “El software se está comiendo el mundo”. Si el impac-
to político de los algoritmos que gobiernan las redes sociales
no había sido ni comprendido, ni anticipado o previsto, esta
vez tenemos que estar prevenidos. De hecho, existe una cre-
ciente conciencia sobre los problemas éticos, legales, sociales,
políticos, económicos, educativos, etc., que puede causar una
IA (des)gobernada por la maximización de beneficios empre-
sariales. Y en educación tenemos nuestros propios problemas.
Puede que hayamos perdido el miedo a que la IA sustituya a
los profesores, pero a largo plazo seguramente redefinirá sus
roles, el entorno docente/discente y las actividades de los es-
tudiantes. ¿Puede imaginar el impacto, positivo y negativo,
de un libro de texto ‘inteligente’? Algún autor de ciencia fic-
ción sí que ha podido. Negarnos a su uso en las aulas no ser-
virá de gran cosa, sólo a hurtar el derecho de la juventud a
desarrollar las competencias necesarias, entre ellas una visión
crítica, para vivir en un mundo tecnológicamente mucho más
complejo que el que nosotros, sus profesores, conocimos. Es
más, en educación, la nostalgia de un mundo antiguo, idea-
lizado y falso, sólo nos dejará aún más fuera de juego.