Este documento discute los sesgos y efectos de la inteligencia artificial. Señala que la IA no es neutral y puede moldear nuestro pensamiento al delegar funciones cognitivas en los sistemas. También advierte sobre el "sedentarismo intelectual" y los sesgos algorítmicos como el de género o raza que perjudican sistemáticamente a ciertos grupos. Finalmente, argumenta que debemos asegurarnos de que los datos con los que se entrenan los sistemas de IA sean representativos y no perpetúen

1. IA en las aulas
Ni inteligencia, ni artificial
Lorena Fernández Álvarez (@loretahur)

2. @loretahur
lorena.fernandez@deusto.es

3. La tecnología NO ES NEUTRA
El efecto Google
(Sparrow,B.,Liu,J.,& Wegner,D. M. (2011). Google effects on
memory: Cognitive consequences of having information at our
fingertips. science,333(6043),776-778.)

4. ¿QUÉ HARÁ LA IA
GENERATIVA SOBRE
NUESTRA CAPACIDAD
ANALÍTICA, CRÍTICA,
CREATIVA?

5. Sedentarismo intelectual
Santiago Bilinkis: la Inteligencia Artificial seduce a la ciudadanía con
delegar en ella todos los pensamientos y decisiones,como la
capacidad de concentración,la competencia lectora,el buen uso del
lenguaje,el pensamiento lógico y matemático o la pérdida de la
tenacidad necesaria para realizar un esfuerzo sostenido y deliberado
para resolver un problema difícil.
Si esto sucede la tecnología no moldea nuestro pensamiento,sino
que toma su lugar.

6. ¿QUÉ MUNDO ESTÁ
DEVOLVIENDO LA IA A
GOLPE DE PROMPT?

7. Creemos que las decisiones que tome un algoritmo no estarán sujetas a condicionamientos humanos
ligados a sesgos y estereotipos. El gran gol que nos ha metido la tecnología es hacernos creer que tomará
mejores decisiones… y no siempre es así .
Están creando "verdades algorítmicas" irrefutables que refuerzan un
modelo único.

8. EL SESGO ALGORÍTMICO
Sesgo algorítmico: sistemas cuyas
predicciones benefician
sistemáticamente a un grupo de
personas frente a otro,resultando
así injustas o desiguales.
Sesgos de género,raciales,de
orientación sexual,de edad,
ubicación física…
Los algoritmos son
“opiniones encerradas en
matemáticas”
Cathy O’Neil

9. Déficit de indignación algorítmica según
→ estudio,la gente se indigna menos
cuando la discriminación de género se produce a causa de un algoritmo y no por la
participación humana directa.
A menos indignación, menos motivación para hacer algo al respecto.

10. Cuando lo "estándar" es el privilegio
Hombre,caucásico,heterosexual,cis,de mediana edad, clase
media-alta,sin discapacidades...
Superpoder: representa a todo el mundo

11. • Recolectando la información de la que
aprenderá:
• Si no es representativa de la realidad.
• Si refleja prejuicios existentes (cómo el
poder opera en el mundo).
• Marcando qué atributos y modelos son
los importantes para el algoritmo.
Cuando se hacen las preguntas
equivocadas.
• De manera premeditada.
La IA no crea, recrea.
¿Cuándo aparece el sesgo algorítmico?

12. The Washington Post analiza el
dataset C4 de Google,que se usa
para entrenar IAs como T5 de
Google y LLaMA de Meta y aquí
está el listado de webs de donde
"bebe".
1. Patentes: solo el 12,8 %
corresponden a mujeres en EEUU.
2. Wikipedia: hay menos artículos
de mujeres y hay asimetrías de
género en el contenido textual de
estos.

13. – Persona molona
«Voy a citar a alguien»

16. Stable Diffusion muestra imágenes de hombres blancos cuando se le pide que
represente a personas con trabajos bien pagados,y de mujeres negras cuando se le
pide que represente a personas con trabajos mal pagados.

17. Los sesgos de la inteligencia artificial pueden pasar a las personas
Personas aconsejadas por una IA sesgada pueden adaptar sus decisiones a lo que
recomienda el agente artificial,incluso cuando ya no cuentan con su asistencia
Vicente,Lucía,& Matute,Helena. “Humans inherit artificial intelligence biases”. Scientific Reports,2023

18. “Hasta las sillas en las que os sentáis han pasado controles para que
nadie se haga daño con ellas. Sin embargo,la IA es el Far West."
Gemma Galdon,Eticas

20. La IA y ciencia de datos hace tiempo que
no predicen el futuro.
Causan el futuro.
Hagamos que aquellas que han sido
históricamente marginalizadas tengan la
oportunidad de decidir y construir sus
propios futuros sociotécnicos dignos.
https://manyfesto.ai

21. ¡MUCHAS
GRACIAS!
@loretahur
lorena.fernandez@deusto.es