Presentación del Webinar En este webinar "Desentrañando el misterio de chatGPT. Cómo funciona internamente" En el webinar hablamos acerca de la tecnología detrás de esta herramienta que está causando revuelo a nivel mundial y cómo sacarle provecho. Enlace al webinar: https://youtu.be/N32RJznJEMg

1. Ejercicio

2. Cómo realmente
funciona ChatGPT?
Por Edgar Landívar

3. ChatGPT es una red neuronal

4. Haciendo nuestro propio traductor
Español Inglés
carro car
sí yes
no no
que what
mano hand
libro book
el the
rojo red
rueda tire

5. Haciendo nuestro propio traductor
el
carro
the
car
1
2
1
2
Traductor

6. Problema con nuestro traductor
el
carro
the
car
1
2
1
2
3 3
Traductor
rojo red

7. Problema 1: contexto
el
carro
the
car
1
2
1
2
3 3
rojo red
no no
5 5
6 6
rueda tire
4 4
que what
Traductor

8. Problema 1: contexto
entre
entre
between
between
1
2
1
2
3 3
y and
asiento chair
5 5
4 4
tome drink
Traductor

9. Problema 2: secuencias diferente longitud
Piece of cake fácil
INGLÉS ESPAÑOL
1 2 3 1

10. Problema 3: secuencias desordenadas
INGLÉS
ESPAÑOL
un auto rojo averiado a damaged red car

12. Esquema CODIFICADOR-DECODIFICADOR
CODIFICA
DOR
un auto rojo averiado a damaged red car
DECODIFI
CADOR
0
1
0
1
1
1
0
0
1
Vector

13. Embeddings
Rapidez
Tamaño
Elefante
Rinoceronte
Gacela
Tigre
Gato
Perro
Vaca
Cerdo
Chivo

14. Embeddings

15. Una palabra a la vez

16. Una palabra a la vez

17. Hasta aquí

18. Los Transformers

19. Escalando

20. Escalando

21. Añadiendo orden
1 2 3 4 5 6 7 8

22. Añadiendo relaciones (atención)
1 2 3 4 5 6 7 8

23. Añadiendo relaciones (atención)

24. Todo lo que necesitas es atención

25. Todo lo que necesitas es atención

26. ChatGPT
Generative Pre-Trained Transformer

27. El futuro