Original title in Spanish: Desambiguación de Palabras Polisémicas mediante Aprendizaje Semi-supervisado Date: November 19, 2012 Venue: Córdoba, Argentina. Project on Word Sense Disambiguation for the MSc Specialization Course "Artificial Intelligence" at FaMAF, UNC (Faculty of Mathematics, Astronomy, Physics and Computation, National University of Córdoba) Video: https://www.youtube.com/watch?v=qv9qZaBw-Qw

1.
Desambiguación de palabras polisémicas
mediante aprendizaje semi­supervisado
Darío Garigliotti
Proyecto de Inteligencia Artificial
Fa.M.A.F.
19 de noviembre de 2012

2.
1 ­ Introducción a la polisemia
2 ­ Presentación del proyecto
3 ­ La (((no) muy) larga) etapa de preprocesamiento
4 ­ El algoritmo en cuestión: algoritmo de listas de decisión
5 ­ Evaluación y resultados
6 ­ Posibles extensiones
Resumen de la presentación

3.
1 ­ Introducción a la polisemia
● Una palabra presenta polisemia cuando
posee más de un sentido
1 significante 2+ significados : → ambigüedad
banco := crédito | asiento | estrato | peces
¿Qué es la polisemia?

4.
1 ­ Introducción a la polisemia
● Una palabra presenta polisemia cuando
posee más de un sentido
1 significante 2+ significados : → ambigüedad
banco := crédito | asiento | estrato | peces
● A veces: 1 significante 2+ categorías →
gramaticales : ambiguo pero no polisémico
saco := bolsa | ropa | verbo: sacar
¿Qué es la polisemia?

5.
1 ­ Introducción a la polisemia
● Aspecto positivo de la ambigüedad en la
comunicación habitual: los chistes
Aspectos positivos
Un empleado entra temerosamente en el despacho de su jefe:
—Discúlpeme, jefe, pero es que hace tres meses que no cobro.
—Nada, nada, hombre. No se preocupe, está disculpado. ¿Qué
quería usted...?
● Pero en general es un problema

6.
1 ­ Introducción a la polisemia
●
La realidad es que convivimos con la polisemia y
otras ambigüedades
­ “...por su naturaleza humana, ...” ~ “...por su condición humana, ...”
­ “...las maravillas de la naturaleza...” ~ “...las maravillas del entorno...”
●
Es un problema para... el procesamiento automático
●
Clave: el contexto
La realidad

7.
2 ­ Presentación del proyecto
● En este trabajo lo que se hizo fue...:
­ elegir palabras polisémicas
­ partir de ejemplos no etiquetados
­ (y de pocos etiquetados)
­ implementar un algoritmo clásico de listas de (reglas de)
decisión
­ (con algunas modificaciones):
­ fuente de la info inicial
­ varios criterios internos
Trabajo realizado

8.
2 ­ Presentación del proyecto
● 3 grandes etapas:
­ Preprocesamiento del corpus
­ Aplicación del algoritmo
­ Evaluación de resultados
● Palabras
target:
Etapas del trabajo
Targets y corpus
PALABRA TARGET SENTIDO A SENTIDO B
Manzana Fruta Superficie
Naturaleza Índole Entorno
Movimiento Cambio Corriente
Tierra Materia Planeta
Interés Finanzas Curiosidad
● Corpus: artículos de diarios. Contextos = oraciones

9.
3 ­ La (((no) muy) larga) etapa de preprocesamiento
● El corpus “crudo” tiene demasiado texto con
poca información para la tarea de
desambiguar
● Sacamos buena parte de lo que nos molesta
­ Líneas muy cortas
­ Palabras demasiado frecuentes

10.
3 ­ La (((no) muy) larga) etapa de
preprocesamiento

11.
1 – Unir 2 corpora de texto
plano de artículos + quitar
líneas de 9­ palabras
3 ­ La (((no) muy) larga) etapa de
preprocesamiento

12.
1 – Unir 2 corpora de texto
plano de artículos + quitar
líneas de 9­ palabras
2 – Desambiguar a mano 2
oraciones por sentido por
target info inicial→
3 ­ La (((no) muy) larga) etapa de
preprocesamiento

13.
1 – Unir 2 corpora de texto
plano de artículos + quitar
líneas de 9­ palabras
2 – Desambiguar a mano 2
oraciones por sentido por
target info inicial→
3 – Part­of­speech tagging
­ Reducir dimensión
­ Unificar
comportamientos
3 ­ La (((no) muy) larga) etapa de
preprocesamiento

14.
1 – Unir 2 corpora de texto
plano de artículos + quitar
líneas de 9­ palabras
2 – Desambiguar a mano 2
oraciones por sentido por
target info inicial→
3 – Part­of­speech tagging
4 – Filtrar preservando
palabras de contenido
­ Sustantivos
­ Verbos principales
­ Adjetivos calificativos
3 ­ La (((no) muy) larga) etapa de
preprocesamiento

15.
1 – Unir 2 corpora de texto
plano de artículos + quitar
líneas de 9­ palabras
2 – Desambiguar a mano 2
oraciones por sentido por
target info inicial→
3 – Part­of­speech tagging
4 – Filtrar preservando
palabras de contenido
5 – Buscar oraciones con
cada target
+ Determinar el lexicon final:
palabras que ocurren 10+
oraciones
+ construir tuplas .arff para
esas oraciones
3 ­ La (((no) muy) larga) etapa de
preprocesamiento

16.
3 ­ La (((no) muy) larga) etapa de
preprocesamiento
0
1000
2000
3000
4000
5000
6000
7000
8000
tierrael
de
en
que
y
a
uno
se
ser
su
por
habercon
para
no
este
m�scomoestartenerpoderhacertodo
pero
a�o
sobreayer
2
otro
lo
entredesdeo
decirsin
ese
1
cuandosi
hastadondellegarle
tambi�nya
ir
bajo
d�a
#ocurrencias
Comparacion:
Palabras (ordenadas por cantidad de ocurrencias) vs. cantidad de ocurrencias
(Contextos que contienen la palabra target 'tierra') ~Ley de Zipf
Cantidad de ocurrencias de palabras

17.
3 ­ La (((no) muy) larga) etapa de
preprocesamiento
0
1000
2000
3000
4000
5000
6000
7000
8000
0 500 1000 1500 2000
#ocurrencias
Palabras que ocurren en al menos 10 oraciones, ordenadas por frecuencia
Comparacion:
Palabras (ordenadas por cantidad de ocurrencias) vs. cantidad de ocurrencias
(Contextos que contienen la palabra target 'tierra') - ~Ley de Zipf
Cantidad de ocurrencias de palabra

18.
[…] En este caso, la causa
de los movimientos sísmicos
es la acción de una base
de misiles nucleares.[...]
3 ­ La (((no) muy) larga) etapa de preprocesamiento
En en SPS00 1
este este DD0MS0 0.956743
caso caso NCMS000 0.990741
, , Fc 1
la el DA0FS0 0.972146
causa causa NCFS000 0.794872
de de SPS00 0.999919
los el DA0MP0 0.97623
movimientos movimiento NCMP000 1
sísmicos sísmico AQ0MP0 1
es ser VSIP3S0 1
la el DA0FS0 0.972146
acción acción NCFS000 1
de de SPS00 0.999919
una uno DI0FS0 0.951241
base base NCCS000 0.955882
de de SPS00 0.999919
misiles misil NCMP000 1
nucleares nuclear AQ0CP0 1
. . Fp 1
caso caso NCMS000 0.990741
causa causa NCFS000 0.794872
movimientos movimiento NCMP000 1
sísmicos sísmico AQ0MP0 1
acción acción NCFS000 1
base base NCCS000 0.955882
misiles misil NCMP000 1
nucleares nuclear AQ0CP0 1
. . Fp 1
m
ovim
iento
→ POS­tagging →
tener
hacer
acci
ó
n
caso
base
s
ísm
ico
causa
.... .... .... .... … …
1 0 0 ...... 1 ....... 1 ..... 1 ..... 1 .... 1 ....
←
Filtro
por
palabras
de
← contenido
→ Construir lexicon + tuplas:

19.
4 ­ El algoritmo de listas de decisión
● Algoritmo de aprendizaje semi­
supervisado
● Modificaciones al algoritmo
original de Yarowsky (1995)

20.
4 ­ El algoritmo de listas de decisión
● Colocación: ej 'mundo'
● Evidencia E: ej “la palabra
'mundo' ocurre en la oración”
● Etiquetado inicial: ejemplos a
mano vs colocaciones semilla
● Para regla (E A)→ , confiabilidad
de que la evidencia E determine
el sentido A = C(E, A) =
=
● Aceptación de reglas:
­ confiabilidad > 0.95
­ cobertura = # evidencia > 0
nro deoraciones tq E y A
nrode oracionestq E y Ao B

21.
4 ­ El algoritmo de listas...
0
500
1000
1500
2000
2500
3000
1 2 3 4 5 6
Cantidadesdereglas
Numero de iteracion
Proporcion de reglas aceptadas y rechazadas por iteracion
Palabra target: 'interes'
Nro_aceptadas
Nro_rechazadas_por_cobertura
Nro_rechazadas_por_probabilidad

22.
0
2000
4000
6000
8000
10000
12000
14000
0 1 2 3 4 5 6
Sizesdelossubconjuntos
Numero de iteracion
Proporcion de subconjuntos de ejemplos por iteracion
Palabra target: 'interes'
Size_set_A
Size_set_B
Size_set_No_labeled
4 ­ El algoritmo de listas...

23.
4 ­ El algoritmo de listas...
0
5000
10000
15000
20000
25000
0
1000
2000
3000
4000
5000
6000
7000
8000
9000
10000
11000
12000
13000
14000
15000
16000
17000
1800
Cantidaddepalabras
Cantidad de ejemplos
Fenomeno de dispersion
Lexicon para target = 'interes'
Lexicon para target = 'interes' tq ocurren en 4+ ejs

24.
4 ­ El algoritmo de listas...

25.
4 ­ El algoritmo de listas...

26.
4 ­ El algoritmo de listas...

27.
4 ­ El algoritmo de listas...

28.
4 ­ El algoritmo de listas...

29.
4 ­ El algoritmo de listas...

30.
4 El algoritmo de listas de decisi
ó
n

31.
4 El algoritmo de listas de decisi
ó
n
4 ­ El algoritmo de listas...

32.
4 ­ El algoritmo de listas...
4

33.
Lista de decision nro 7 - Interés
-----------------------------------------------
Probabilidad Cobertura Evidencia Sentido
-----------------------------------------------
0.999979 2433 tipo finanzas
0.999775 222 lector curiosidad
0.999759 207 el_periodico curiosidad
0.999756 205 respetuoso curiosidad
0.999750 200 réplica curiosidad
0.999655 145 alza finanzas
0.999463 93 fed finanzas
0.999001 50 eurozona finanzas
0.998981 49 arte curiosidad
0.998959 48 alan_greenspan finanzas
0.998959 48 wall_street finanzas
0.998937 47 cataluña curiosidad
0.998782 41 valencia curiosidad
0.998686 38 competición curiosidad
0.998650 37 alcista finanzas
0.998390 31 príncipe curiosidad
0.998390 31 género curiosidad
4 ­ El algoritmo de listas...

34.
5 ­ Evaluación y resultados
● Evaluación clásica: tomar muchos ejemplos
etiquetados y aplicarles el algoritmo
­ costoso obtenerlos
● ¿Alternativa disponible?
­ Y que además evalúa la independencia del
algoritmo respecto al lenguaje
­ La polisemia ocurre no sólo en español
Clásica vs alternativa

35.
5 ­ ...

36.
5 ­ Evaluación y resultados
● Evaluación bananadoor:
­ Enfoque simple: una palabra target en realidad proviene de reemplazar
sus diferentes sentidos o definiciones
● “...por su naturaleza humana, ...” ← “...por su índole humana, ...”
● “...comer una manzana...” ← “...comer un fruto del Malus domestica,
de forma globosa algo hundida por los extremos del eje, de
epicarpio delgado, liso y de color verde claro, amarillo pálido o
encarnado, mesocarpio con sabor acídulo o ligeramente
azucarado, y semillas pequeñas, de color de caoba, encerradas
en un endocarpio coriáceo....”
­ Reemplazamos en corpus toda 'vida' o 'ciudad' por target 'vidaciudad'
­ Hacemos preprocesamiento (info inicial, filtrado...) + algoritmo
Evaluación bananadoor

37.
5 ­ Evaluación y resultados
● Resultados:
­ 51.1% de los reemplazos fueron desde 'ciudad'
→ algoritmo: etiquetar todo como 'ciudad' Baseline→
Resultados
% correctos
51.1 %

38.
5 ­ Evaluación y resultados
● Resultados:
­ random: etiquetar como 'ciudad' el 51.1% de las veces
­ algoritmo: Baseline
Resultados
% correctos
50.13%
51.1 %

39.
5 ­ Evaluación y resultados
● Resultados:
­ algoritmo: random
­ algoritmo: Baseline
­ algoritmo: listas de decisión (este proyecto)
­ Implementación similar en una investigación (1)
­ Clustering: KMeans, sólo los 10 lemas más frecuentes
­ Algoritmo original/ideal del paper de Yarowsky (2)
(1) Yoshimasa Tsuruoka and Takashi Chikayama. Estimating Reliability of Contextual Evidences in Decision­List
Classifiers under Bayesian Learning. Proceedings of the Sixth Natural Language Processing Pacific Rim Symposium,
November 27­30, 2001. 2001.
(2) David Yarowsky. Unsupervised word sense disambiguation rivaling supervised methods. Proc. of the 33rd Annual
Meeting of the Association for Computational Linguistics, pp. 189­196. 1995.
Resultados
% correctos
50.13%
51.1 %
59.86%
69.4%
72.95%
94.8%

40.
6 Posibles extensiones
● Trabajos a futuro:
­ Un sentido por discurso
­ Más tipos de evidencia
'por' ocurre en la oración adyacente a izquierda de 'naturaleza'
­ Evidencia por categoría morfosintáctica
'naturaleza' <adjetivo> sentido A→
­ Info inicial confusa
”...del resultado de esas investigaciones tiene un interés
marcadamente empresarial...”