C:\Documents And Settings\Maq 20\Escritorio\Blindlight Dgayo Defensa 60

Una nueva técnica para procesamiento de texto no estructurado mediante vectores de n -gramas de longitud variable con aplicación a diversas tareas de tratamiento de lenguaje natural Una nueva técnica para procesamiento de texto no estructurado mediante vectores de n -gramas de longitud variable con aplicación a diversas tareas de tratamiento de lenguaje natural ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

[object Object],Por culpa de sufrimos sobrecarga La sobrecarga de información 2%

[object Object],3% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],“ The tradeoff between ease of publishing (writing) and ease of querying (reading) on the web has tilted dangerously in favor of the former. ” (Manber 1996) ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],“ documentary data are being generated at an alarming rate” (Maron y Kuhns 1960)

[object Object],5% En la concepción original de la Web (Berners-Lee 1989) se alerta sobre los inconvenientes de la búsqueda mediante palabras clave De hecho, probabilidad de coincidencia en el uso de un mismo término por dos individuos es sólo del 10-20% (Furnas et al. 1987) Aún así la Web nació sin sistema de búsqueda. Al principio (1990-1993) era sencillo mantener manualmente directorios de sitios web. Posteriormente se combinan “arañas” para explorar e indexar la Web y sistemas de búsqueda ¡basados en consultas mediante palabras clave! La Web como sistema de recuperación de información

[object Object],6% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Motores de búsqueda en la Web y su problemática

[object Object],8% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

[object Object],9% Algunas consultas capturadas en tiempo real el 17 de agosto de 2004. cape plumbago photo captree school + west islip handwoven yoga mats "salas surgical group california" pcgs + indian cent cameo ymca swimming lessons- kalamazoo, mi "motorcycle tent trailer" ,[object Object],[object Object],[object Object],Algunas de las consultas más frecuentes realizadas por usuarios españoles y de todo el mundo en julio y agosto de 2004. shrek 2 (1ª España) páginas amarillas (2ª España) chistes (9ª España) olympics (1ª mundo) paris hilton (7ª mundo) nudist+image (19ª mundo) weather (20ª mundo) Ciertamente, las necesidades de información más frecuentes para la mayoría de los usuarios no son complejas …

[object Object],11% paginas amarillas weather cape plumbago photo degenerative disc disease shrek 2 el corte ingles El usuario desea realizar algún tipo de actividad vía web. ,[object Object],El usuario desea encontrar información que supone se encuentra en una o más páginas web. ,[object Object],El usuario trata de llegar a un sitio web conocido. ,[object Object],[object Object],Tipos de consultas (Broder 2002)

[object Object],13% ,[object Object],[object Object],[object Object],[object Object],En promedio el 50 % de los resultados son relevantes (Jansen y Spink 2003)…

[object Object],14% La ausencia de “prestigio” no implica carencia de relevancia. Al desvincularse el “prestigio” de los contenidos , los resultados “relevantes” pueden satisfacer la consulta pero no al usuario . El autor del documento puede no desear tales visitas. … Además, se producen “daños colaterales”

[object Object],16% “ La sobrecarga de información que experimentan los usuarios al tratar de resolver en la Web consultas informativas formuladas en lenguajes naturales de manera tal vez ambigua y, en ocasiones, con errores tipográficos, ortográficos o gramaticales.” El problema es…

[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],17% ,[object Object]

[object Object],19% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Web Semántica

[object Object],20% ,[object Object],[object Object],[object Object],¿Es la Web Semántica una solución al problema descrito?

[object Object],22% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Complementando la Web Semántica

[object Object],23% “ La cantidad de texto no estructurado en la Web seguirá aumentando y el método preferido por los usuarios para recuperar información continuarán siendo las consultas formuladas en lenguajes naturales . Tanto en la publicación como en la consulta será inevitable un uso ambiguo de los distintos idiomas y la presencia de errores tipográficos, ortográficos o gramaticales.” El problema…

[object Object],[object Object],25%

[object Object],28% Clasificación de (mini) corpora paralelos ¿Conservan dichos vectores aspectos semánticos? Experimentación ¿Clasificación y categorización de documentos? ¿Recuperación de información? ¿Resumen automático? Descripción de la técnica blindLight ¿Significatividad de n -gramas? ¿Comparación de vectores de n -gramas?

[object Object],30% ¿Es posible obtener un “pseudo-ADN” a partir de texto escrito en un lenguaje natural? El ADN de un documento es un conjunto de genes donde cada gen está formado por un n -grama de caracteres y su correspondiente significatividad dentro del documento de origen. No se emplean técnicas de alineación de secuencias para las comparaciones de “genomas” sino que éstos pueden combinarse constituyendo “híbridos” que serán comparados con los originales a fin de determinar la similitud entre los mismos. El “genoma” de un documento puede “actuar” sobre el texto del documento, a modo de “ARN transferente” , transformándolo en resúmenes y frases clave . blindLight , una técnica bio-inspirada

[object Object],31%  Se puede obtener para los distintos n-gramas, g i , de un texto escrito en cualquier idioma una medida de su significatividad, s i , distinta de la frecuencia relativa de aparición de los mismos en el texto, f i , pero calculable a partir de la misma. Un n -grama es una secuencia de n elementos extraídos de un texto de forma no necesariamente correlativa. blindLight utiliza n -gramas formados por n caracteres contiguos que pueden incluir blancos. Des , esc , scr , cri , rip , ipc , pci , ci ó , i ó n , ón_ , n_d , _ de , de _ , e_l , … Cada n -grama tiene asociado un peso que indica cuan o cuan poco significativa resulta su aparición en el documento. Dunning (1993) empleó el likelihood ratio test para detectar terminología y palabras clave . Aplicable únicamente a bigramas (de palabras). likelihood ratio , ratio test , likelihood ratio test Fundamentos teóricos de blindLight

[object Object],33%  Se puede obtener para los distintos n-gramas, g i , de un texto escrito en cualquier idioma una medida de su significatividad, s i , distinta de la frecuencia relativa de aparición de los mismos en el texto, f i , pero calculable a partir de la misma. ,[object Object],[object Object],[object Object],Fundamentos teóricos de blindLight ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

[object Object],34%  Esta métrica de la significatividad intradocumental de los n-gramas permite asociar a cada documento, d i , un único vector, v i , susceptible de comparación con cualquier otro vector obtenido del mismo modo aun cuando sus respectivas longitudes puedan diferir. Los “genomas” documentales pueden combinarse constituyendo “híbridos” que serán comparados con los originales para determinar la similitud entre los mismos. Q y T dos vectores blindLight de dimensiones m y n k ij es el n -grama i -ésimo del documento j y w ij es la significatividad de dicho n -grama empleando alguno de los estadísticos anteriores. La significatividad total para dichos vectores será entonces… (Gayo Avello 2005, pp.63-65) Fundamentos teóricos de blindLight

[object Object],36%  Esta métrica de la significatividad intradocumental de los n-gramas permite asociar a cada documento, d i , un único vector, v i , susceptible de comparación con cualquier otro vector obtenido del mismo modo aun cuando sus respectivas longitudes puedan diferir. ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Fundamentos teóricos de blindLight

[object Object],S Q =97.52 S T =81.92 S Q  T =20.48  = 38%  Esta métrica de la significatividad intradocumental de los n-gramas permite asociar a cada documento, d i , un único vector, v i , susceptible de comparación con cualquier otro vector obtenido del mismo modo aun cuando sus respectivas longitudes puedan diferir. Los “genomas” documentales pueden combinarse constituyendo “híbridos” que serán comparados con los originales para determinar la similitud entre los mismos. (Gayo Avello 2005, pp.63-65) Fundamentos teóricos de blindLight  =20.48/97.52  =20.48/81.92

[object Object],39%  Esta métrica de la significatividad intradocumental de los n-gramas permite asociar a cada documento, d i , un único vector, v i , susceptible de comparación con cualquier otro vector obtenido del mismo modo aun cuando sus respectivas longitudes puedan diferir. ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Fundamentos teóricos de blindLight

[object Object],41% “ Se puede obtener para los distintos n-gramas, g i , de un texto escrito en cualquier idioma una medida de su significatividad, s i , distinta de la frecuencia relativa de aparición de los mismos en el texto, f i , pero calculable a partir de la misma. Esta métrica de la significatividad intradocumental de los n-gramas permite asociar a cada documento, d i , un único vector, v i , susceptible de comparación con cualquier otro vector obtenido del mismo modo aun cuando sus respectivas longitudes puedan diferir.” En conclusión…

[object Object],42% ,[object Object],[object Object],[object Object],[object Object],[object Object],Relación de blindLight con otras técnicas

[object Object],45% Condiciones de uso de MSN (abril 2003) Convención de Viena sobre Compraventa de Mercancías Declaración Universal de los Derechos Humanos Génesis 1:1-3:24 Licencia Creative Commons Licencia GNU-GPL Condiciones de uso de Google (septiembre 2004) Si blindLight conserva la semántica de los documentos entonces clasificaciones de corpora paralelos deberían ser similares con independencia del idioma empleado en cada corpus y plausibles según criterios humanos . Corpus Clasificación de (mini) corpora paralelos Semántica en el sentido de Dumais et al. (1988): “ Damos por supuesto que bajo los datos de uso de palabras existe algún tipo de estructura semántica ‘latente’ parcialmente oculta por la variabilidad en la elección de esas palabras.” ¿Qué semántica?

[object Object],47% Clasificación de (mini)corpora paralelos

[object Object],48% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Clasificación de (mini)corpora paralelos

[object Object],50% “ Al aplicar blindLight sobre texto natural se obtienen vectores que conservan ciertos aspectos de la semántica latente en los textos originales permitiendo una comparación a un nivel conceptual.” En conclusión…

[object Object],52% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],El problema de la clasificación

[object Object],53% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Aplicación de blindLight a la clasificación de documentos

[object Object],55% Clasificación de lenguajes naturales Datos léxicos, Libro del Génesis Indoeuropeos Romances Germánicos Germánicos del norte Germánicos del oeste

[object Object],56% Los resultados de ambos experimentos son consistentes entre sí y con la clasificación comunmente aceptada. ðə ˈnɔɹθ ˌwɪnd ən ə ˈsʌn wɚ dɪsˈpjutɪŋ ˈwɪtʃ wəz ðə ˈstɹɑŋgɚ, wɛn ə ˈtɹævlɚ kem əˈlɑŋ ˈɹæpt ɪn ə ˈwɔɹm ˈklok… The North Wind and the Sun were disputing which was the stronger, when a traveller came along wrapped in a warm cloak… Clasificación de lenguajes naturales Datos fonéticos, El Viento del Norte y el Sol (IPA 1999)

[object Object],58% La colección TIME (Salton 1972) consiste en 423 artículos publicados durante 1963 en la sección internacional de dicha revista. Los documentos abarcan diversos temas ( Vietnam , la guerra fría o escándalos políticos). La colección CIA se corresponde con la edición de 1990 de The World Fact Book . Consta de 246 documentos y describe en términos geográficos, sociales, económicos y políticos distintas regiones y países del planeta. Ambas colecciones permitieron comparar los resultados obtenidos por blindLight con los alcanzados mediante Self-Organizing Maps (Merkl y Rauber 1998). Los resultados obtenidos por blindLight son análogos a los alcanzados con Self-Organizing Maps . Colecciones TIME y CIA (blindLight vs. SOM)

[object Object],59% Colección CIA El primer gráfico muestra el denominado “Norte Rico” que incluye a la URSS, Australia y Nueva Zelanda. El segundo mapa contiene países vinculados a la URSS ideológica, económica, militar y/o geográficamente: el “Telón de Acero”, Irán (fronterizo) o Afganistan (fronterizo y ocupado). El tercer gráfico agrupa la mayor parte de Asia mientras el siguiente divide África en tres grandes grupos, destacando nuevamente la zona de Oriente Próximo. El último mapa coincide con Latinoamérica (nótese la ausencia de la Guyana Francesa) aunque incluye Liberia en un curioso salto transatlántico.

[object Object],61% Similitud promedio Entropía La colección wap (Han et al. 1998) consta de 1560 páginas web extraídas de Yahoo! y pertenecientes a una categoría única de 20 posibles. Pudo calcularse la similitud promedio y la entropía para la clasificación obtenida por blindLight y compararla con los resultados obtenidos por otras técnicas (Steinbach et al. 2000). Colección wap (WebACE Project)

[object Object],63% “ Al aplicar blindLight al problema de la clasificación automática de documentos puede concluirse que, al menos en lo que se refiere a las colecciones TIME, CIA y wap, es posible obtener unos resultados semejantes, si no mejores, que los de técnicas específicas como mapas auto-organizativos, métodos particionales y métodos jerárquicos.” En conclusión…

[object Object],64% Algoritmo de Rocchio Método de boosting Support Vector Machines ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Categorización como aprendizaje

[object Object],66% n: número de n-gramas en el vector categoría m: número de n-gramas en el documento desconocido.  =0,5 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Categorización con blindLight

[object Object],67% Identificación automática del idioma de un texto El problema de los Federalist Papers Filtrado de correo no deseado ( spam ) Colecciones estándar ( Reuters-21578 y OHSUMED ) Experimentación

[object Object],69% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Identificación automática del idioma

[object Object],70% 85 artículos publicados durante 1787 y 1788 en periódicos del estado de Nueva York para convencer a sus votantes sobre la necesidad de ratificar la futura constitución de EE.UU. Aparecieron bajo el pseudónimo de Publius y fueron escritos por Alexander Hamilton , James Madison y John Jay . Se llegó a un consenso sobre la autoría de cada artículo a excepción de 12 , sobre los cuales sólo se estaba de acuerdo en que eran de Hamilton o de Madison . Mosteller y Wallace (1964) concluyeron, por métodos estadísticos, que los doce artículos en disputa eran obra de Madison . Diversas técnicas de categorización se han aplicado a dicho problema con idénticos resultados (redes neuronales, cadenas de Markov, SVMs , …) Aplicando blindLight se alcanzan las mismas conclusiones. El problema de los Federalist Papers (atribución de autoría)

[object Object],72% “ Es necesario investigar técnicas que permitan controlar y filtrar la información que llega a las personas que deban usarla” (Denning 1982) Spam es el correo que recibe un usuario sin haberlo solicitado previamente. El filtrado de spam consiste en asignar una etiqueta de dos posibles a cada mensaje recibido: ham (correo válido) o spam (correo no deseado). Los categorizadores bayesianos (que no son la mejor técnica de categorización posible) son los mejor considerados para filtrar spam (Androutsopoulos et al. 2000). Para evaluar blindLight como técnica de filtrado de spam se han empleado dos colecciones ( ling-spam y spamassassin ) . Como técnica de filtrado de spam (mover o borrar mensajes etiquetados como no deseados) blindLight no resulta adecuada por el momento. En cuanto a simple experimento de categorización (simplemente etiquetar los mensajes) la técnica proporciona unos resultados (precisión y exhaustividad) próximos a los de los categorizadores bayesianos y MBL ( Memory Based Learning). Filtrado de correo no deseado o spam

[object Object],73% Para poder comparar blindLight con otras técnicas se han empleado las colecciones Reuters-21578 (artículos periodísticos) y OHSUMED (artículos médicos). La primera colección asigna a cada documento etiquetas de un conjunto de 135 posibles (p.ej. trade , corn o crude ). La segunda toma las etiquetas de la clasificación MESH - Medical Subject Headings (p.ej. virus diseases , eye diseases o neoplasms ). En el primer caso se empleó una partición de la colección con 9603 documentos de entrenamiento y 3299 de prueba. En el segundo se utilizaron 20000 documentos. Los resultados obtenidos se compararon con los alcanzados por Joachims (1997) y Dumais et al. (1998) comprobándose que blindLight alcanza resultados análogos a los de Rocchio , categorizadores bayesianos o árboles de decisión; próximos a los de k- vecinos y sustancialmente peores que SVMs . Colecciones estándar Reuters-21578 y OHSUMED

[object Object],75% “ La utilización de blindLight como método de categorización de documentos no alcanza los resultados de las SVMs pero es análogo a otras técnicas empleadas con frecuencia y comunmente aceptadas como muy adecuadas (p.ej. clasificadores Bayesianos).” En conclusión…

[object Object],78% “ Un sistema de recuperación de información (IR) no informa al usuario acerca del tema de su consulta, es decir, no modifica sus conocimientos; simplemente indica la existencia (o inexistencia) y localización de documentos relativos a dicha consulta.” (Lancaster 1968) Idealmente , un sistema IR debería proporcionar sólo documentos relevantes para las consultas que recibiese. En la práctica se acepta que el objetivo es localizar el mayor número posible de documentos relevantes y el menor de documentos irrelevantes . La relevancia de un documento es subjetiva y cambiante pero, en un marco experimental , es factible determinar, para un conjunto de consultas de prueba , qué documentos de una colección son relevantes . Existen colecciones estándar para la evaluación de sistemas IR . En la actualidad, énfasis en colecciones de gran tamaño y contextos bi- y multilingües . Sistemas de recuperación de información y su evaluación

[object Object],80% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],blindLight como técnica IR

[object Object],81% Para comparar el rendimiento de blindLight con otras técnicas IR se desarrollaron una serie de experimentos sobre las colecciones CACM y CISI (Fox 1983) y se participó en CLEF 2004 (Peters et al. 2005). El primer experimento proporcionó datos que fueron comparados con resultados recogidos en la literatura. Los resultados obtenidos por blindLight aún son inferiores a los alcanzados por modelos como el vectorial o el probabilístico pero comparables a los proporcionados por técnicas como la semántica latente . La participación en CLEF permitió enfrentar la técnica a un problema de mayor envergadura, obligó al desarrollo de una técnica de pseudo-traducción y proporcionó información sobre la situación de blindLight en relación con los métodos más avanzados disponibles. Comparación con otras técnicas

[object Object],83% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Comparación con otras técnicas ( CLEF 2004 )

[object Object],84% Comparación con otras técnicas ( CLEF 2004 )

[object Object],86% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],blindLight como técnica CLIR ( Cross Language IR )

[object Object],88% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],blindLight como técnica CLIR ( Cross Language IR )

[object Object],89% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],blindLight como técnica CLIR ( Cross Language IR )

[object Object],91% “ La utilización de blindLight como técnica de recuperación de información es viable ofreciendo, además, un método de pseudo-traducción de consultas que lo hace muy interesante para entornos multilingües. Los resultados obtenidos por el momento no son tan satisfactorios como los que proporcionan técnicas afianzadas; no obstante, son similares a los de métodos considerados ‘prometedores’ y hay una serie de puntos donde se podrá mejorar la técnica alcanzando rendimientos superiores.” En conclusión…

[object Object],92% Conjunto de técnicas que producen para un texto de entrada un documento de salida más corto pero que contiene los puntos más relevantes del original . Luhn (1958) y Edmundson (1969) desarrollaron los primeros sistemas de “extracción de resúmenes”. Los sistemas de resumen automático más comunes son los “extractivos” (o de “cortar-y-pegar” ) por oposición a los “abstractivos” que producen un texto nuevo que recoge las mismas ideas que el original sin extraer ninguna sentencia del mismo. DUC ( Document Understanding Conferences ) surgió como un marco para la evaluación y mejora de sistemas de resumen automático . Desde 2004 la evaluación se realiza automáticamente mediante la herramienta ROUGE (Lin 2004). A fin de evaluar blindLight como sistema de extracción de resúmenes se han empleado los productos de DUC 2004 . Resumen automático

[object Object],94% ,[object Object],[object Object],[object Object],[object Object],[object Object],blindLight como técnica de resumen extractivo

[object Object],95% “ Palabras” clave catástrofes catástrofe a Comisión la Comisión el tsunam eficaz medidas equipos la capacida cción blindLight como técnica de resumen extractivo

[object Object],97% ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Resultados de blindLight en las tareas DUC 2004

[object Object],98% “ blindLight es una herramienta útil para la extracción de resúmenes automáticos a partir de texto libre escrito en cualquier lenguaje natural. Su aplicación para la obtención de resúmenes muy cortos no parece adecuada pero muy pocas técnicas consiguen superar la eficacia de un método tan sencillo como extraer los primeros caracteres del documento. Por lo que respecta a la extracción de resúmenes cortos su rendimiento es superior a muchas de las técnicas más avanzadas disponibles En cuanto a la invariabilidad de los resultados respecto al idioma a resumir las pruebas preliminares indican que es bastante elevada y parece posible alcanzar buenos resultados en cualquier lenguaje natural.” En conclusión…

[object Object],99% blindLight es una técnica novedosa para el procesamiento de lenguaje natural por medios puramente estadísticos. Es aplicable a múltiples idiomas ofreciendo resultados consistentes en todos ellos, muestra una adecuada tolerancia al ruido y resulta apta para tareas de clasificación , categorización y extracción de resúmenes . Además, parece potencialmente útil para la recuperación de información en entornos multilingües aunque en este campo aún no se ha progresado lo suficiente.

[object Object],100% Adaptar el sistema de extracción de resúmenes a entornos multidocumento. Continuar el desarrollo del sistema de pseudo-traducción. Analizar la posible integración de los dos sistemas anteriores. Emplear programación genética para la obtención de nuevas medidas de similitud entre documentos y consultas en el sistema IR . Estudiar la posible integración de medidas basadas en la complejidad de Kolmogorov. Estudiar la utilización de fragmentos de significatividad máxima como términos de indexado en el sistemas IR . El futuro…

[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

[object Object],[object Object],[object Object],[object Object],[object Object]

C:\Documents And Settings\Maq 20\Escritorio\Blindlight Dgayo Defensa 60

Recomendados

Recomendados

Más contenido relacionado

La actualidad más candente

La actualidad más candente (6)

Similar a C:\Documents And Settings\Maq 20\Escritorio\Blindlight Dgayo Defensa 60

Similar a C:\Documents And Settings\Maq 20\Escritorio\Blindlight Dgayo Defensa 60 (20)

Último

Último (19)

C:\Documents And Settings\Maq 20\Escritorio\Blindlight Dgayo Defensa 60