Sistema de extracción de cuerpos de texto de la web para tareas lingüísticas

En este artículo se describe un sistema desarrollado para la extracción de grandes cuerpos de texto de Internet, teniendo como motivación el valor que ofrecen los ejemplos de lenguaje natural disponibles en la red para las tareas de aprendizaje no supervisado de dichos naturales, dado por características como su enorme volumen, permanente actualización respecto de las alteraciones del lenguaje, y bajo costo, en tiempo y recursos, en cuanto a los mecanismos tradicionales de construcción de corpus para esas tareas de aprendizaje. Se presentan las estrategias incorporadas al sistema con el fin de maximizar el aprovechamiento de los recursos de hardware y así reducir los tiempos de extracción, al igual que se presentan las características de extensibilidad para los formatos soportados, y adaptabilidad respecto a la manera como el sistema limpia los contenidos para obtener muestras de lenguaje natural puras. Al final del artículo se presentan los resultados experimentales obtenidos con uno de los dominios de contenido en español más grande de Internet: es.wikipedia.org, a través de los cuales se concluye sobre la validez y aplicabilidad de un corpus extraído directamente de la Internet para un eventual proceso de aprendizaje de morfología o sintaxis.

• Autores: Cadavid Rengifo, Héctor Fabio; Gómez Perdomo, Jonatan
• Tipo de recurso: Article of journal
• Fecha de publicación: 2009
• Institución: Escuela Colombiana de Ingeniería Julio Garavito
• Repositorio: Repositorio Institucional ECI
• Idioma: spa
• OAI Identifier: oai:repositorio.escuelaing.edu.co:001/1903
• Acceso en línea: https://repositorio.escuelaing.edu.co/handle/001/1903
• Palabra clave: corpus web; crawler; aprendizaje no supervisado de lenguajes; programación concurrente; web corpus; crawler; unsupervised language learning; concurrent programming
• Rights: openAccess
• License: https://creativecommons.org/licenses/by/4.0/