Functional data representation and discrimination employing locally linear embedding = Representación y discriminación de datos funcionales empleando inmersiones localmente lineales
En este trabajo, son presentadas tres mejoras específicas para la técnica de reducción de dimensión no lineal llamada Inmersión Localmente Lineal (Locally Linear Embedding – LLE). Primero, se expone una forma objetiva para escoger los parámetros libres del algoritmo LLE, particularmente, son desarro...
- Autores:
-
Daza Santacoloma, Genaro
- Tipo de recurso:
- Doctoral thesis
- Fecha de publicación:
- 2010
- Institución:
- Universidad Nacional de Colombia
- Repositorio:
- Universidad Nacional de Colombia
- Idioma:
- spa
- OAI Identifier:
- oai:repositorio.unal.edu.co:unal/70139
- Acceso en línea:
- https://repositorio.unal.edu.co/handle/unal/70139
http://bdigital.unal.edu.co/2308/
- Palabra clave:
- 51 Matemáticas / Mathematics
62 Ingeniería y operaciones afines / Engineering
Sistemas de reconocimiento de patrones, Inmersión localmente lineal, Reducción no lineal de dimensión, Correntropía
- Rights
- openAccess
- License
- Atribución-NoComercial 4.0 Internacional
Summary: | En este trabajo, son presentadas tres mejoras específicas para la técnica de reducción de dimensión no lineal llamada Inmersión Localmente Lineal (Locally Linear Embedding – LLE). Primero, se expone una forma objetiva para escoger los parámetros libres del algoritmo LLE, particularmente, son desarrollados métodos nuevos para escoger el parámetro de regularización y el número de vecinos más cercanos. Esto hace posible que las representaciones de baja dimensión obtenidas por medio de LLE sean consistentes. Segundo, se Presenta una nueva técnica para reducción de dimensión no lineal (Nonlinear Dimensión-ality Reduction – NLDR) llamada Inmersión Localmente Lineal con Correntropía, esto mejora el desempeño del algoritmo LLE. Esta técnica esta en reemplazar la distancia Euclìdea como medida de similitud por la medida de similitud dada por la Correntropía, al interior del algoritmo de reducción de dimensión no lineal, lo cual es muy útil cuando son empleados datos funcionales ruidosos, permitiendo determinar correctamente las vecindades locales, que son las bases para obtener resultados de inmersión adecuados. Y finalmente, como tercer tópico, es formulada una versión mejorada de la técnica LLE, la cual nos permite construir un algoritmo de reducción de dimensión no lineal que preserva la geómetra local de los datos y provee una estrategia supervisada durante el procedimiento de inmersión, mejorando los resultados de visualización y/o clasificación en comparación con LLE convencional u otras técnicas de reducción de dimensión no lineal restringidas Topológicamente. Nuestras aproximaciones son evaluadas experimentalmente en conjuntos de datos artificiales y reales, lo cual permite confirmar visual y cuantitativamente si los resultados de la inmersión fueron calculados correctamente. La unión de estos avances conforma un método para el entrenamiento de sistemas de reconocimiento de patrones, el cual es un método de reducción de dimensión no lineal totalmente automatizado que permite usar representaciones funcionales, preservar las relaciones locales entre los datos de entrada de alta dimensión, y proveer un esquema supervisado para la reducción de dimensión. En este sentido, la técnica de reducción de dimensión no lineal supervisada es eficiente y competitiva, superando otros métodos semejantes. Además, esta técnica exhibe la habilidad de calcular representaciones de baja dimensión para múltiples variedades de manera simultánea / Abstract: In this work, three specific improvements for the nonlinear dimensionality reduction technique called locally linear embedding (LLE) are proposed. Firstly, an objective way to choose the free parameters of the LLE algorithm is introduced, particularly, new methods for choosing the regularization parameter and the number of nearest neighbors are developed. This makes possible that low dimensional representations obtained by means of LLE to be consistent. Secondly, it is presented a new technique for nonlinear dimensionality reduction (NLDR) called correntropy locally linear embedding, that improves the performance of the LLE algorithm. This technique replaces the Euclidean distance as similarity measure by the correntropy similarity measure in the core of the NLDR algorithm, which is very useful when noisy functional data are employed, allowing to correctly determine the local neighborhoods, which are the basis for suitable embedding results. And finally, as third topic, it is formulated an improved version of the LLE technique, which allows us to construct a NLDR algorithm that preserves the local geometry of the data, and provides a supervised strategy during the embedding procedure, improving the visualization and/or classification results in comparison to conventional LLE or other topologically constrained NLDR techniques. Our approaches are experimentally assessed on artificial and real-world data sets, which allow us to visually and quantitatively confirm whether the embedding results were correctly calculated. The conjunction of these advances conforms a method for training pattern recognition systems, which is a full automatized nonlinear dimensionality reduction method that allows to use of functional representations, to preserve the local relations among the high dimensional input data, and to provide a supervised scheme for the dimensionality reduction. In this sense, the proposed supervised NLDR technique is efficient and competitive, outperforming other similar methods. Besides, it shows the ability of computing low dimensional representations of several manifolds at the same time. |
---|