Functional data representation and discrimination employing locally linear embedding = Representación y discriminación de datos funcionales empleando inmersiones localmente lineales

En este trabajo, son presentadas tres mejoras específicas para la técnica de reducción de dimensión no lineal llamada Inmersión Localmente Lineal (Locally Linear Embedding – LLE). Primero, se expone una forma objetiva para escoger los parámetros libres del algoritmo LLE, particularmente, son desarro...

Full description

Autores:
Daza Santacoloma, Genaro
Tipo de recurso:
Doctoral thesis
Fecha de publicación:
2010
Institución:
Universidad Nacional de Colombia
Repositorio:
Universidad Nacional de Colombia
Idioma:
spa
OAI Identifier:
oai:repositorio.unal.edu.co:unal/70139
Acceso en línea:
https://repositorio.unal.edu.co/handle/unal/70139
http://bdigital.unal.edu.co/2308/
Palabra clave:
51 Matemáticas / Mathematics
62 Ingeniería y operaciones afines / Engineering
Sistemas de reconocimiento de patrones, Inmersión localmente lineal, Reducción no lineal de dimensión, Correntropía
Rights
openAccess
License
Atribución-NoComercial 4.0 Internacional
id UNACIONAL2_b2e4c1f07807880c56af3163601bd72e
oai_identifier_str oai:repositorio.unal.edu.co:unal/70139
network_acronym_str UNACIONAL2
network_name_str Universidad Nacional de Colombia
repository_id_str
dc.title.spa.fl_str_mv Functional data representation and discrimination employing locally linear embedding = Representación y discriminación de datos funcionales empleando inmersiones localmente lineales
title Functional data representation and discrimination employing locally linear embedding = Representación y discriminación de datos funcionales empleando inmersiones localmente lineales
spellingShingle Functional data representation and discrimination employing locally linear embedding = Representación y discriminación de datos funcionales empleando inmersiones localmente lineales
51 Matemáticas / Mathematics
62 Ingeniería y operaciones afines / Engineering
Sistemas de reconocimiento de patrones, Inmersión localmente lineal, Reducción no lineal de dimensión, Correntropía
title_short Functional data representation and discrimination employing locally linear embedding = Representación y discriminación de datos funcionales empleando inmersiones localmente lineales
title_full Functional data representation and discrimination employing locally linear embedding = Representación y discriminación de datos funcionales empleando inmersiones localmente lineales
title_fullStr Functional data representation and discrimination employing locally linear embedding = Representación y discriminación de datos funcionales empleando inmersiones localmente lineales
title_full_unstemmed Functional data representation and discrimination employing locally linear embedding = Representación y discriminación de datos funcionales empleando inmersiones localmente lineales
title_sort Functional data representation and discrimination employing locally linear embedding = Representación y discriminación de datos funcionales empleando inmersiones localmente lineales
dc.creator.fl_str_mv Daza Santacoloma, Genaro
dc.contributor.advisor.spa.fl_str_mv Castellanos Domínguez, César Germán (Thesis advisor)
dc.contributor.author.spa.fl_str_mv Daza Santacoloma, Genaro
dc.subject.ddc.spa.fl_str_mv 51 Matemáticas / Mathematics
62 Ingeniería y operaciones afines / Engineering
topic 51 Matemáticas / Mathematics
62 Ingeniería y operaciones afines / Engineering
Sistemas de reconocimiento de patrones, Inmersión localmente lineal, Reducción no lineal de dimensión, Correntropía
dc.subject.proposal.spa.fl_str_mv Sistemas de reconocimiento de patrones, Inmersión localmente lineal, Reducción no lineal de dimensión, Correntropía
description En este trabajo, son presentadas tres mejoras específicas para la técnica de reducción de dimensión no lineal llamada Inmersión Localmente Lineal (Locally Linear Embedding – LLE). Primero, se expone una forma objetiva para escoger los parámetros libres del algoritmo LLE, particularmente, son desarrollados métodos nuevos para escoger el parámetro de regularización y el número de vecinos más cercanos. Esto hace posible que las representaciones de baja dimensión obtenidas por medio de LLE sean consistentes. Segundo, se Presenta una nueva técnica para reducción de dimensión no lineal (Nonlinear Dimensión-ality Reduction – NLDR) llamada Inmersión Localmente Lineal con Correntropía, esto mejora el desempeño del algoritmo LLE. Esta técnica esta en reemplazar la distancia Euclìdea como medida de similitud por la medida de similitud dada por la Correntropía, al interior del algoritmo de reducción de dimensión no lineal, lo cual es muy útil cuando son empleados datos funcionales ruidosos, permitiendo determinar correctamente las vecindades locales, que son las bases para obtener resultados de inmersión adecuados. Y finalmente, como tercer tópico, es formulada una versión mejorada de la técnica LLE, la cual nos permite construir un algoritmo de reducción de dimensión no lineal que preserva la geómetra local de los datos y provee una estrategia supervisada durante el procedimiento de inmersión, mejorando los resultados de visualización y/o clasificación en comparación con LLE convencional u otras técnicas de reducción de dimensión no lineal restringidas Topológicamente. Nuestras aproximaciones son evaluadas experimentalmente en conjuntos de datos artificiales y reales, lo cual permite confirmar visual y cuantitativamente si los resultados de la inmersión fueron calculados correctamente. La unión de estos avances conforma un método para el entrenamiento de sistemas de reconocimiento de patrones, el cual es un método de reducción de dimensión no lineal totalmente automatizado que permite usar representaciones funcionales, preservar las relaciones locales entre los datos de entrada de alta dimensión, y proveer un esquema supervisado para la reducción de dimensión. En este sentido, la técnica de reducción de dimensión no lineal supervisada es eficiente y competitiva, superando otros métodos semejantes. Además, esta técnica exhibe la habilidad de calcular representaciones de baja dimensión para múltiples variedades de manera simultánea / Abstract: In this work, three specific improvements for the nonlinear dimensionality reduction technique called locally linear embedding (LLE) are proposed. Firstly, an objective way to choose the free parameters of the LLE algorithm is introduced, particularly, new methods for choosing the regularization parameter and the number of nearest neighbors are developed. This makes possible that low dimensional representations obtained by means of LLE to be consistent. Secondly, it is presented a new technique for nonlinear dimensionality reduction (NLDR) called correntropy locally linear embedding, that improves the performance of the LLE algorithm. This technique replaces the Euclidean distance as similarity measure by the correntropy similarity measure in the core of the NLDR algorithm, which is very useful when noisy functional data are employed, allowing to correctly determine the local neighborhoods, which are the basis for suitable embedding results. And finally, as third topic, it is formulated an improved version of the LLE technique, which allows us to construct a NLDR algorithm that preserves the local geometry of the data, and provides a supervised strategy during the embedding procedure, improving the visualization and/or classification results in comparison to conventional LLE or other topologically constrained NLDR techniques. Our approaches are experimentally assessed on artificial and real-world data sets, which allow us to visually and quantitatively confirm whether the embedding results were correctly calculated. The conjunction of these advances conforms a method for training pattern recognition systems, which is a full automatized nonlinear dimensionality reduction method that allows to use of functional representations, to preserve the local relations among the high dimensional input data, and to provide a supervised scheme for the dimensionality reduction. In this sense, the proposed supervised NLDR technique is efficient and competitive, outperforming other similar methods. Besides, it shows the ability of computing low dimensional representations of several manifolds at the same time.
publishDate 2010
dc.date.issued.spa.fl_str_mv 2010
dc.date.accessioned.spa.fl_str_mv 2019-07-03T13:10:59Z
dc.date.available.spa.fl_str_mv 2019-07-03T13:10:59Z
dc.type.spa.fl_str_mv Trabajo de grado - Doctorado
dc.type.driver.spa.fl_str_mv info:eu-repo/semantics/doctoralThesis
dc.type.version.spa.fl_str_mv info:eu-repo/semantics/acceptedVersion
dc.type.coar.spa.fl_str_mv http://purl.org/coar/resource_type/c_db06
dc.type.content.spa.fl_str_mv Text
dc.type.redcol.spa.fl_str_mv http://purl.org/redcol/resource_type/TD
format http://purl.org/coar/resource_type/c_db06
status_str acceptedVersion
dc.identifier.uri.none.fl_str_mv https://repositorio.unal.edu.co/handle/unal/70139
dc.identifier.eprints.spa.fl_str_mv http://bdigital.unal.edu.co/2308/
url https://repositorio.unal.edu.co/handle/unal/70139
http://bdigital.unal.edu.co/2308/
dc.language.iso.spa.fl_str_mv spa
language spa
dc.relation.ispartof.spa.fl_str_mv Universidad Nacional de Colombia Sede Manizales Facultad de Ingeniería y Arquitectura Departamento de Ingeniería Eléctrica, Electrónica y Computación
Departamento de Ingeniería Eléctrica, Electrónica y Computación
dc.relation.references.spa.fl_str_mv Daza Santacoloma, Genaro (2010) Functional data representation and discrimination employing locally linear embedding = Representación y discriminación de datos funcionales empleando inmersiones localmente lineales. Doctorado thesis, Universidad Nacional de Colombia - Sede Manizales.
dc.rights.spa.fl_str_mv Derechos reservados - Universidad Nacional de Colombia
dc.rights.coar.fl_str_mv http://purl.org/coar/access_right/c_abf2
dc.rights.license.spa.fl_str_mv Atribución-NoComercial 4.0 Internacional
dc.rights.uri.spa.fl_str_mv http://creativecommons.org/licenses/by-nc/4.0/
dc.rights.accessrights.spa.fl_str_mv info:eu-repo/semantics/openAccess
rights_invalid_str_mv Atribución-NoComercial 4.0 Internacional
Derechos reservados - Universidad Nacional de Colombia
http://creativecommons.org/licenses/by-nc/4.0/
http://purl.org/coar/access_right/c_abf2
eu_rights_str_mv openAccess
dc.format.mimetype.spa.fl_str_mv application/pdf
institution Universidad Nacional de Colombia
bitstream.url.fl_str_mv https://repositorio.unal.edu.co/bitstream/unal/70139/1/genarodazasantacoloma.2010_Parte3.pdf
https://repositorio.unal.edu.co/bitstream/unal/70139/2/genarodazasantacoloma.2010_Parte5.pdf
https://repositorio.unal.edu.co/bitstream/unal/70139/3/genarodazasantacoloma.2010_Parte1.pdf
https://repositorio.unal.edu.co/bitstream/unal/70139/4/genarodazasantacoloma.2010_Parte2.pdf
https://repositorio.unal.edu.co/bitstream/unal/70139/5/genarodazasantacoloma.2010_Parte4.pdf
https://repositorio.unal.edu.co/bitstream/unal/70139/6/genarodazasantacoloma.2010_Parte3.pdf.jpg
https://repositorio.unal.edu.co/bitstream/unal/70139/7/genarodazasantacoloma.2010_Parte5.pdf.jpg
https://repositorio.unal.edu.co/bitstream/unal/70139/8/genarodazasantacoloma.2010_Parte1.pdf.jpg
https://repositorio.unal.edu.co/bitstream/unal/70139/9/genarodazasantacoloma.2010_Parte2.pdf.jpg
https://repositorio.unal.edu.co/bitstream/unal/70139/10/genarodazasantacoloma.2010_Parte4.pdf.jpg
bitstream.checksum.fl_str_mv 4ea73fd5355f02c9beb96225209903b2
99f61a3474223fefda5526650ca915df
718b5b665b594406e928da78c2ab73dd
da28a044050d677d1880b60f8424c4bf
b9d1c069cf49bca18effab3765d41b29
f4aae181c1b219a20181db7ff747f2a0
5641280c5a10d957da471caf7e205dd7
ca3cd9b523950ccaa1938d537318d49c
568018fecce105e3962ab5e6b8093fa9
2ac9ce2ebcbf975fb4be98192d467bdf
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
MD5
MD5
MD5
MD5
MD5
MD5
repository.name.fl_str_mv Repositorio Institucional Universidad Nacional de Colombia
repository.mail.fl_str_mv repositorio_nal@unal.edu.co
_version_ 1814090040199872512
spelling Atribución-NoComercial 4.0 InternacionalDerechos reservados - Universidad Nacional de Colombiahttp://creativecommons.org/licenses/by-nc/4.0/info:eu-repo/semantics/openAccesshttp://purl.org/coar/access_right/c_abf2Castellanos Domínguez, César Germán (Thesis advisor)c792a029-43aa-4eb1-ac01-0b8ac24a537e-1Daza Santacoloma, Genaro521d7f84-9b23-4c8e-a2d1-aae7fc6f62ce3002019-07-03T13:10:59Z2019-07-03T13:10:59Z2010https://repositorio.unal.edu.co/handle/unal/70139http://bdigital.unal.edu.co/2308/En este trabajo, son presentadas tres mejoras específicas para la técnica de reducción de dimensión no lineal llamada Inmersión Localmente Lineal (Locally Linear Embedding – LLE). Primero, se expone una forma objetiva para escoger los parámetros libres del algoritmo LLE, particularmente, son desarrollados métodos nuevos para escoger el parámetro de regularización y el número de vecinos más cercanos. Esto hace posible que las representaciones de baja dimensión obtenidas por medio de LLE sean consistentes. Segundo, se Presenta una nueva técnica para reducción de dimensión no lineal (Nonlinear Dimensión-ality Reduction – NLDR) llamada Inmersión Localmente Lineal con Correntropía, esto mejora el desempeño del algoritmo LLE. Esta técnica esta en reemplazar la distancia Euclìdea como medida de similitud por la medida de similitud dada por la Correntropía, al interior del algoritmo de reducción de dimensión no lineal, lo cual es muy útil cuando son empleados datos funcionales ruidosos, permitiendo determinar correctamente las vecindades locales, que son las bases para obtener resultados de inmersión adecuados. Y finalmente, como tercer tópico, es formulada una versión mejorada de la técnica LLE, la cual nos permite construir un algoritmo de reducción de dimensión no lineal que preserva la geómetra local de los datos y provee una estrategia supervisada durante el procedimiento de inmersión, mejorando los resultados de visualización y/o clasificación en comparación con LLE convencional u otras técnicas de reducción de dimensión no lineal restringidas Topológicamente. Nuestras aproximaciones son evaluadas experimentalmente en conjuntos de datos artificiales y reales, lo cual permite confirmar visual y cuantitativamente si los resultados de la inmersión fueron calculados correctamente. La unión de estos avances conforma un método para el entrenamiento de sistemas de reconocimiento de patrones, el cual es un método de reducción de dimensión no lineal totalmente automatizado que permite usar representaciones funcionales, preservar las relaciones locales entre los datos de entrada de alta dimensión, y proveer un esquema supervisado para la reducción de dimensión. En este sentido, la técnica de reducción de dimensión no lineal supervisada es eficiente y competitiva, superando otros métodos semejantes. Además, esta técnica exhibe la habilidad de calcular representaciones de baja dimensión para múltiples variedades de manera simultánea / Abstract: In this work, three specific improvements for the nonlinear dimensionality reduction technique called locally linear embedding (LLE) are proposed. Firstly, an objective way to choose the free parameters of the LLE algorithm is introduced, particularly, new methods for choosing the regularization parameter and the number of nearest neighbors are developed. This makes possible that low dimensional representations obtained by means of LLE to be consistent. Secondly, it is presented a new technique for nonlinear dimensionality reduction (NLDR) called correntropy locally linear embedding, that improves the performance of the LLE algorithm. This technique replaces the Euclidean distance as similarity measure by the correntropy similarity measure in the core of the NLDR algorithm, which is very useful when noisy functional data are employed, allowing to correctly determine the local neighborhoods, which are the basis for suitable embedding results. And finally, as third topic, it is formulated an improved version of the LLE technique, which allows us to construct a NLDR algorithm that preserves the local geometry of the data, and provides a supervised strategy during the embedding procedure, improving the visualization and/or classification results in comparison to conventional LLE or other topologically constrained NLDR techniques. Our approaches are experimentally assessed on artificial and real-world data sets, which allow us to visually and quantitatively confirm whether the embedding results were correctly calculated. The conjunction of these advances conforms a method for training pattern recognition systems, which is a full automatized nonlinear dimensionality reduction method that allows to use of functional representations, to preserve the local relations among the high dimensional input data, and to provide a supervised scheme for the dimensionality reduction. In this sense, the proposed supervised NLDR technique is efficient and competitive, outperforming other similar methods. Besides, it shows the ability of computing low dimensional representations of several manifolds at the same time.Doctoradoapplication/pdfspaUniversidad Nacional de Colombia Sede Manizales Facultad de Ingeniería y Arquitectura Departamento de Ingeniería Eléctrica, Electrónica y ComputaciónDepartamento de Ingeniería Eléctrica, Electrónica y ComputaciónDaza Santacoloma, Genaro (2010) Functional data representation and discrimination employing locally linear embedding = Representación y discriminación de datos funcionales empleando inmersiones localmente lineales. Doctorado thesis, Universidad Nacional de Colombia - Sede Manizales.51 Matemáticas / Mathematics62 Ingeniería y operaciones afines / EngineeringSistemas de reconocimiento de patrones, Inmersión localmente lineal, Reducción no lineal de dimensión, CorrentropíaFunctional data representation and discrimination employing locally linear embedding = Representación y discriminación de datos funcionales empleando inmersiones localmente linealesTrabajo de grado - Doctoradoinfo:eu-repo/semantics/doctoralThesisinfo:eu-repo/semantics/acceptedVersionhttp://purl.org/coar/resource_type/c_db06Texthttp://purl.org/redcol/resource_type/TDORIGINALgenarodazasantacoloma.2010_Parte3.pdfapplication/pdf5030615https://repositorio.unal.edu.co/bitstream/unal/70139/1/genarodazasantacoloma.2010_Parte3.pdf4ea73fd5355f02c9beb96225209903b2MD51genarodazasantacoloma.2010_Parte5.pdfapplication/pdf28396https://repositorio.unal.edu.co/bitstream/unal/70139/2/genarodazasantacoloma.2010_Parte5.pdf99f61a3474223fefda5526650ca915dfMD52genarodazasantacoloma.2010_Parte1.pdfapplication/pdf316996https://repositorio.unal.edu.co/bitstream/unal/70139/3/genarodazasantacoloma.2010_Parte1.pdf718b5b665b594406e928da78c2ab73ddMD53genarodazasantacoloma.2010_Parte2.pdfapplication/pdf721413https://repositorio.unal.edu.co/bitstream/unal/70139/4/genarodazasantacoloma.2010_Parte2.pdfda28a044050d677d1880b60f8424c4bfMD54genarodazasantacoloma.2010_Parte4.pdfapplication/pdf976558https://repositorio.unal.edu.co/bitstream/unal/70139/5/genarodazasantacoloma.2010_Parte4.pdfb9d1c069cf49bca18effab3765d41b29MD55THUMBNAILgenarodazasantacoloma.2010_Parte3.pdf.jpggenarodazasantacoloma.2010_Parte3.pdf.jpgGenerated Thumbnailimage/jpeg8894https://repositorio.unal.edu.co/bitstream/unal/70139/6/genarodazasantacoloma.2010_Parte3.pdf.jpgf4aae181c1b219a20181db7ff747f2a0MD56genarodazasantacoloma.2010_Parte5.pdf.jpggenarodazasantacoloma.2010_Parte5.pdf.jpgGenerated Thumbnailimage/jpeg4419https://repositorio.unal.edu.co/bitstream/unal/70139/7/genarodazasantacoloma.2010_Parte5.pdf.jpg5641280c5a10d957da471caf7e205dd7MD57genarodazasantacoloma.2010_Parte1.pdf.jpggenarodazasantacoloma.2010_Parte1.pdf.jpgGenerated Thumbnailimage/jpeg4943https://repositorio.unal.edu.co/bitstream/unal/70139/8/genarodazasantacoloma.2010_Parte1.pdf.jpgca3cd9b523950ccaa1938d537318d49cMD58genarodazasantacoloma.2010_Parte2.pdf.jpggenarodazasantacoloma.2010_Parte2.pdf.jpgGenerated Thumbnailimage/jpeg8423https://repositorio.unal.edu.co/bitstream/unal/70139/9/genarodazasantacoloma.2010_Parte2.pdf.jpg568018fecce105e3962ab5e6b8093fa9MD59genarodazasantacoloma.2010_Parte4.pdf.jpggenarodazasantacoloma.2010_Parte4.pdf.jpgGenerated Thumbnailimage/jpeg5889https://repositorio.unal.edu.co/bitstream/unal/70139/10/genarodazasantacoloma.2010_Parte4.pdf.jpg2ac9ce2ebcbf975fb4be98192d467bdfMD510unal/70139oai:repositorio.unal.edu.co:unal/701392024-06-04 23:09:32.255Repositorio Institucional Universidad Nacional de Colombiarepositorio_nal@unal.edu.co