Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo

En ésta tesis se ha diseñado un nuevo criterio para la selección del modelo de red neuronal Cascada-Correlación que controla íntegramente el tamaño del conjunto de entrenamiento, la complejidad del modelo y la magnitud de los pesos para obtener modelos con buena capacidad de generalización. Para est...

Full description

Autores:
Villa Garzón, Fernán Alonso
Tipo de recurso:
Doctoral thesis
Fecha de publicación:
2015
Institución:
Universidad Nacional de Colombia
Repositorio:
Universidad Nacional de Colombia
Idioma:
spa
OAI Identifier:
oai:repositorio.unal.edu.co:unal/55411
Acceso en línea:
https://repositorio.unal.edu.co/handle/unal/55411
http://bdigital.unal.edu.co/50820/
Palabra clave:
0 Generalidades / Computer science, information and general works
Redes neuronales artificiales
Sobreajuste
Sobreparametrización
Criterio de información
Redes cascada - Correlación
Aprendizaje predictivo
Series de tiempo
Artificial neural networks
Overfitting
Over-Parameterization
Information criterion
Cascade - Correlation networks
Predictive learning
Time series
Rights
openAccess
License
Atribución-NoComercial 4.0 Internacional
id UNACIONAL2_7489e3c1c1daac2a2e701a8ece6fa4e2
oai_identifier_str oai:repositorio.unal.edu.co:unal/55411
network_acronym_str UNACIONAL2
network_name_str Universidad Nacional de Colombia
repository_id_str
dc.title.spa.fl_str_mv Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo
title Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo
spellingShingle Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo
0 Generalidades / Computer science, information and general works
Redes neuronales artificiales
Sobreajuste
Sobreparametrización
Criterio de información
Redes cascada - Correlación
Aprendizaje predictivo
Series de tiempo
Artificial neural networks
Overfitting
Over-Parameterization
Information criterion
Cascade - Correlation networks
Predictive learning
Time series
title_short Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo
title_full Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo
title_fullStr Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo
title_full_unstemmed Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo
title_sort Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo
dc.creator.fl_str_mv Villa Garzón, Fernán Alonso
dc.contributor.author.spa.fl_str_mv Villa Garzón, Fernán Alonso
dc.contributor.spa.fl_str_mv Velásquez Henao, Juan David
dc.subject.ddc.spa.fl_str_mv 0 Generalidades / Computer science, information and general works
topic 0 Generalidades / Computer science, information and general works
Redes neuronales artificiales
Sobreajuste
Sobreparametrización
Criterio de información
Redes cascada - Correlación
Aprendizaje predictivo
Series de tiempo
Artificial neural networks
Overfitting
Over-Parameterization
Information criterion
Cascade - Correlation networks
Predictive learning
Time series
dc.subject.proposal.spa.fl_str_mv Redes neuronales artificiales
Sobreajuste
Sobreparametrización
Criterio de información
Redes cascada - Correlación
Aprendizaje predictivo
Series de tiempo
Artificial neural networks
Overfitting
Over-Parameterization
Information criterion
Cascade - Correlation networks
Predictive learning
Time series
description En ésta tesis se ha diseñado un nuevo criterio para la selección del modelo de red neuronal Cascada-Correlación que controla íntegramente el tamaño del conjunto de entrenamiento, la complejidad del modelo y la magnitud de los pesos para obtener modelos con buena capacidad de generalización. Para esto se parte del análisis de los problemas que afectan la capacidad de generalización de la red: el primero relacionado con que la cantidad de datos del conjunto de entrenamiento contenga la información suficiente para reproducir el proceso generador de datos, el segundo con la cantidad de parámetros adecuada para representar el proceso generador de datos, y tercero la alta fluctuación de los parámetros; estos aspectos inciden en que el entrenamiento de la red sea un problema mal condicionado y se incurra en el sobreajuste. Para solucionar este tipo de problemas Tikhonov en (1963) propuso una solución matemática llamada Regularización; sin embargo, aplicar este tipo de solución es complejo dado que requiere determinar el parámetro de cuánto penalizar y el término de cómo penalizar y las propuestas que se han presentado han mostrado ser poco efectivas. Entonces, se ha propuesto desde un punto de vista conceptual y experimental cómo seleccionar efectivamente el valor del parámetro de regularización y dos nuevas ecuaciones de regularización con base en la varianza y la desviación estándar de los parámetros. Experimentalmente se mostró, al pronosticar siete series de tiempo, que la propuesta realizada es superior que modelos tradicionales de la literatura y que permite controlar efectivamente los problemas comentados y seleccionar el modelo adecuado que represente efectivamente a la serie de tiempo.
publishDate 2015
dc.date.issued.spa.fl_str_mv 2015
dc.date.accessioned.spa.fl_str_mv 2019-07-02T11:19:01Z
dc.date.available.spa.fl_str_mv 2019-07-02T11:19:01Z
dc.type.spa.fl_str_mv Trabajo de grado - Doctorado
dc.type.driver.spa.fl_str_mv info:eu-repo/semantics/doctoralThesis
dc.type.version.spa.fl_str_mv info:eu-repo/semantics/acceptedVersion
dc.type.coar.spa.fl_str_mv http://purl.org/coar/resource_type/c_db06
dc.type.content.spa.fl_str_mv Text
dc.type.redcol.spa.fl_str_mv http://purl.org/redcol/resource_type/TD
format http://purl.org/coar/resource_type/c_db06
status_str acceptedVersion
dc.identifier.uri.none.fl_str_mv https://repositorio.unal.edu.co/handle/unal/55411
dc.identifier.eprints.spa.fl_str_mv http://bdigital.unal.edu.co/50820/
url https://repositorio.unal.edu.co/handle/unal/55411
http://bdigital.unal.edu.co/50820/
dc.language.iso.spa.fl_str_mv spa
language spa
dc.relation.ispartof.spa.fl_str_mv Universidad Nacional de Colombia Sede Medellín Facultad de Minas Escuela de Sistemas
Escuela de Sistemas
dc.relation.references.spa.fl_str_mv Villa Garzón, Fernán Alonso (2015) Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo. Doctorado thesis, Universidad Nacional de Colombia - Sede Medellín.
dc.rights.spa.fl_str_mv Derechos reservados - Universidad Nacional de Colombia
dc.rights.coar.fl_str_mv http://purl.org/coar/access_right/c_abf2
dc.rights.license.spa.fl_str_mv Atribución-NoComercial 4.0 Internacional
dc.rights.uri.spa.fl_str_mv http://creativecommons.org/licenses/by-nc/4.0/
dc.rights.accessrights.spa.fl_str_mv info:eu-repo/semantics/openAccess
rights_invalid_str_mv Atribución-NoComercial 4.0 Internacional
Derechos reservados - Universidad Nacional de Colombia
http://creativecommons.org/licenses/by-nc/4.0/
http://purl.org/coar/access_right/c_abf2
eu_rights_str_mv openAccess
dc.format.mimetype.spa.fl_str_mv application/pdf
institution Universidad Nacional de Colombia
bitstream.url.fl_str_mv https://repositorio.unal.edu.co/bitstream/unal/55411/1/8061440.2016.pdf
https://repositorio.unal.edu.co/bitstream/unal/55411/2/8061440.2016.pdf.jpg
bitstream.checksum.fl_str_mv 932235ea097d404d2c2468165a8261b1
39639a7303dba49cc3b7925b8aa1ebb5
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
repository.name.fl_str_mv Repositorio Institucional Universidad Nacional de Colombia
repository.mail.fl_str_mv repositorio_nal@unal.edu.co
_version_ 1814090193533140992
spelling Atribución-NoComercial 4.0 InternacionalDerechos reservados - Universidad Nacional de Colombiahttp://creativecommons.org/licenses/by-nc/4.0/info:eu-repo/semantics/openAccesshttp://purl.org/coar/access_right/c_abf2Velásquez Henao, Juan DavidVilla Garzón, Fernán Alonso233cc363-6770-4bc7-b05f-ff17a41ebc133002019-07-02T11:19:01Z2019-07-02T11:19:01Z2015https://repositorio.unal.edu.co/handle/unal/55411http://bdigital.unal.edu.co/50820/En ésta tesis se ha diseñado un nuevo criterio para la selección del modelo de red neuronal Cascada-Correlación que controla íntegramente el tamaño del conjunto de entrenamiento, la complejidad del modelo y la magnitud de los pesos para obtener modelos con buena capacidad de generalización. Para esto se parte del análisis de los problemas que afectan la capacidad de generalización de la red: el primero relacionado con que la cantidad de datos del conjunto de entrenamiento contenga la información suficiente para reproducir el proceso generador de datos, el segundo con la cantidad de parámetros adecuada para representar el proceso generador de datos, y tercero la alta fluctuación de los parámetros; estos aspectos inciden en que el entrenamiento de la red sea un problema mal condicionado y se incurra en el sobreajuste. Para solucionar este tipo de problemas Tikhonov en (1963) propuso una solución matemática llamada Regularización; sin embargo, aplicar este tipo de solución es complejo dado que requiere determinar el parámetro de cuánto penalizar y el término de cómo penalizar y las propuestas que se han presentado han mostrado ser poco efectivas. Entonces, se ha propuesto desde un punto de vista conceptual y experimental cómo seleccionar efectivamente el valor del parámetro de regularización y dos nuevas ecuaciones de regularización con base en la varianza y la desviación estándar de los parámetros. Experimentalmente se mostró, al pronosticar siete series de tiempo, que la propuesta realizada es superior que modelos tradicionales de la literatura y que permite controlar efectivamente los problemas comentados y seleccionar el modelo adecuado que represente efectivamente a la serie de tiempo.Abstract: In this dissertation, we have designed a new criterion for the selection of the cascade-correlation neural network model that controls integrally the size of the training set, model complexity and magnitude of the weights in order to obtain models with good generalization ability. We start with analysis of the problems affecting the generalization ability of the network, the first related to the amount of data in the training set that contains enough information to reproduce the data generating process, the second with the right amount of parameters to represent the data generating process and the third the high fluctuation of parameters. These three aspects affect the training of the network and make it an ill-conditioned problem and cause overfitting. To avoid these problems Tikhonov in (1963) proposed a mathematical solution called Regularization. However, implementing this type of solution is complex, since it requires the regularization parameter (how much to penalize) and determining the regularization term (how to penalize), the many proposals that have been presented them have proved ineffective. Then, we proposed from a conceptual and experimental view how to effectively choose the regularization parameter and as regularization terms the variance and standard deviation of the parameters. We show experimentally with seven time series, that our information criterion allows to effectively control the overfitting and allow to select the appropriate model that effectively represent the time series.Doctoradoapplication/pdfspaUniversidad Nacional de Colombia Sede Medellín Facultad de Minas Escuela de SistemasEscuela de SistemasVilla Garzón, Fernán Alonso (2015) Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo. Doctorado thesis, Universidad Nacional de Colombia - Sede Medellín.0 Generalidades / Computer science, information and general worksRedes neuronales artificialesSobreajusteSobreparametrizaciónCriterio de informaciónRedes cascada - CorrelaciónAprendizaje predictivoSeries de tiempoArtificial neural networksOverfittingOver-ParameterizationInformation criterionCascade - Correlation networksPredictive learningTime seriesRegularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempoTrabajo de grado - Doctoradoinfo:eu-repo/semantics/doctoralThesisinfo:eu-repo/semantics/acceptedVersionhttp://purl.org/coar/resource_type/c_db06Texthttp://purl.org/redcol/resource_type/TDORIGINAL8061440.2016.pdfTesis de Doctorado en Ingeniería - Sistemasapplication/pdf3490621https://repositorio.unal.edu.co/bitstream/unal/55411/1/8061440.2016.pdf932235ea097d404d2c2468165a8261b1MD51THUMBNAIL8061440.2016.pdf.jpg8061440.2016.pdf.jpgGenerated Thumbnailimage/jpeg4604https://repositorio.unal.edu.co/bitstream/unal/55411/2/8061440.2016.pdf.jpg39639a7303dba49cc3b7925b8aa1ebb5MD52unal/55411oai:repositorio.unal.edu.co:unal/554112024-03-17 23:08:04.592Repositorio Institucional Universidad Nacional de Colombiarepositorio_nal@unal.edu.co