Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo
En ésta tesis se ha diseñado un nuevo criterio para la selección del modelo de red neuronal Cascada-Correlación que controla íntegramente el tamaño del conjunto de entrenamiento, la complejidad del modelo y la magnitud de los pesos para obtener modelos con buena capacidad de generalización. Para est...
- Autores:
-
Villa Garzón, Fernán Alonso
- Tipo de recurso:
- Doctoral thesis
- Fecha de publicación:
- 2015
- Institución:
- Universidad Nacional de Colombia
- Repositorio:
- Universidad Nacional de Colombia
- Idioma:
- spa
- OAI Identifier:
- oai:repositorio.unal.edu.co:unal/55411
- Acceso en línea:
- https://repositorio.unal.edu.co/handle/unal/55411
http://bdigital.unal.edu.co/50820/
- Palabra clave:
- 0 Generalidades / Computer science, information and general works
Redes neuronales artificiales
Sobreajuste
Sobreparametrización
Criterio de información
Redes cascada - Correlación
Aprendizaje predictivo
Series de tiempo
Artificial neural networks
Overfitting
Over-Parameterization
Information criterion
Cascade - Correlation networks
Predictive learning
Time series
- Rights
- openAccess
- License
- Atribución-NoComercial 4.0 Internacional
id |
UNACIONAL2_7489e3c1c1daac2a2e701a8ece6fa4e2 |
---|---|
oai_identifier_str |
oai:repositorio.unal.edu.co:unal/55411 |
network_acronym_str |
UNACIONAL2 |
network_name_str |
Universidad Nacional de Colombia |
repository_id_str |
|
dc.title.spa.fl_str_mv |
Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo |
title |
Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo |
spellingShingle |
Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo 0 Generalidades / Computer science, information and general works Redes neuronales artificiales Sobreajuste Sobreparametrización Criterio de información Redes cascada - Correlación Aprendizaje predictivo Series de tiempo Artificial neural networks Overfitting Over-Parameterization Information criterion Cascade - Correlation networks Predictive learning Time series |
title_short |
Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo |
title_full |
Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo |
title_fullStr |
Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo |
title_full_unstemmed |
Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo |
title_sort |
Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo |
dc.creator.fl_str_mv |
Villa Garzón, Fernán Alonso |
dc.contributor.author.spa.fl_str_mv |
Villa Garzón, Fernán Alonso |
dc.contributor.spa.fl_str_mv |
Velásquez Henao, Juan David |
dc.subject.ddc.spa.fl_str_mv |
0 Generalidades / Computer science, information and general works |
topic |
0 Generalidades / Computer science, information and general works Redes neuronales artificiales Sobreajuste Sobreparametrización Criterio de información Redes cascada - Correlación Aprendizaje predictivo Series de tiempo Artificial neural networks Overfitting Over-Parameterization Information criterion Cascade - Correlation networks Predictive learning Time series |
dc.subject.proposal.spa.fl_str_mv |
Redes neuronales artificiales Sobreajuste Sobreparametrización Criterio de información Redes cascada - Correlación Aprendizaje predictivo Series de tiempo Artificial neural networks Overfitting Over-Parameterization Information criterion Cascade - Correlation networks Predictive learning Time series |
description |
En ésta tesis se ha diseñado un nuevo criterio para la selección del modelo de red neuronal Cascada-Correlación que controla íntegramente el tamaño del conjunto de entrenamiento, la complejidad del modelo y la magnitud de los pesos para obtener modelos con buena capacidad de generalización. Para esto se parte del análisis de los problemas que afectan la capacidad de generalización de la red: el primero relacionado con que la cantidad de datos del conjunto de entrenamiento contenga la información suficiente para reproducir el proceso generador de datos, el segundo con la cantidad de parámetros adecuada para representar el proceso generador de datos, y tercero la alta fluctuación de los parámetros; estos aspectos inciden en que el entrenamiento de la red sea un problema mal condicionado y se incurra en el sobreajuste. Para solucionar este tipo de problemas Tikhonov en (1963) propuso una solución matemática llamada Regularización; sin embargo, aplicar este tipo de solución es complejo dado que requiere determinar el parámetro de cuánto penalizar y el término de cómo penalizar y las propuestas que se han presentado han mostrado ser poco efectivas. Entonces, se ha propuesto desde un punto de vista conceptual y experimental cómo seleccionar efectivamente el valor del parámetro de regularización y dos nuevas ecuaciones de regularización con base en la varianza y la desviación estándar de los parámetros. Experimentalmente se mostró, al pronosticar siete series de tiempo, que la propuesta realizada es superior que modelos tradicionales de la literatura y que permite controlar efectivamente los problemas comentados y seleccionar el modelo adecuado que represente efectivamente a la serie de tiempo. |
publishDate |
2015 |
dc.date.issued.spa.fl_str_mv |
2015 |
dc.date.accessioned.spa.fl_str_mv |
2019-07-02T11:19:01Z |
dc.date.available.spa.fl_str_mv |
2019-07-02T11:19:01Z |
dc.type.spa.fl_str_mv |
Trabajo de grado - Doctorado |
dc.type.driver.spa.fl_str_mv |
info:eu-repo/semantics/doctoralThesis |
dc.type.version.spa.fl_str_mv |
info:eu-repo/semantics/acceptedVersion |
dc.type.coar.spa.fl_str_mv |
http://purl.org/coar/resource_type/c_db06 |
dc.type.content.spa.fl_str_mv |
Text |
dc.type.redcol.spa.fl_str_mv |
http://purl.org/redcol/resource_type/TD |
format |
http://purl.org/coar/resource_type/c_db06 |
status_str |
acceptedVersion |
dc.identifier.uri.none.fl_str_mv |
https://repositorio.unal.edu.co/handle/unal/55411 |
dc.identifier.eprints.spa.fl_str_mv |
http://bdigital.unal.edu.co/50820/ |
url |
https://repositorio.unal.edu.co/handle/unal/55411 http://bdigital.unal.edu.co/50820/ |
dc.language.iso.spa.fl_str_mv |
spa |
language |
spa |
dc.relation.ispartof.spa.fl_str_mv |
Universidad Nacional de Colombia Sede Medellín Facultad de Minas Escuela de Sistemas Escuela de Sistemas |
dc.relation.references.spa.fl_str_mv |
Villa Garzón, Fernán Alonso (2015) Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo. Doctorado thesis, Universidad Nacional de Colombia - Sede Medellín. |
dc.rights.spa.fl_str_mv |
Derechos reservados - Universidad Nacional de Colombia |
dc.rights.coar.fl_str_mv |
http://purl.org/coar/access_right/c_abf2 |
dc.rights.license.spa.fl_str_mv |
Atribución-NoComercial 4.0 Internacional |
dc.rights.uri.spa.fl_str_mv |
http://creativecommons.org/licenses/by-nc/4.0/ |
dc.rights.accessrights.spa.fl_str_mv |
info:eu-repo/semantics/openAccess |
rights_invalid_str_mv |
Atribución-NoComercial 4.0 Internacional Derechos reservados - Universidad Nacional de Colombia http://creativecommons.org/licenses/by-nc/4.0/ http://purl.org/coar/access_right/c_abf2 |
eu_rights_str_mv |
openAccess |
dc.format.mimetype.spa.fl_str_mv |
application/pdf |
institution |
Universidad Nacional de Colombia |
bitstream.url.fl_str_mv |
https://repositorio.unal.edu.co/bitstream/unal/55411/1/8061440.2016.pdf https://repositorio.unal.edu.co/bitstream/unal/55411/2/8061440.2016.pdf.jpg |
bitstream.checksum.fl_str_mv |
932235ea097d404d2c2468165a8261b1 39639a7303dba49cc3b7925b8aa1ebb5 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 |
repository.name.fl_str_mv |
Repositorio Institucional Universidad Nacional de Colombia |
repository.mail.fl_str_mv |
repositorio_nal@unal.edu.co |
_version_ |
1814090193533140992 |
spelling |
Atribución-NoComercial 4.0 InternacionalDerechos reservados - Universidad Nacional de Colombiahttp://creativecommons.org/licenses/by-nc/4.0/info:eu-repo/semantics/openAccesshttp://purl.org/coar/access_right/c_abf2Velásquez Henao, Juan DavidVilla Garzón, Fernán Alonso233cc363-6770-4bc7-b05f-ff17a41ebc133002019-07-02T11:19:01Z2019-07-02T11:19:01Z2015https://repositorio.unal.edu.co/handle/unal/55411http://bdigital.unal.edu.co/50820/En ésta tesis se ha diseñado un nuevo criterio para la selección del modelo de red neuronal Cascada-Correlación que controla íntegramente el tamaño del conjunto de entrenamiento, la complejidad del modelo y la magnitud de los pesos para obtener modelos con buena capacidad de generalización. Para esto se parte del análisis de los problemas que afectan la capacidad de generalización de la red: el primero relacionado con que la cantidad de datos del conjunto de entrenamiento contenga la información suficiente para reproducir el proceso generador de datos, el segundo con la cantidad de parámetros adecuada para representar el proceso generador de datos, y tercero la alta fluctuación de los parámetros; estos aspectos inciden en que el entrenamiento de la red sea un problema mal condicionado y se incurra en el sobreajuste. Para solucionar este tipo de problemas Tikhonov en (1963) propuso una solución matemática llamada Regularización; sin embargo, aplicar este tipo de solución es complejo dado que requiere determinar el parámetro de cuánto penalizar y el término de cómo penalizar y las propuestas que se han presentado han mostrado ser poco efectivas. Entonces, se ha propuesto desde un punto de vista conceptual y experimental cómo seleccionar efectivamente el valor del parámetro de regularización y dos nuevas ecuaciones de regularización con base en la varianza y la desviación estándar de los parámetros. Experimentalmente se mostró, al pronosticar siete series de tiempo, que la propuesta realizada es superior que modelos tradicionales de la literatura y que permite controlar efectivamente los problemas comentados y seleccionar el modelo adecuado que represente efectivamente a la serie de tiempo.Abstract: In this dissertation, we have designed a new criterion for the selection of the cascade-correlation neural network model that controls integrally the size of the training set, model complexity and magnitude of the weights in order to obtain models with good generalization ability. We start with analysis of the problems affecting the generalization ability of the network, the first related to the amount of data in the training set that contains enough information to reproduce the data generating process, the second with the right amount of parameters to represent the data generating process and the third the high fluctuation of parameters. These three aspects affect the training of the network and make it an ill-conditioned problem and cause overfitting. To avoid these problems Tikhonov in (1963) proposed a mathematical solution called Regularization. However, implementing this type of solution is complex, since it requires the regularization parameter (how much to penalize) and determining the regularization term (how to penalize), the many proposals that have been presented them have proved ineffective. Then, we proposed from a conceptual and experimental view how to effectively choose the regularization parameter and as regularization terms the variance and standard deviation of the parameters. We show experimentally with seven time series, that our information criterion allows to effectively control the overfitting and allow to select the appropriate model that effectively represent the time series.Doctoradoapplication/pdfspaUniversidad Nacional de Colombia Sede Medellín Facultad de Minas Escuela de SistemasEscuela de SistemasVilla Garzón, Fernán Alonso (2015) Regularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempo. Doctorado thesis, Universidad Nacional de Colombia - Sede Medellín.0 Generalidades / Computer science, information and general worksRedes neuronales artificialesSobreajusteSobreparametrizaciónCriterio de informaciónRedes cascada - CorrelaciónAprendizaje predictivoSeries de tiempoArtificial neural networksOverfittingOver-ParameterizationInformation criterionCascade - Correlation networksPredictive learningTime seriesRegularización de redes neuronales tipo cascada-correlación para el pronóstico de series de tiempoTrabajo de grado - Doctoradoinfo:eu-repo/semantics/doctoralThesisinfo:eu-repo/semantics/acceptedVersionhttp://purl.org/coar/resource_type/c_db06Texthttp://purl.org/redcol/resource_type/TDORIGINAL8061440.2016.pdfTesis de Doctorado en Ingeniería - Sistemasapplication/pdf3490621https://repositorio.unal.edu.co/bitstream/unal/55411/1/8061440.2016.pdf932235ea097d404d2c2468165a8261b1MD51THUMBNAIL8061440.2016.pdf.jpg8061440.2016.pdf.jpgGenerated Thumbnailimage/jpeg4604https://repositorio.unal.edu.co/bitstream/unal/55411/2/8061440.2016.pdf.jpg39639a7303dba49cc3b7925b8aa1ebb5MD52unal/55411oai:repositorio.unal.edu.co:unal/554112024-03-17 23:08:04.592Repositorio Institucional Universidad Nacional de Colombiarepositorio_nal@unal.edu.co |