Algoritmos de Boosting para modelos de clasificación y regresión lineal
El propósito de este trabajo es estudiar diferentes aplicaciones del método de Boosting en el contexto de aprendizaje de máquinas para problemas de aprendizaje supervisado.
- Autores:
-
Rugeles Ospina, Nicolás
- Tipo de recurso:
- Trabajo de grado de pregrado
- Fecha de publicación:
- 2022
- Institución:
- Universidad de los Andes
- Repositorio:
- Séneca: repositorio Uniandes
- Idioma:
- spa
- OAI Identifier:
- oai:repositorio.uniandes.edu.co:1992/58942
- Acceso en línea:
- http://hdl.handle.net/1992/58942
- Palabra clave:
- Optimización convexa
Optimización matemática
Matemáticas
- Rights
- openAccess
- License
- Atribución-NoComercial 4.0 Internacional
| id |
UNIANDES2_5d8bf9cc506f455c473149b8783037ce |
|---|---|
| oai_identifier_str |
oai:repositorio.uniandes.edu.co:1992/58942 |
| network_acronym_str |
UNIANDES2 |
| network_name_str |
Séneca: repositorio Uniandes |
| repository_id_str |
|
| dc.title.none.fl_str_mv |
Algoritmos de Boosting para modelos de clasificación y regresión lineal |
| title |
Algoritmos de Boosting para modelos de clasificación y regresión lineal |
| spellingShingle |
Algoritmos de Boosting para modelos de clasificación y regresión lineal Optimización convexa Optimización matemática Matemáticas |
| title_short |
Algoritmos de Boosting para modelos de clasificación y regresión lineal |
| title_full |
Algoritmos de Boosting para modelos de clasificación y regresión lineal |
| title_fullStr |
Algoritmos de Boosting para modelos de clasificación y regresión lineal |
| title_full_unstemmed |
Algoritmos de Boosting para modelos de clasificación y regresión lineal |
| title_sort |
Algoritmos de Boosting para modelos de clasificación y regresión lineal |
| dc.creator.fl_str_mv |
Rugeles Ospina, Nicolás |
| dc.contributor.advisor.none.fl_str_mv |
Junca Peláez, Mauricio José |
| dc.contributor.author.none.fl_str_mv |
Rugeles Ospina, Nicolás |
| dc.contributor.jury.none.fl_str_mv |
Quiroz Salazar, Adolfo José |
| dc.subject.keyword.none.fl_str_mv |
Optimización convexa Optimización matemática |
| topic |
Optimización convexa Optimización matemática Matemáticas |
| dc.subject.themes.es_CO.fl_str_mv |
Matemáticas |
| description |
El propósito de este trabajo es estudiar diferentes aplicaciones del método de Boosting en el contexto de aprendizaje de máquinas para problemas de aprendizaje supervisado. |
| publishDate |
2022 |
| dc.date.accessioned.none.fl_str_mv |
2022-07-19T01:52:31Z |
| dc.date.available.none.fl_str_mv |
2022-07-19T01:52:31Z |
| dc.date.issued.none.fl_str_mv |
2022 |
| dc.type.es_CO.fl_str_mv |
Trabajo de grado - Pregrado |
| dc.type.driver.none.fl_str_mv |
info:eu-repo/semantics/bachelorThesis |
| dc.type.version.none.fl_str_mv |
info:eu-repo/semantics/acceptedVersion |
| dc.type.coar.none.fl_str_mv |
http://purl.org/coar/resource_type/c_7a1f |
| dc.type.content.es_CO.fl_str_mv |
Text |
| dc.type.redcol.none.fl_str_mv |
http://purl.org/redcol/resource_type/TP |
| format |
http://purl.org/coar/resource_type/c_7a1f |
| status_str |
acceptedVersion |
| dc.identifier.uri.none.fl_str_mv |
http://hdl.handle.net/1992/58942 |
| dc.identifier.instname.es_CO.fl_str_mv |
instname:Universidad de los Andes |
| dc.identifier.reponame.es_CO.fl_str_mv |
reponame:Repositorio Institucional Séneca |
| dc.identifier.repourl.es_CO.fl_str_mv |
repourl:https://repositorio.uniandes.edu.co/ |
| url |
http://hdl.handle.net/1992/58942 |
| identifier_str_mv |
instname:Universidad de los Andes reponame:Repositorio Institucional Séneca repourl:https://repositorio.uniandes.edu.co/ |
| dc.language.iso.es_CO.fl_str_mv |
spa |
| language |
spa |
| dc.relation.references.es_CO.fl_str_mv |
Stephen Boyd and Lieven Vandenberghe. Convex Optimization. Cambridge University Press, 2004. Robert M. Freund, Paul Grigas, and Rahul Mazumder. A new perspective on boosting in linear regression via subgradient optimization and relatives. Ann. Statist., 45(6):2328-2364, 2017. Jerome Friedman, Trevor Hastie, and Robert Tibshirani. Additive logistic regression: a statistical view of boosting. Ann. Statist., 28(2):337-407, 2000. Llew Mason, Jonathan Baxter, Peter Bartlett, and Marcus Frean. Boosting algorithms as gradient descent. In S. Solla, T. Leen, and K. Müller,editors, Advances in Neural Information Processing Systems, volume 12, pages 512-518. MIT Press, 2000. |
| dc.rights.license.spa.fl_str_mv |
Atribución-NoComercial 4.0 Internacional |
| dc.rights.uri.*.fl_str_mv |
http://creativecommons.org/licenses/by-nc/4.0/ |
| dc.rights.accessrights.spa.fl_str_mv |
info:eu-repo/semantics/openAccess |
| dc.rights.coar.spa.fl_str_mv |
http://purl.org/coar/access_right/c_abf2 |
| rights_invalid_str_mv |
Atribución-NoComercial 4.0 Internacional http://creativecommons.org/licenses/by-nc/4.0/ http://purl.org/coar/access_right/c_abf2 |
| eu_rights_str_mv |
openAccess |
| dc.format.extent.es_CO.fl_str_mv |
80 páginas |
| dc.format.mimetype.es_CO.fl_str_mv |
application/pdf |
| dc.publisher.es_CO.fl_str_mv |
Universidad de los Andes |
| dc.publisher.program.es_CO.fl_str_mv |
Matemáticas |
| dc.publisher.faculty.es_CO.fl_str_mv |
Facultad de Ciencias |
| dc.publisher.department.es_CO.fl_str_mv |
Departamento de Matemáticas |
| institution |
Universidad de los Andes |
| bitstream.url.fl_str_mv |
https://repositorio.uniandes.edu.co/bitstreams/56431d03-58a5-4457-a2f5-a3749364bda2/download https://repositorio.uniandes.edu.co/bitstreams/f4923d73-6a17-429f-a7fe-f11c24dc07e5/download https://repositorio.uniandes.edu.co/bitstreams/63a168c4-5424-4d90-8b3e-6a686d6a40e2/download https://repositorio.uniandes.edu.co/bitstreams/932e32af-413f-4cfe-a5a8-0c556e6aa816/download https://repositorio.uniandes.edu.co/bitstreams/1166c1a6-7f3f-4299-a982-4b099a23c40b/download https://repositorio.uniandes.edu.co/bitstreams/aa103c90-563b-406d-86b8-9ff4be6c9f7e/download https://repositorio.uniandes.edu.co/bitstreams/e6ef5de7-a6f3-4a3e-bcda-44dc5d0ea9b8/download https://repositorio.uniandes.edu.co/bitstreams/12afa43a-d6b4-44cf-a882-c4162a33f8c8/download |
| bitstream.checksum.fl_str_mv |
e85cf989b4710d3bb17886cdc9c98e68 6ddf7a32f1afcc50907eef86ceff3939 5aa5c691a1ffe97abd12c2966efcb8d6 b3d14b3a335d390fadead13c343d80ff 7f77672517eaacd151367e5637833a4e 24013099e9e6abb1575dc6ce0855efd5 8e44cd55a7fd22788c6cbf69e23a92c2 4491fe1afb58beaaef41a73cf7ff2e27 |
| bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 MD5 MD5 MD5 MD5 MD5 |
| repository.name.fl_str_mv |
Repositorio institucional Séneca |
| repository.mail.fl_str_mv |
adminrepositorio@uniandes.edu.co |
| _version_ |
1812134046321344512 |
| spelling |
Atribución-NoComercial 4.0 Internacionalhttp://creativecommons.org/licenses/by-nc/4.0/info:eu-repo/semantics/openAccesshttp://purl.org/coar/access_right/c_abf2Junca Peláez, Mauricio José58e652ae-8600-403b-aaad-ffaf09accd01600Rugeles Ospina, Nicolásbeba4f48-e264-41f2-a655-0cebeaafca06600Quiroz Salazar, Adolfo José2022-07-19T01:52:31Z2022-07-19T01:52:31Z2022http://hdl.handle.net/1992/58942instname:Universidad de los Andesreponame:Repositorio Institucional Sénecarepourl:https://repositorio.uniandes.edu.co/El propósito de este trabajo es estudiar diferentes aplicaciones del método de Boosting en el contexto de aprendizaje de máquinas para problemas de aprendizaje supervisado.El propósito de este trabajo es estudiar diferentes aplicaciones del método de Boosting en el contexto de aprendizaje de máquinas para problemas de aprendizaje supervisado. Primero, se estudian diferentes algoritmos de Boosting para crear modelos aditivos tales como Adaboost y LogitBoost; popularizados a finales de los años 90 por su buen rendimiento. Se prueba que estos algoritmos crean de forma iterativa un modelo de regresión logística aditivo. Luego, se presenta un caso general de Boosting dentro de un espacio funcional. En este caso, se estudian algoritmos que no dependan directamente de la función de costo asociada lo que permite adaptarlos en diferentes contextos. Por otro lado, se estudian algoritmos de Boosting para resolver problemas de regresión lineal. Se estudian los algoritmos de LS-Boost y FS para resolver el problema de mínimos cuadrados. Se plantea el problema buscando el mejor residuo lo que permite demostrar que cada uno de estos algoritmos corresponde a una instancia de descenso de subgradiente para el mismo problema de optimización. Por último, se estudia una aproximación al problema de mínimos cuadrados regularizado modificando levemente el algoritmo de FS.MatemáticoPregrado80 páginasapplication/pdfspaUniversidad de los AndesMatemáticasFacultad de CienciasDepartamento de MatemáticasAlgoritmos de Boosting para modelos de clasificación y regresión linealTrabajo de grado - Pregradoinfo:eu-repo/semantics/bachelorThesisinfo:eu-repo/semantics/acceptedVersionhttp://purl.org/coar/resource_type/c_7a1fTexthttp://purl.org/redcol/resource_type/TPOptimización convexaOptimización matemáticaMatemáticasStephen Boyd and Lieven Vandenberghe. Convex Optimization. Cambridge University Press, 2004.Robert M. Freund, Paul Grigas, and Rahul Mazumder. A new perspective on boosting in linear regression via subgradient optimization and relatives. Ann. Statist., 45(6):2328-2364, 2017.Jerome Friedman, Trevor Hastie, and Robert Tibshirani. Additive logistic regression: a statistical view of boosting. Ann. Statist., 28(2):337-407, 2000.Llew Mason, Jonathan Baxter, Peter Bartlett, and Marcus Frean. Boosting algorithms as gradient descent. In S. Solla, T. Leen, and K. Müller,editors, Advances in Neural Information Processing Systems, volume 12, pages 512-518. MIT Press, 2000.201731740PublicationTHUMBNAILTrabajo_de_Grado_Nicolas_Rugeles.pdf.jpgTrabajo_de_Grado_Nicolas_Rugeles.pdf.jpgIM Thumbnailimage/jpeg7214https://repositorio.uniandes.edu.co/bitstreams/56431d03-58a5-4457-a2f5-a3749364bda2/downloade85cf989b4710d3bb17886cdc9c98e68MD56autorizacion_proyecto_de_grado_firmado.pdf.jpgautorizacion_proyecto_de_grado_firmado.pdf.jpgIM Thumbnailimage/jpeg15904https://repositorio.uniandes.edu.co/bitstreams/f4923d73-6a17-429f-a7fe-f11c24dc07e5/download6ddf7a32f1afcc50907eef86ceff3939MD58LICENSElicense.txtlicense.txttext/plain; charset=utf-81810https://repositorio.uniandes.edu.co/bitstreams/63a168c4-5424-4d90-8b3e-6a686d6a40e2/download5aa5c691a1ffe97abd12c2966efcb8d6MD51ORIGINALTrabajo_de_Grado_Nicolas_Rugeles.pdfTrabajo_de_Grado_Nicolas_Rugeles.pdfapplication/pdf1357033https://repositorio.uniandes.edu.co/bitstreams/932e32af-413f-4cfe-a5a8-0c556e6aa816/downloadb3d14b3a335d390fadead13c343d80ffMD53autorizacion_proyecto_de_grado_firmado.pdfautorizacion_proyecto_de_grado_firmado.pdfHIDEapplication/pdf205328https://repositorio.uniandes.edu.co/bitstreams/1166c1a6-7f3f-4299-a982-4b099a23c40b/download7f77672517eaacd151367e5637833a4eMD54CC-LICENSElicense_rdflicense_rdfapplication/rdf+xml; charset=utf-8914https://repositorio.uniandes.edu.co/bitstreams/aa103c90-563b-406d-86b8-9ff4be6c9f7e/download24013099e9e6abb1575dc6ce0855efd5MD52TEXTTrabajo_de_Grado_Nicolas_Rugeles.pdf.txtTrabajo_de_Grado_Nicolas_Rugeles.pdf.txtExtracted texttext/plain80476https://repositorio.uniandes.edu.co/bitstreams/e6ef5de7-a6f3-4a3e-bcda-44dc5d0ea9b8/download8e44cd55a7fd22788c6cbf69e23a92c2MD55autorizacion_proyecto_de_grado_firmado.pdf.txtautorizacion_proyecto_de_grado_firmado.pdf.txtExtracted texttext/plain1163https://repositorio.uniandes.edu.co/bitstreams/12afa43a-d6b4-44cf-a882-c4162a33f8c8/download4491fe1afb58beaaef41a73cf7ff2e27MD571992/58942oai:repositorio.uniandes.edu.co:1992/589422023-10-10 19:19:00.369http://creativecommons.org/licenses/by-nc/4.0/open.accesshttps://repositorio.uniandes.edu.coRepositorio institucional Sénecaadminrepositorio@uniandes.edu.coWW8sIGVuIG1pIGNhbGlkYWQgZGUgYXV0b3IgZGVsIHRyYWJham8gZGUgdGVzaXMsIG1vbm9ncmFmw61hIG8gdHJhYmFqbyBkZSBncmFkbywgaGFnbyBlbnRyZWdhIGRlbCBlamVtcGxhciByZXNwZWN0aXZvIHkgZGUgc3VzIGFuZXhvcyBkZSBzZXIgZWwgY2FzbywgZW4gZm9ybWF0byBkaWdpdGFsIHkvbyBlbGVjdHLDs25pY28geSBhdXRvcml6byBhIGxhIFVuaXZlcnNpZGFkIGRlIGxvcyBBbmRlcyBwYXJhIHF1ZSByZWFsaWNlIGxhIHB1YmxpY2FjacOzbiBlbiBlbCBTaXN0ZW1hIGRlIEJpYmxpb3RlY2FzIG8gZW4gY3VhbHF1aWVyIG90cm8gc2lzdGVtYSBvIGJhc2UgZGUgZGF0b3MgcHJvcGlvIG8gYWplbm8gYSBsYSBVbml2ZXJzaWRhZCB5IHBhcmEgcXVlIGVuIGxvcyB0w6lybWlub3MgZXN0YWJsZWNpZG9zIGVuIGxhIExleSAyMyBkZSAxOTgyLCBMZXkgNDQgZGUgMTk5MywgRGVjaXNpw7NuIEFuZGluYSAzNTEgZGUgMTk5MywgRGVjcmV0byA0NjAgZGUgMTk5NSB5IGRlbcOhcyBub3JtYXMgZ2VuZXJhbGVzIHNvYnJlIGxhIG1hdGVyaWEsIHV0aWxpY2UgZW4gdG9kYXMgc3VzIGZvcm1hcywgbG9zIGRlcmVjaG9zIHBhdHJpbW9uaWFsZXMgZGUgcmVwcm9kdWNjacOzbiwgY29tdW5pY2FjacOzbiBww7pibGljYSwgdHJhbnNmb3JtYWNpw7NuIHkgZGlzdHJpYnVjacOzbiAoYWxxdWlsZXIsIHByw6lzdGFtbyBww7pibGljbyBlIGltcG9ydGFjacOzbikgcXVlIG1lIGNvcnJlc3BvbmRlbiBjb21vIGNyZWFkb3IgZGUgbGEgb2JyYSBvYmpldG8gZGVsIHByZXNlbnRlIGRvY3VtZW50by4gIAoKCkxhIHByZXNlbnRlIGF1dG9yaXphY2nDs24gc2UgZW1pdGUgZW4gY2FsaWRhZCBkZSBhdXRvciBkZSBsYSBvYnJhIG9iamV0byBkZWwgcHJlc2VudGUgZG9jdW1lbnRvIHkgbm8gY29ycmVzcG9uZGUgYSBjZXNpw7NuIGRlIGRlcmVjaG9zLCBzaW5vIGEgbGEgYXV0b3JpemFjacOzbiBkZSB1c28gYWNhZMOpbWljbyBkZSBjb25mb3JtaWRhZCBjb24gbG8gYW50ZXJpb3JtZW50ZSBzZcOxYWxhZG8uIExhIHByZXNlbnRlIGF1dG9yaXphY2nDs24gc2UgaGFjZSBleHRlbnNpdmEgbm8gc29sbyBhIGxhcyBmYWN1bHRhZGVzIHkgZGVyZWNob3MgZGUgdXNvIHNvYnJlIGxhIG9icmEgZW4gZm9ybWF0byBvIHNvcG9ydGUgbWF0ZXJpYWwsIHNpbm8gdGFtYmnDqW4gcGFyYSBmb3JtYXRvIGVsZWN0csOzbmljbywgeSBlbiBnZW5lcmFsIHBhcmEgY3VhbHF1aWVyIGZvcm1hdG8gY29ub2NpZG8gbyBwb3IgY29ub2Nlci4gCgoKRWwgYXV0b3IsIG1hbmlmaWVzdGEgcXVlIGxhIG9icmEgb2JqZXRvIGRlIGxhIHByZXNlbnRlIGF1dG9yaXphY2nDs24gZXMgb3JpZ2luYWwgeSBsYSByZWFsaXrDsyBzaW4gdmlvbGFyIG8gdXN1cnBhciBkZXJlY2hvcyBkZSBhdXRvciBkZSB0ZXJjZXJvcywgcG9yIGxvIHRhbnRvLCBsYSBvYnJhIGVzIGRlIHN1IGV4Y2x1c2l2YSBhdXRvcsOtYSB5IHRpZW5lIGxhIHRpdHVsYXJpZGFkIHNvYnJlIGxhIG1pc21hLiAKCgpFbiBjYXNvIGRlIHByZXNlbnRhcnNlIGN1YWxxdWllciByZWNsYW1hY2nDs24gbyBhY2Npw7NuIHBvciBwYXJ0ZSBkZSB1biB0ZXJjZXJvIGVuIGN1YW50byBhIGxvcyBkZXJlY2hvcyBkZSBhdXRvciBzb2JyZSBsYSBvYnJhIGVuIGN1ZXN0acOzbiwgZWwgYXV0b3IgYXN1bWlyw6EgdG9kYSBsYSByZXNwb25zYWJpbGlkYWQsIHkgc2FsZHLDoSBkZSBkZWZlbnNhIGRlIGxvcyBkZXJlY2hvcyBhcXXDrSBhdXRvcml6YWRvcywgcGFyYSB0b2RvcyBsb3MgZWZlY3RvcyBsYSBVbml2ZXJzaWRhZCBhY3TDumEgY29tbyB1biB0ZXJjZXJvIGRlIGJ1ZW5hIGZlLiAKCg== |