Semáforos inteligentes por medio de aprendizaje por refuerzo

Resultados obtenidos de aplicar aprendizaje por refuerzo multiagente para el control adaptativo de los semáforos en un conjunto de intersecciones, con el fin de poder reducir el tiempo de esperas de los vehículos en la vía, comparado con semáforos en tiempo fijo. Para esto, se utilizaron 4 métodos d...

Full description

Autores:
Chavez Mass, Jose David
Tipo de recurso:
Trabajo de grado de pregrado
Fecha de publicación:
2023
Institución:
Universidad de los Andes
Repositorio:
Séneca: repositorio Uniandes
Idioma:
spa
OAI Identifier:
oai:repositorio.uniandes.edu.co:1992/64455
Acceso en línea:
http://hdl.handle.net/1992/64455
Palabra clave:
Aprendizaje por refuerzo
Multiagente
Control adaptativo de señales de transito
Ingeniería
Rights
openAccess
License
Attribution-NoDerivatives 4.0 Internacional
id UNIANDES2_e5a00e1972ad8c57adf00b9c4b8775bf
oai_identifier_str oai:repositorio.uniandes.edu.co:1992/64455
network_acronym_str UNIANDES2
network_name_str Séneca: repositorio Uniandes
repository_id_str
dc.title.none.fl_str_mv Semáforos inteligentes por medio de aprendizaje por refuerzo
title Semáforos inteligentes por medio de aprendizaje por refuerzo
spellingShingle Semáforos inteligentes por medio de aprendizaje por refuerzo
Aprendizaje por refuerzo
Multiagente
Control adaptativo de señales de transito
Ingeniería
title_short Semáforos inteligentes por medio de aprendizaje por refuerzo
title_full Semáforos inteligentes por medio de aprendizaje por refuerzo
title_fullStr Semáforos inteligentes por medio de aprendizaje por refuerzo
title_full_unstemmed Semáforos inteligentes por medio de aprendizaje por refuerzo
title_sort Semáforos inteligentes por medio de aprendizaje por refuerzo
dc.creator.fl_str_mv Chavez Mass, Jose David
dc.contributor.advisor.none.fl_str_mv García Cárdenas, Juan José
Segura Quijano, Fredy Enrique
dc.contributor.author.none.fl_str_mv Chavez Mass, Jose David
dc.contributor.jury.none.fl_str_mv Lozano Martínez, Fernando Enrique
dc.subject.keyword.none.fl_str_mv Aprendizaje por refuerzo
Multiagente
Control adaptativo de señales de transito
topic Aprendizaje por refuerzo
Multiagente
Control adaptativo de señales de transito
Ingeniería
dc.subject.themes.es_CO.fl_str_mv Ingeniería
description Resultados obtenidos de aplicar aprendizaje por refuerzo multiagente para el control adaptativo de los semáforos en un conjunto de intersecciones, con el fin de poder reducir el tiempo de esperas de los vehículos en la vía, comparado con semáforos en tiempo fijo. Para esto, se utilizaron 4 métodos de aprendizaje por refuerzo, los cuales fueron Q-learning, SARSA, Deep Q-Network (DQN) y Proximal Policy Optimization (PPO).
publishDate 2023
dc.date.accessioned.none.fl_str_mv 2023-02-01T19:37:10Z
dc.date.available.none.fl_str_mv 2023-02-01T19:37:10Z
dc.date.issued.none.fl_str_mv 2023-01-10
dc.type.es_CO.fl_str_mv Trabajo de grado - Pregrado
dc.type.driver.none.fl_str_mv info:eu-repo/semantics/bachelorThesis
dc.type.version.none.fl_str_mv info:eu-repo/semantics/acceptedVersion
dc.type.coar.none.fl_str_mv http://purl.org/coar/resource_type/c_7a1f
dc.type.content.es_CO.fl_str_mv Text
dc.type.redcol.none.fl_str_mv http://purl.org/redcol/resource_type/TP
format http://purl.org/coar/resource_type/c_7a1f
status_str acceptedVersion
dc.identifier.uri.none.fl_str_mv http://hdl.handle.net/1992/64455
dc.identifier.instname.es_CO.fl_str_mv instname:Universidad de los Andes
dc.identifier.reponame.es_CO.fl_str_mv reponame:Repositorio Institucional Séneca
dc.identifier.repourl.es_CO.fl_str_mv repourl:https://repositorio.uniandes.edu.co/
url http://hdl.handle.net/1992/64455
identifier_str_mv instname:Universidad de los Andes
reponame:Repositorio Institucional Séneca
repourl:https://repositorio.uniandes.edu.co/
dc.language.iso.es_CO.fl_str_mv spa
language spa
dc.relation.references.es_CO.fl_str_mv García, M. (2022, 3 marzo). Trafico en Bogotá: ¿Cuanto tiempo pierden los ciudadanos en trancones? El Tiempo. https://www.eltiempo.com/colombia/otras-ciudades/en- bogota-cuanto-tiempo-pierden-los-ciudadanos-en-trancones-649613
Medidas de Control del Tránsito. (s/f). Piarc.org. Recuperado el 2 de agosto de 2022, de https://rno-its.piarc.org/es/control-de-la-red-gestion-del-transito/medidas-de-control- del-transito
Higuera Arias. (2016). Control de intersecciones semaforizadas aplicando aprendizaje por refuerzo multiagente. Uniandes.
Loarte, R., Quizhpe, B., Arias, H. P. P. (2015). Desarrollo y simulación de un sistema multiagente para la comunicación de semáforos para encontrar la ruta ´optima mediante grafos. Revista Tecnológica-ESPOL, 28(1).
Battolla, T. F., Fuentes, S., Illi, J. I., Nacht, J., Falco, M., Pezzuchi, G., Robiolo, G. (2018, September). Sistema dinámico y adaptativo para el control del trafico de una intersección de calles: modelación y simulación de un sistema multiagente. In Simposio Argentino de Inteligencia Artificial (ASAI)-Jornadas Argentinas de Informática, Universidad de Palermo.
Gandhi, M. (2022, 1 enero). Traffic Intersection Simulation using Pygame, Part 1. Medium. Recuperado 12 de octubre de 2022, de https://towardsdatascience.com/traffic-intersection-simulation-using-pygame-689d6bd7687a
Ausin, M. S. (2022, 30 marzo). Aprendizaje por refuerzo. DQN: Q-Learning con redes neuronales. Medium. https://markelsanz14.medium.com/introducci%%B3n-al-aprendizaje-por-refuerzo-parte-3-q-learning-con-redes-neuronales-algoritmo-dqn-bfe02b37017f
Heeswijk, W. van, PhD. (2022, 29 noviembre). Proximal Policy Optimization (PPO) Explained - Towards Data Science. Medium. https://towardsdatascience.com/proximal-policy-optimization-ppo-explained-abed1952457b
Horcajada Jiménez, D. (2021). Metodología para la detección de objetos en imágenes basada en la librería YOLO con aplicación a la detección de carros.
dc.rights.license.spa.fl_str_mv Attribution-NoDerivatives 4.0 Internacional
dc.rights.uri.*.fl_str_mv http://creativecommons.org/licenses/by-nd/4.0/
dc.rights.accessrights.spa.fl_str_mv info:eu-repo/semantics/openAccess
dc.rights.coar.spa.fl_str_mv http://purl.org/coar/access_right/c_abf2
rights_invalid_str_mv Attribution-NoDerivatives 4.0 Internacional
http://creativecommons.org/licenses/by-nd/4.0/
http://purl.org/coar/access_right/c_abf2
eu_rights_str_mv openAccess
dc.format.extent.es_CO.fl_str_mv 18 paginas
dc.format.mimetype.es_CO.fl_str_mv application/pdf
dc.publisher.es_CO.fl_str_mv Universidad de los Andes
dc.publisher.program.es_CO.fl_str_mv Ingeniería Electrónica
dc.publisher.faculty.es_CO.fl_str_mv Facultad de Ingeniería
dc.publisher.department.es_CO.fl_str_mv Departamento de Ingeniería Eléctrica y Electrónica
institution Universidad de los Andes
bitstream.url.fl_str_mv https://repositorio.uniandes.edu.co/bitstreams/01dca490-b485-4739-abaf-b6e6da1782c8/download
https://repositorio.uniandes.edu.co/bitstreams/baae15c9-5239-46c2-a970-88bde26b32a3/download
https://repositorio.uniandes.edu.co/bitstreams/99ee6110-ae3e-45e2-92b1-8d173da302c6/download
https://repositorio.uniandes.edu.co/bitstreams/5196c5ee-f541-40c6-809d-939086642a31/download
https://repositorio.uniandes.edu.co/bitstreams/06f6f642-d9dc-4b88-a874-0fd3c7a3f83f/download
https://repositorio.uniandes.edu.co/bitstreams/e6f8e53a-ffd3-469a-b9b4-3ba44b255c38/download
https://repositorio.uniandes.edu.co/bitstreams/4c3bd821-b071-4725-9853-8aff4275b47b/download
https://repositorio.uniandes.edu.co/bitstreams/05308173-2a68-4aa0-84de-bd349b496adf/download
bitstream.checksum.fl_str_mv f7d494f61e544413a13e6ba1da2089cd
1c65a45bc6cdaefc3d645dce3fa99d0f
4491fe1afb58beaaef41a73cf7ff2e27
5aa5c691a1ffe97abd12c2966efcb8d6
c89350ba4ef520ee6e3b39a89ca5fc85
f066c489e95401c03d365d46cb723bed
cd316de0001465ae6a8f97acc9f20575
7bff58cb44fa9345b2c6c6bf5c5ebe53
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
MD5
MD5
MD5
MD5
repository.name.fl_str_mv Repositorio institucional Séneca
repository.mail.fl_str_mv adminrepositorio@uniandes.edu.co
_version_ 1812133965184630784
spelling Attribution-NoDerivatives 4.0 Internacionalhttp://creativecommons.org/licenses/by-nd/4.0/info:eu-repo/semantics/openAccesshttp://purl.org/coar/access_right/c_abf2García Cárdenas, Juan José44188367-f49b-4c6b-9009-a037c689da55600Segura Quijano, Fredy Enriquevirtual::10537-1Chavez Mass, Jose Davidb2f88679-91a5-4837-a32b-4713bdddd559600Lozano Martínez, Fernando Enrique2023-02-01T19:37:10Z2023-02-01T19:37:10Z2023-01-10http://hdl.handle.net/1992/64455instname:Universidad de los Andesreponame:Repositorio Institucional Sénecarepourl:https://repositorio.uniandes.edu.co/Resultados obtenidos de aplicar aprendizaje por refuerzo multiagente para el control adaptativo de los semáforos en un conjunto de intersecciones, con el fin de poder reducir el tiempo de esperas de los vehículos en la vía, comparado con semáforos en tiempo fijo. Para esto, se utilizaron 4 métodos de aprendizaje por refuerzo, los cuales fueron Q-learning, SARSA, Deep Q-Network (DQN) y Proximal Policy Optimization (PPO).En este documento se muestra los resultados obtenidos de aplicar aprendizaje por refuerzo multiagente para el control adaptativo de los semáforos en un conjunto de intersecciones, con el fin de poder reducir el tiempo de esperas de los vehículos en la vía, comparado con semáforos en tiempo fijo. Para esto, se utilizaron 4 métodos de aprendizaje por refuerzo, los cuales fueron Q-learning, SARSA, Deep Q-Network (DQN) y Proximal Policy Optimization (PPO). Dichos algoritmos de aprendizaje se implementaron en python y se simularon en el software SUMO. Arrojando una eficiencia del 35.79 %, 51.63 %, 63.40% y 63.49% respectivamente, comparado con tiempos fijos.Ingeniero ElectrónicoPregrado18 paginasapplication/pdfspaUniversidad de los AndesIngeniería ElectrónicaFacultad de IngenieríaDepartamento de Ingeniería Eléctrica y ElectrónicaSemáforos inteligentes por medio de aprendizaje por refuerzoTrabajo de grado - Pregradoinfo:eu-repo/semantics/bachelorThesisinfo:eu-repo/semantics/acceptedVersionhttp://purl.org/coar/resource_type/c_7a1fTexthttp://purl.org/redcol/resource_type/TPAprendizaje por refuerzoMultiagenteControl adaptativo de señales de transitoIngenieríaGarcía, M. (2022, 3 marzo). Trafico en Bogotá: ¿Cuanto tiempo pierden los ciudadanos en trancones? El Tiempo. https://www.eltiempo.com/colombia/otras-ciudades/en- bogota-cuanto-tiempo-pierden-los-ciudadanos-en-trancones-649613Medidas de Control del Tránsito. (s/f). Piarc.org. Recuperado el 2 de agosto de 2022, de https://rno-its.piarc.org/es/control-de-la-red-gestion-del-transito/medidas-de-control- del-transitoHiguera Arias. (2016). Control de intersecciones semaforizadas aplicando aprendizaje por refuerzo multiagente. Uniandes.Loarte, R., Quizhpe, B., Arias, H. P. P. (2015). Desarrollo y simulación de un sistema multiagente para la comunicación de semáforos para encontrar la ruta ´optima mediante grafos. Revista Tecnológica-ESPOL, 28(1).Battolla, T. F., Fuentes, S., Illi, J. I., Nacht, J., Falco, M., Pezzuchi, G., Robiolo, G. (2018, September). Sistema dinámico y adaptativo para el control del trafico de una intersección de calles: modelación y simulación de un sistema multiagente. In Simposio Argentino de Inteligencia Artificial (ASAI)-Jornadas Argentinas de Informática, Universidad de Palermo.Gandhi, M. (2022, 1 enero). Traffic Intersection Simulation using Pygame, Part 1. Medium. Recuperado 12 de octubre de 2022, de https://towardsdatascience.com/traffic-intersection-simulation-using-pygame-689d6bd7687aAusin, M. S. (2022, 30 marzo). Aprendizaje por refuerzo. DQN: Q-Learning con redes neuronales. Medium. https://markelsanz14.medium.com/introducci%%B3n-al-aprendizaje-por-refuerzo-parte-3-q-learning-con-redes-neuronales-algoritmo-dqn-bfe02b37017fHeeswijk, W. van, PhD. (2022, 29 noviembre). Proximal Policy Optimization (PPO) Explained - Towards Data Science. Medium. https://towardsdatascience.com/proximal-policy-optimization-ppo-explained-abed1952457bHorcajada Jiménez, D. (2021). Metodología para la detección de objetos en imágenes basada en la librería YOLO con aplicación a la detección de carros.201915775Publicationhttps://scholar.google.es/citations?user=xw2k1CIAAAAJvirtual::10537-10000-0001-7757-1432virtual::10537-1https://scienti.minciencias.gov.co/cvlac/visualizador/generarCurriculoCv.do?cod_rh=0000051497virtual::10537-17684cb09-6991-4ac4-aff9-b29fe065439fvirtual::10537-17684cb09-6991-4ac4-aff9-b29fe065439fvirtual::10537-1CC-LICENSElicense_rdflicense_rdfapplication/rdf+xml; charset=utf-8799https://repositorio.uniandes.edu.co/bitstreams/01dca490-b485-4739-abaf-b6e6da1782c8/downloadf7d494f61e544413a13e6ba1da2089cdMD52TEXTProyectoDeGrado.pdf.txtProyectoDeGrado.pdf.txtExtracted texttext/plain32516https://repositorio.uniandes.edu.co/bitstreams/baae15c9-5239-46c2-a970-88bde26b32a3/download1c65a45bc6cdaefc3d645dce3fa99d0fMD552220_BIB-Jose David Chvavez Mass.pdf.txt2220_BIB-Jose David Chvavez Mass.pdf.txtExtracted texttext/plain1163https://repositorio.uniandes.edu.co/bitstreams/99ee6110-ae3e-45e2-92b1-8d173da302c6/download4491fe1afb58beaaef41a73cf7ff2e27MD57LICENSElicense.txtlicense.txttext/plain; charset=utf-81810https://repositorio.uniandes.edu.co/bitstreams/5196c5ee-f541-40c6-809d-939086642a31/download5aa5c691a1ffe97abd12c2966efcb8d6MD51ORIGINALProyectoDeGrado.pdfProyectoDeGrado.pdfTrabajo de gradoapplication/pdf1155179https://repositorio.uniandes.edu.co/bitstreams/06f6f642-d9dc-4b88-a874-0fd3c7a3f83f/downloadc89350ba4ef520ee6e3b39a89ca5fc85MD532220_BIB-Jose David Chvavez Mass.pdf2220_BIB-Jose David Chvavez Mass.pdfHIDEapplication/pdf221444https://repositorio.uniandes.edu.co/bitstreams/e6f8e53a-ffd3-469a-b9b4-3ba44b255c38/downloadf066c489e95401c03d365d46cb723bedMD54THUMBNAILProyectoDeGrado.pdf.jpgProyectoDeGrado.pdf.jpgIM Thumbnailimage/jpeg6538https://repositorio.uniandes.edu.co/bitstreams/4c3bd821-b071-4725-9853-8aff4275b47b/downloadcd316de0001465ae6a8f97acc9f20575MD562220_BIB-Jose David Chvavez Mass.pdf.jpg2220_BIB-Jose David Chvavez Mass.pdf.jpgIM Thumbnailimage/jpeg16968https://repositorio.uniandes.edu.co/bitstreams/05308173-2a68-4aa0-84de-bd349b496adf/download7bff58cb44fa9345b2c6c6bf5c5ebe53MD581992/64455oai:repositorio.uniandes.edu.co:1992/644552024-03-13 14:12:36.301http://creativecommons.org/licenses/by-nd/4.0/open.accesshttps://repositorio.uniandes.edu.coRepositorio institucional Sénecaadminrepositorio@uniandes.edu.coWW8sIGVuIG1pIGNhbGlkYWQgZGUgYXV0b3IgZGVsIHRyYWJham8gZGUgdGVzaXMsIG1vbm9ncmFmw61hIG8gdHJhYmFqbyBkZSBncmFkbywgaGFnbyBlbnRyZWdhIGRlbCBlamVtcGxhciByZXNwZWN0aXZvIHkgZGUgc3VzIGFuZXhvcyBkZSBzZXIgZWwgY2FzbywgZW4gZm9ybWF0byBkaWdpdGFsIHkvbyBlbGVjdHLDs25pY28geSBhdXRvcml6byBhIGxhIFVuaXZlcnNpZGFkIGRlIGxvcyBBbmRlcyBwYXJhIHF1ZSByZWFsaWNlIGxhIHB1YmxpY2FjacOzbiBlbiBlbCBTaXN0ZW1hIGRlIEJpYmxpb3RlY2FzIG8gZW4gY3VhbHF1aWVyIG90cm8gc2lzdGVtYSBvIGJhc2UgZGUgZGF0b3MgcHJvcGlvIG8gYWplbm8gYSBsYSBVbml2ZXJzaWRhZCB5IHBhcmEgcXVlIGVuIGxvcyB0w6lybWlub3MgZXN0YWJsZWNpZG9zIGVuIGxhIExleSAyMyBkZSAxOTgyLCBMZXkgNDQgZGUgMTk5MywgRGVjaXNpw7NuIEFuZGluYSAzNTEgZGUgMTk5MywgRGVjcmV0byA0NjAgZGUgMTk5NSB5IGRlbcOhcyBub3JtYXMgZ2VuZXJhbGVzIHNvYnJlIGxhIG1hdGVyaWEsIHV0aWxpY2UgZW4gdG9kYXMgc3VzIGZvcm1hcywgbG9zIGRlcmVjaG9zIHBhdHJpbW9uaWFsZXMgZGUgcmVwcm9kdWNjacOzbiwgY29tdW5pY2FjacOzbiBww7pibGljYSwgdHJhbnNmb3JtYWNpw7NuIHkgZGlzdHJpYnVjacOzbiAoYWxxdWlsZXIsIHByw6lzdGFtbyBww7pibGljbyBlIGltcG9ydGFjacOzbikgcXVlIG1lIGNvcnJlc3BvbmRlbiBjb21vIGNyZWFkb3IgZGUgbGEgb2JyYSBvYmpldG8gZGVsIHByZXNlbnRlIGRvY3VtZW50by4gIAoKCkxhIHByZXNlbnRlIGF1dG9yaXphY2nDs24gc2UgZW1pdGUgZW4gY2FsaWRhZCBkZSBhdXRvciBkZSBsYSBvYnJhIG9iamV0byBkZWwgcHJlc2VudGUgZG9jdW1lbnRvIHkgbm8gY29ycmVzcG9uZGUgYSBjZXNpw7NuIGRlIGRlcmVjaG9zLCBzaW5vIGEgbGEgYXV0b3JpemFjacOzbiBkZSB1c28gYWNhZMOpbWljbyBkZSBjb25mb3JtaWRhZCBjb24gbG8gYW50ZXJpb3JtZW50ZSBzZcOxYWxhZG8uIExhIHByZXNlbnRlIGF1dG9yaXphY2nDs24gc2UgaGFjZSBleHRlbnNpdmEgbm8gc29sbyBhIGxhcyBmYWN1bHRhZGVzIHkgZGVyZWNob3MgZGUgdXNvIHNvYnJlIGxhIG9icmEgZW4gZm9ybWF0byBvIHNvcG9ydGUgbWF0ZXJpYWwsIHNpbm8gdGFtYmnDqW4gcGFyYSBmb3JtYXRvIGVsZWN0csOzbmljbywgeSBlbiBnZW5lcmFsIHBhcmEgY3VhbHF1aWVyIGZvcm1hdG8gY29ub2NpZG8gbyBwb3IgY29ub2Nlci4gCgoKRWwgYXV0b3IsIG1hbmlmaWVzdGEgcXVlIGxhIG9icmEgb2JqZXRvIGRlIGxhIHByZXNlbnRlIGF1dG9yaXphY2nDs24gZXMgb3JpZ2luYWwgeSBsYSByZWFsaXrDsyBzaW4gdmlvbGFyIG8gdXN1cnBhciBkZXJlY2hvcyBkZSBhdXRvciBkZSB0ZXJjZXJvcywgcG9yIGxvIHRhbnRvLCBsYSBvYnJhIGVzIGRlIHN1IGV4Y2x1c2l2YSBhdXRvcsOtYSB5IHRpZW5lIGxhIHRpdHVsYXJpZGFkIHNvYnJlIGxhIG1pc21hLiAKCgpFbiBjYXNvIGRlIHByZXNlbnRhcnNlIGN1YWxxdWllciByZWNsYW1hY2nDs24gbyBhY2Npw7NuIHBvciBwYXJ0ZSBkZSB1biB0ZXJjZXJvIGVuIGN1YW50byBhIGxvcyBkZXJlY2hvcyBkZSBhdXRvciBzb2JyZSBsYSBvYnJhIGVuIGN1ZXN0acOzbiwgZWwgYXV0b3IgYXN1bWlyw6EgdG9kYSBsYSByZXNwb25zYWJpbGlkYWQsIHkgc2FsZHLDoSBkZSBkZWZlbnNhIGRlIGxvcyBkZXJlY2hvcyBhcXXDrSBhdXRvcml6YWRvcywgcGFyYSB0b2RvcyBsb3MgZWZlY3RvcyBsYSBVbml2ZXJzaWRhZCBhY3TDumEgY29tbyB1biB0ZXJjZXJvIGRlIGJ1ZW5hIGZlLiAKCg==