Transparencia algorítmica y Estado Abierto en Colombia
En los últimos años se ha producido un rápido avance y despliegue del uso de sistemas de toma automatizada de decisiones (SDA) tanto en el sector público como en el privado alrededor del mundo, incluida Colombia. Por otra parte, la mayoría de las guías y marcos éticos asociadas con el desarrollo y u...
- Autores:
-
Gutiérrez, Juan David
Castellanos Sánchez, Michelle
- Tipo de recurso:
- Article of investigation
- Fecha de publicación:
- 2023
- Institución:
- Universidad Autónoma de Bucaramanga - UNAB
- Repositorio:
- Repositorio UNAB
- Idioma:
- spa
- OAI Identifier:
- oai:repository.unab.edu.co:20.500.12749/27254
- Palabra clave:
- Transparencia algorítmica
Estado Abierto
Inteligencia artificial
Sistemas de toma automatizada de decisiones
Colombia
Algorithmic transparency
Open Government
Artificial intelligence
Automated decision-making systems
Colombia
- Rights
- License
- http://purl.org/coar/access_right/c_abf2
| id |
UNAB2_972dad6222a1b080865f700b40deb572 |
|---|---|
| oai_identifier_str |
oai:repository.unab.edu.co:20.500.12749/27254 |
| network_acronym_str |
UNAB2 |
| network_name_str |
Repositorio UNAB |
| repository_id_str |
|
| dc.title.spa.fl_str_mv |
Transparencia algorítmica y Estado Abierto en Colombia |
| dc.title.translated.eng.fl_str_mv |
Algorithmic Transparency and Open Government in Colombia |
| title |
Transparencia algorítmica y Estado Abierto en Colombia |
| spellingShingle |
Transparencia algorítmica y Estado Abierto en Colombia Transparencia algorítmica Estado Abierto Inteligencia artificial Sistemas de toma automatizada de decisiones Colombia Algorithmic transparency Open Government Artificial intelligence Automated decision-making systems Colombia |
| title_short |
Transparencia algorítmica y Estado Abierto en Colombia |
| title_full |
Transparencia algorítmica y Estado Abierto en Colombia |
| title_fullStr |
Transparencia algorítmica y Estado Abierto en Colombia |
| title_full_unstemmed |
Transparencia algorítmica y Estado Abierto en Colombia |
| title_sort |
Transparencia algorítmica y Estado Abierto en Colombia |
| dc.creator.fl_str_mv |
Gutiérrez, Juan David Castellanos Sánchez, Michelle |
| dc.contributor.author.none.fl_str_mv |
Gutiérrez, Juan David Castellanos Sánchez, Michelle |
| dc.contributor.orcid.spa.fl_str_mv |
Gutiérrez, Juan David [0000-0002-7783-4850] Castellanos Sánchez, Michelle [0000-0001-5788-4538] |
| dc.subject.spa.fl_str_mv |
Transparencia algorítmica Estado Abierto Inteligencia artificial Sistemas de toma automatizada de decisiones Colombia |
| topic |
Transparencia algorítmica Estado Abierto Inteligencia artificial Sistemas de toma automatizada de decisiones Colombia Algorithmic transparency Open Government Artificial intelligence Automated decision-making systems Colombia |
| dc.subject.keywords.eng.fl_str_mv |
Algorithmic transparency Open Government Artificial intelligence Automated decision-making systems Colombia |
| description |
En los últimos años se ha producido un rápido avance y despliegue del uso de sistemas de toma automatizada de decisiones (SDA) tanto en el sector público como en el privado alrededor del mundo, incluida Colombia. Por otra parte, la mayoría de las guías y marcos éticos asociadas con el desarrollo y uso de IA incluyen como uno de los principales valores la “transparencia”. Paradójicamente, son pocas las entidades estatales del nivel nacional y/o local que informan de manera sistemática y estandarizada sobre el uso de dichos sistemas. Además, pocos Estados abren espacios de participación ciudadana y de rendición de cuentas en las diferentes etapas del ciclo de vida de estos sistemas. Este artículo estudia la relación entre el principio de transparencia algorítmica y el modelo Estado Abierto en el contexto colombiano en la última década. Además de explorar dichos conceptos desde el punto de vista conceptual, abordamos sus sinergias y tensiones a través de diferentes políticas e instrumentos de política pública y casos que han llegado hasta los tribunales de Colombia. El estudio aborda la transparencia de la administración pública respecto de sus sistemas algorítmicos desde una perspectiva “macro”, cómo las instituciones formales e informales inciden en la transparencia y, desde una perspectiva “meso”, cómo se implementa la transparencia a nivel organizacional. Para tal efecto realizamos un caso de estudio comparado en el cual abordamos seis casos en Colombia; tres sobre transparencia pasiva (CoronApp, escrutinio de elecciones, y BETTO) y tres sobre transparencia activa (repositorios de algoritmos públicos). |
| publishDate |
2023 |
| dc.date.issued.none.fl_str_mv |
2023-11-10 |
| dc.date.accessioned.none.fl_str_mv |
2024-11-01T14:00:45Z |
| dc.date.available.none.fl_str_mv |
2024-11-01T14:00:45Z |
| dc.type.coarversion.fl_str_mv |
http://purl.org/coar/version/c_970fb48d4fbd8a85 |
| dc.type.driver.none.fl_str_mv |
info:eu-repo/semantics/article |
| dc.type.local.spa.fl_str_mv |
Artículo |
| dc.type.coar.none.fl_str_mv |
http://purl.org/coar/resource_type/c_2df8fbb1 |
| dc.type.redcol.none.fl_str_mv |
http://purl.org/redcol/resource_type/ART |
| format |
http://purl.org/coar/resource_type/c_2df8fbb1 |
| dc.identifier.issn.spa.fl_str_mv |
0124-0781 2590-8669 |
| dc.identifier.uri.none.fl_str_mv |
http://hdl.handle.net/20.500.12749/27254 |
| dc.identifier.instname.spa.fl_str_mv |
instname:Universidad Autónoma de Bucaramanga UNAB |
| dc.identifier.repourl.spa.fl_str_mv |
repourl:https://repository.unab.edu.co |
| dc.identifier.doi.none.fl_str_mv |
https://doi.org/10.29375/01240781.4789 |
| identifier_str_mv |
0124-0781 2590-8669 instname:Universidad Autónoma de Bucaramanga UNAB repourl:https://repository.unab.edu.co |
| url |
http://hdl.handle.net/20.500.12749/27254 https://doi.org/10.29375/01240781.4789 |
| dc.language.iso.spa.fl_str_mv |
spa |
| language |
spa |
| dc.relation.spa.fl_str_mv |
https://revistas.unab.edu.co/index.php/reflexion/article/view/4789/3819 |
| dc.relation.uri.spa.fl_str_mv |
https://revistas.unab.edu.co/index.php/reflexion/issue/view/296 |
| dc.relation.references.none.fl_str_mv |
Ada Lovelace Institute, AI Now Institute, Open Government, & Partnership. (2021). Al g o r i thmi c accountability for the public sector. Learning from the !rst wave of policy implementation. https:// www.opengovpartnership.org/documents/ algorithmicaccountability- public-sector/ AIAAIC. (2023). AI, Algorithmic, and Automation Incidents and Controversies—AIAAIC Repository [dataset]. https://www.aiaaic.org/aiaaic-repository Berryhill, J., Heang, K. K., Clogher, R., & McBride, K. (2019). Hello, World Arti!cial intelligence and its use in the public sector. (OECD Working Papers on Public Governance, No. 36). OECD. https://doi. org/10.1787/726fd39d-en Bojórquez-Pereznieto, J. A. (2013). La caja negra del Estado: el reto del Gobierno Abierto. En A. Hofmann, A. Ramírez-Alujas, J. A. Bojórquez-Pereznieto (coords.), La promesa del Gobierno Abierto (pp. 165-192). Itaip. http://148.202.167.116:8080/xmlui/ bitstream/handle/123456789/3584/Gobierno_abierto. pdf?sequence=1&isAllowed=y Brauneis, R., & Goodman, E. P. (2018). Algorithmic Transparency for the Smart City. Yale Journal of Law and Technology, 20, 103–176. HeinOnline. Buenadicha-Sánchez, C., Galdon, G., Hermosilla, M., Loewe, D., & Pombo, C. (2019). La gestión ética de los datos. Inter-American Development Bank. https://doi.org/10.18235/0001623 Campos-Domínguez, E., & Corojan, A. (2013). Estado del arte del Gobierno Abierto: promesas y expectativas. En A. Hofmann, A. Ramírez- Alujas, J. A. Bojórquez-Pereznieto (coords.), La Promesa del Gobierno Abierto (pp. 119- 137). Itaip. http://148.202.167.116:8080/xmlui/ bitstream/handle/123456789/3584/Gobierno_abierto. pdf?sequence=1&isAllowed=y CDDO & CDEI. (2021). Algorithmic Transparency Recording Standard v2.1. Central Digital and Data O"ice (CDDO) and Centre for Data Ethics and Innovation (CDEI). https:// www.gov.uk/government/publications/algorithmictransparency- template CDDO & CDEI. (2023). Algorithmic Transparency Recording Standard—Guidance for Public Sector Bodies. Central Digital and Data O"ice (CDDO) and Centre for Data Ethics and Innovation (CDEI). https://www.gov.uk/ government/publications/guidance-for-organisationsusing- the-algorithmic-transparency-recordingstandard/ algorithmic-transparency-recordingstandard- guidance-for-public-sector-bodies Chenou, J.M., & Rodríguez-Valenzuela, L. E. (2021). Habeas Data, Habemus Algorithms: Algorithmic Intervention in Public Interest Decision-Making in Colombia. Law, State and Telecommunications Review, 13(2), 56-77. https://doi.org/10.26512/lstr.v13i2.34113 Cobo, C. (2013). Gobierno Abierto: de la transparencia a la inteligencia cívica. En A. Hofmann, A. Ramírez-Alujas, J. A. Bojórquez-Pereznieto (coords.), La promesa del Gobierno Abierto (pp. 101-118). Itaip. http://148.202.167.116:8080/xmlui/ bitstream/handle/123456789/3584/Gobierno_abierto. pdf?sequence=1&isAllowed=y Colmenares, L. A. (2021). BETTO y el ICBF de La Guajira. Costa Noticias. https://costanoticias.com/bettoy- el-icbf-de-la-guajira-por-luis-alonso-colmenaresrodriguez/ CONPES. (2021). Lineamientos de Política para la Implementación de un Modelo de Estado Abierto (Documento CONPES 4070). Consejo Nacional de Política Económica y Social (CONPES). https://colaboracion.dnp.gov.co/CDT/ Conpes/Econ%C3%B3micos/4070.pdf Constitución Política de Colombia [Const]. Art. 23. 20 de julio de 1991 (Colombia). Constitución Política de Colombia [Const]. Art. 74. 20 de julio de 1991 (Colombia). Contreras, D., & Pefaur, D. (2020). Transparencia Algorítmica: buenas práccticas y estándares de transparencia en el proceso de toma de decisiones automatizadas (Cuaderno de Trabajo No. 17). Consejo para la Transparencia (CPLT). https://www.consejotransparencia.cl/wpcontent/ uploads/estudios/2020/10/Transparencia- Algoritmica.pdf Cotino-Hueso, L. (2023). Qué concreta transparencia e información de algoritmos e inteligencia arti!cial es la debida. Revista Española de la Transparencia, (16), 17-63. https://doi. org/10.51915/ret.272 CPLT. (2022, 14 de junio). Sector público chileno avanza en inédita normativa de transparencia algorítmica en América Latina. Consejo para la Transparencia (CPLT). https://www. consejotransparencia.cl/sector-publico-chileno-avanzaen- inedita-normativa-de-transparencia-algoritmica-enamerica- latina/ Davies, T. (2020). AI and the State of Open Data. Data for Development. https://www.d4d.net/news/ai-and-thestate- of-open-data/?s=03 Decreto 1263 de 2022. Por el cual se adiciona el Título 22 a la Parte 2 del Libro 2 del Decreto 1078 de 2015, Decreto Único Reglamentario del Sector de Tecnologías de la Información y las Comunicaciones, con el !n de de!nir lineamientos y estándares aplicables a la Transformación Digital Pública. 22 de julio de 2022 Denis, G., Hermosilla, M., Aracena, C., Sanchez, R., Gonzales, N., & Pombo, C. (2021). Uso responsable de IA para política pública: Manual de formulación de proyectos (1a ed.). Banco Interamericano de Desarrollo. https:// doi.org/10.18235/0003631 Diakopoulos, N. (2020). Transparency. En M. D. Dubber, F. Pasquale, & S. Das (eds.), The Oxford Handbook of Ethics of AI (pp. 197-213). Oxford University Press. https://doi.org/10.1093/ oxfordhb/9780190067397.013.11 Directiva presidencial 03 de 2021. Lineamientos para el uso de servicios en la nube, inteligencia arti!cial, seguridad digital y gestión de datos. 15 de marzo de 2021. El Espectador. (2022, 6 de junio). El cruce de versiones por funcionamiento del aplicativo Betto en el ICBF. El Espectador. https://www.elespectador. com/colombia/mas-regiones/el-cruce-de-versionespor- funcionamiento-del-aplicativo-betto-en-el-icbf/ El Espectador. (2022, 16 de junio). Fiscalía hará auditoría a software de Registraduría previo a elecciones, ¿por qué?. El Espectador. https:// www.elespectador.com/judicial/!scalia-hara-auditoriaa- software-de-registraduria-previo-a-elecciones-porque/ El Tiempo. (2022, 14 de junio). Gustavo Petro dice que la Registraduría ha negado la auditoría de software. El Tiempo. https://www.eltiempo.com/ elecciones-2022/actualidad-electoral/petro-diceque- la-registraduria-ha-negado-la-auditoria-deso "ware-680233 El Universal. (2022, 17 de junio). Desautorizan a !scal que ordenó auditoría a software de Registraduría. El Universal. https://www.eluniversal.com.co/ politica/desautorizan-a-!scal-que-ordeno-auditoria-aso "ware-de-registraduria-CY6717631 Ferreiro-Yazigui, A. (2013). Causales de reserva y recursos: el equilibrio virtuoso entre la transparencia y la defensa de los bienes jurídicos que justi!can proteger cierta información. En A. Hofmann, A. Ramírez-Alujas, J. A. Bojórquez-Pereznieto (coords.), La promesa del Gobierno Abierto (pp. 51-67). Itaip. http://148.202.167.116:8080/xmlui/ bitstream/handle/123456789/3584/Gobierno_abierto. pdf?sequence=1&isAllowed=y Fundación Karisma. (2022). Informe de la observación primera vuelta presidencial Colombia 2022. Alertas y recomendaciones sobre la implementación de tecnología de cara a la eventual segunda vuelta de las elecciones presidenciales de 2022. Fundación Karisma. f i le: / / /C: /Users/ASUS/Downloads/ Informe- Observacion-primera-vuelta-1.pdf Fundación Karisma. (2023, 18 de octubre). Comunicado de prensa 02. Observación técnica a las elecciones regionales de 2023. Fundación Karisma. https://web.karisma.org.co/comunicado-de-prensa-02- observacion-tecnica-a-las-elecciones-regionales-de- 2023-se-mantienen-restricciones-del-contratista-a-laobservacion/ Garrido, R., Lapostol, J. P., & Hermosilla, M. P. (2021). Transparencia algorítmica en el sector público. GOB LAB UAI; Consejo para la Transparencia. https://goblab.uai.cl/wp-content/uploads/2021/10/ ESTUDIO-TRANSPARENCIA-ALGORITMICA-ENEL- SECTOR-PUBLICO-GOBLAB-CPLT-!nal....pdf Guío, A., Tamayo, E., & Gómez-Ayerbe, P. (2021). Marco ético para la inteligencia arti!cial en Colombia. Departamento Administrativo de la Presidencia de la República. Gutiérrez, J. D. (2023, 6 de julio). Repositorios y registros públicos de algoritmos. Blog Foro Administración, Gestión y Política Pública. https://forogpp.com/inteligencia-arti!cial/repositorios-yregistros- de-algoritmos/ Gutiérrez, J. D., & Muñoz-Cadena, S. (2023a). Adopción de sistemas de decisión automatizada en el sector público: cartografía de 113 sistemas en Colombia. GIGAPP Estudios Working Papers, 10(270), 365-395. Gutiérrez, J. D., & Muñoz-Cadena, S. (2023b). Building a repository of public algorithms: Case study of the dataset on automated decision-making systems in the Colombian public sector. En L. Belli & W. B. Gaspar (eds.), The Quest for AI Sovereignty, Transparency and Accountability: O"icial Outcome of the UN IGF Data and Arti!cial Intelligence Governance Coalition (pp. 325-340). Getulio Vargas Foundation; FGV Direito Rio. https://www.intgovforum.org/en/ !ledepot_download/288/26421 Gutiérrez, J. D., Muñoz-Cadena, S., & Castellanos- Sánchez, M. (2023). Sistemas de decisión automatizada en el sector público colombiano (Versión V1). Universidad del Rosario. https:// doi.org/10.34848/YN1CRT. Gutiérrez R., J. D. (2020). Retos éticos de la inteligencia arti!cial en el proceso judicial. En ICDP (ed.), Derecho Procesal. #NuevasTendencias. XLI Congreso Colombiano de Derecho Procesal (pp. 499-516). Instituto Colombiano de Derecho Procesal (ICDP); Universidad Libre. ICBF. (2021, 30 de enero). Conoce cómo fue el proceso de selección de operadores. Portal ICBF - Instituto Colombiano de Bienestar Familiar ICBF. https://www.icbf.gov.co/proceso-de-seleccion-serviciosintegrales- de-primera-infancia-2021/proceso-seleccionoperadores ICBF. (2023, 16 de noviembre). Plataforma BETTO deja de ser herramienta de selección de operadores del ICBF. Portal ICBF - Instituto Colombiano de Bienestar Familiar ICBF. https://www.icbf.gov.co/ noticias/plataforma-betto-deja-de-ser-herramienta-deseleccion- de-operadores-del-icbf La Libertad. (2022, 10 de junio). Luis Guillermo Pérez sugiere auditoría forense a software de elecciones. Diario La Libertad. https://diariolalibertad.com/ sitio/2022/06/10/luis-guillermo-perez-sugiere-auditoriaforense- a-so"ware-de-elecciones/ Lapostol, J. P., Garrido, R., & Hermosilla, M. P. (2023). Algorithmic Transparency from the South: Examining the state of algorithmic transparency in Chile’s public administration algorithms. En 2023 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’23), Chicago, IL, USA (pp. 227-235). https://doi.org/10.1145/3593013.3593991. Ley 1712 de 2014. Por medio de la cual se crea la Ley de Transparencia y del Derecho de Acceso a la Información Pública Nacional y se dictan otras disposiciones. 6 de marzo de 2014. Ley 1755 de 2015. Por medio de la cual se regula el Derecho Fundamental de Petición y se sustituye un título del Código de Procedimiento Administrativo y de lo Contencioso Administrativo. 30 de junio de 2015. Mera-Villamizar, D. (2022, 1 de agosto). ICBF: el fracaso de Betto como síntoma. El Espectador. https://www. elespectador.com/opinion/columnistas/daniel-meravillamizar/ icbf-el-fracaso-de-betto-como-sintoma/ MOE. (2023, 10 de octubre). Octavo informe presentado por la MOE a la Comisión Nacional para la Coordinación y seguimiento de los procesos electorales. MOE - Misión de Observación Electoral. https://www.moe.org.co/octavo-informepresentado- por-la-moe-a-la-comision-nacional-parala- coordinacion-y-seguimiento-de-los-procesoselectorales/ OGP. (2023). The Skeptic’s Guide to Open Government—2022 Edition. Open Government Partnership - OGP. https://www.opengovpartnership.org/skeptics-guide-toopen- government-2022-edition/ Oquendo, C. (2022, 16 de mayo). Las cajas negras del ‘software’ electoral en Colombia. El País. https:// elpais.com/internacional/2022-05-16/las-cajas-negras-delso "ware-electoral-en-colombia.html Ortiz, J. (2022, 24 de mayo). En plena crisis el Registrador le quitó dientes a la auditoría de las elecciones. La Silla Vacía. https://www.lasillavacia.com/historias/sillanacional/ en-plena-crisis-el-registrador-le-quito-dientes-ala- auditoria-de-las-elecciones/ Pineda, J. L. (2021, 5 febrero). Madres comunitarias en Bucaramanga exigen claridad en la contratación del Icbf. Vanguardia. https://www.vanguardia.com/ area-metropolitana/bucaramanga/madres-comunitariasen- bucaramanga-exigen-claridad-en-la-contratacion-delicbf- IA3367208 Porter, Z., Zimmermann, A., Morgan, P., McDermid, J., Lawton, T., & Habli, I. (2022). Distinguishing two features of accountability for AI technologies. Nature Machine Intelligence, 4(9), 734-736. https://doi.org/10.1038/s42256-022-00533-0 Porumbescu, G., Meijer, A., & Grimmelikhuijsen, S. (2022). Government Transparency: State of the Art and New Perspectives. Cambridge University Press. https://doi.org/10.1017/9781108678568. Ramírez-Alujas, Á. V. (2011). Gobierno Abierto y modernización de la gestión pública. Tendencias actuales y el (inevitable) camino que viene. Re#exiones seminales. Revista Enfoques: Ciencia Política y Administración Pública, IX (15), 99-125. Ramírez-Alujas, Á. V. (2013). Gobierno Abierto. Eunomía. Revista en Cultura de la Legalidad. (5), 201-216. Resolución 666 del 24 de abril de 2020. Por medio del cual se adopta el protocolo general de bioseguridad para mitigar, controlar y realizar el adecuado manejo de la pandemia de Coronavirus COVID-19. Ministerio de Salud y Protección Social. https://www.minsalud.gov.co/Normatividad_ Nuevo/Resolución%20No.%20666%20de%202020.pdf Resolución 7946 del 2021 [Instituto Colombiano de Bienestar Familiar]. Por la cual se derogan las resoluciones 5743 de 2020, 6098 de 2020, 6694 de 2020, 320 de 2021 y 371 de 2021, y se uni!ca el procedimiento administrativo para la selección de contratistas habilitados en el Banco Nacional de Oferentes y las reglas para seleccionar a los contratistas, establecidas en el capítulo IV. 21 de octubre de 2021. https://www.icbf.gov.co/sites/default/ !les/resolucion_no._7946-2021.pdf Reyes, N. (2021, 6 de febrero). Madres comunitarias indignadas por plataforma Betto del ICBF. Diario del Cesar. https://www.diariodelcesar.com/ archivos/125039/madres-comunitarias-indignadas-porplataforma- betto-del-icbf/. Richardson, R. (2022). De!ning and Demystifying Automated Decision Systems. Maryland Law Review, 81(3), 785-840. Sáenz, P., López, J., & Hernández, S. (2018). Propuesta de protocolo de auditoría para el software de escrutinio de las elecciones de Colombia en 2018 (Artículo 45, Ley 1475 de 2011). Laboratorio de Seguridad digital y privacidad de la Fundación Karisma – KLAB, con la colaboración de La Misión de Observación Electoral – MOE. https:// www.moe.org.co/wp-content/uploads/2018/04/Protocolode- auditor%C3%ADa-para-el-so"ware-de-escrutinio-delas- elecciones-de-Colombia-en-2018.pdf UNESCO. (2023a). Ethical impact assessment: A tool of the Recommendation on the Ethics of Arti!cial Intelligence. Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura - UNESCO. https://www.unesco.org/en/ articles/ethical-impact-assessment-tool-recommendationethics- arti!cial-intelligence UNESCO. (2023b). Kit de herramientas global sobre IA y el estado de derecho para el poder judicial. Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura - UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000387331_spa Upegui-Mejía, J. C. (2020). Acción de tutela formulada por el ciudadano Juan Carlos Upegui Mejía en contra de la Agencia Nacional Digital, el Instituto Nacional de Salud y el Ministerio de Salud y Protección Social. Urueña, R. (2019). Autoridad algorítmica: ¿cómo empezar a pensar la protección de los derechos humanos en la era del “big data”? Latin American Law Review, 1(2), 99-124. Valderrama, M., Hermosilla, M. P., & Garrido, R. (2023). State of the Evidence: Algorithmic Transparency. Open Government Partnership; GobLab (Universidad Adolfo Ibáñez). https:// www.opengovpartnership.org/documents/state-of-theevidence- algorithmic-transparency/ Venturini, J. (2021). Informe Observatorio Covid-19 del Consorcio Al Sur: Un análisis crítico de las tecnologías desplegadas en América Latina contra la pandemia. Al Sur. https://www.alsur.lat/ sites/default/!les/2021-06/Informe%20Observatorio%20 Covid-19%20del%20Consorcio%20Al%20Sur%282%29. pdf W Radio. (2021, 3 de marzo). Trabajadores del ICBF denuncian irregularidades en plataforma para atender a niños. W Radio. https://www.wradio. com.co/noticias/actualidad/trabajadores-del-icbfdenuncian- irregularidades-en-plataforma-para-atender-aninos/ 20210303/nota/4114097.aspx Wirtz, B. W., & Müller, W. M. (2019). An integrated arti!cial intelligence framework for public management. Public Management Review, 21(7), 1076-1100. https://doi.org/10.1080/14719037.2018.1549268. |
| dc.rights.coar.fl_str_mv |
http://purl.org/coar/access_right/c_abf2 |
| rights_invalid_str_mv |
http://purl.org/coar/access_right/c_abf2 |
| dc.format.mimetype.spa.fl_str_mv |
application/pdf |
| dc.publisher.spa.fl_str_mv |
Universidad Autónoma de Bucaramanga UNAB |
| dc.source.spa.fl_str_mv |
Vol. 25 Núm. 52 (2023): Estado Abierto; 6-21 |
| institution |
Universidad Autónoma de Bucaramanga - UNAB |
| bitstream.url.fl_str_mv |
https://repository.unab.edu.co/bitstream/20.500.12749/27254/2/license.txt https://repository.unab.edu.co/bitstream/20.500.12749/27254/3/Art%c3%adculo.pdf.jpg https://repository.unab.edu.co/bitstream/20.500.12749/27254/1/Art%c3%adculo.pdf |
| bitstream.checksum.fl_str_mv |
3755c0cfdb77e29f2b9125d7a45dd316 94fb2a3b6ef880f52a144b32c84ab675 8b9d6da01ebb08236c4bbed1b7dc2cf8 |
| bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 |
| repository.name.fl_str_mv |
Repositorio Institucional | Universidad Autónoma de Bucaramanga - UNAB |
| repository.mail.fl_str_mv |
repositorio@unab.edu.co |
| _version_ |
1828219864018321408 |
| spelling |
Gutiérrez, Juan David7c151242-6281-4d50-81f7-d53415699ed8Castellanos Sánchez, Michelleed0c644e-6a9b-4146-b45e-a2ca2c80f30bGutiérrez, Juan David [0000-0002-7783-4850]Castellanos Sánchez, Michelle [0000-0001-5788-4538]2024-11-01T14:00:45Z2024-11-01T14:00:45Z2023-11-100124-07812590-8669http://hdl.handle.net/20.500.12749/27254instname:Universidad Autónoma de Bucaramanga UNABrepourl:https://repository.unab.edu.cohttps://doi.org/10.29375/01240781.4789En los últimos años se ha producido un rápido avance y despliegue del uso de sistemas de toma automatizada de decisiones (SDA) tanto en el sector público como en el privado alrededor del mundo, incluida Colombia. Por otra parte, la mayoría de las guías y marcos éticos asociadas con el desarrollo y uso de IA incluyen como uno de los principales valores la “transparencia”. Paradójicamente, son pocas las entidades estatales del nivel nacional y/o local que informan de manera sistemática y estandarizada sobre el uso de dichos sistemas. Además, pocos Estados abren espacios de participación ciudadana y de rendición de cuentas en las diferentes etapas del ciclo de vida de estos sistemas. Este artículo estudia la relación entre el principio de transparencia algorítmica y el modelo Estado Abierto en el contexto colombiano en la última década. Además de explorar dichos conceptos desde el punto de vista conceptual, abordamos sus sinergias y tensiones a través de diferentes políticas e instrumentos de política pública y casos que han llegado hasta los tribunales de Colombia. El estudio aborda la transparencia de la administración pública respecto de sus sistemas algorítmicos desde una perspectiva “macro”, cómo las instituciones formales e informales inciden en la transparencia y, desde una perspectiva “meso”, cómo se implementa la transparencia a nivel organizacional. Para tal efecto realizamos un caso de estudio comparado en el cual abordamos seis casos en Colombia; tres sobre transparencia pasiva (CoronApp, escrutinio de elecciones, y BETTO) y tres sobre transparencia activa (repositorios de algoritmos públicos).In recent years there has been a rapid advancement and deployment of the use of automated decision-making systems (ADS) in both the public and private sectors around the world, including Colombia. On the other hand, most of the guidelines and ethical frameworks associated with the development and use of AI include “transparency” as one of the main values. Paradoxically, few public sector bodies at the national and/or local level report systematically and in a standardized manner on the use of these systems. Furthermore, few States open spaces for citizen participation and accountability in the di"erent stages of the life cycle of these systems. This article studies the relationship between the principle of algorithmic transparency and the Open Government model in the Colombian context. In addition to exploring these concepts from a conceptual point of view, we address their synergies and tensions through di"erent policies and public policy instruments and cases that have reached the Colombian courts. The study addresses the transparency of public administration with respect to its algorithmic systems from a “macro” perspective, how formal and informal institutions a"ect transparency, and from a “meso” perspective, how transparency is implemented at the organizational level. For this purpose, we conducted a comparative case study in which we addressed six cases in Colombia, three on passive transparency (CoronApp, election scrutiny, and BETTO) and three on active transparency (repositories of public algorithms).application/pdfspaUniversidad Autónoma de Bucaramanga UNABhttps://revistas.unab.edu.co/index.php/reflexion/article/view/4789/3819https://revistas.unab.edu.co/index.php/reflexion/issue/view/296Ada Lovelace Institute, AI Now Institute, Open Government, & Partnership. (2021). Al g o r i thmi c accountability for the public sector. Learning from the !rst wave of policy implementation. https:// www.opengovpartnership.org/documents/ algorithmicaccountability- public-sector/AIAAIC. (2023). AI, Algorithmic, and Automation Incidents and Controversies—AIAAIC Repository [dataset]. https://www.aiaaic.org/aiaaic-repositoryBerryhill, J., Heang, K. K., Clogher, R., & McBride, K. (2019). Hello, World Arti!cial intelligence and its use in the public sector. (OECD Working Papers on Public Governance, No. 36). OECD. https://doi. org/10.1787/726fd39d-enBojórquez-Pereznieto, J. A. (2013). La caja negra del Estado: el reto del Gobierno Abierto. En A. Hofmann, A. Ramírez-Alujas, J. A. Bojórquez-Pereznieto (coords.), La promesa del Gobierno Abierto (pp. 165-192). Itaip. http://148.202.167.116:8080/xmlui/ bitstream/handle/123456789/3584/Gobierno_abierto. pdf?sequence=1&isAllowed=yBrauneis, R., & Goodman, E. P. (2018). Algorithmic Transparency for the Smart City. Yale Journal of Law and Technology, 20, 103–176. HeinOnline.Buenadicha-Sánchez, C., Galdon, G., Hermosilla, M., Loewe, D., & Pombo, C. (2019). La gestión ética de los datos. Inter-American Development Bank. https://doi.org/10.18235/0001623Campos-Domínguez, E., & Corojan, A. (2013). Estado del arte del Gobierno Abierto: promesas y expectativas. En A. Hofmann, A. Ramírez- Alujas, J. A. Bojórquez-Pereznieto (coords.), La Promesa del Gobierno Abierto (pp. 119- 137). Itaip. http://148.202.167.116:8080/xmlui/ bitstream/handle/123456789/3584/Gobierno_abierto. pdf?sequence=1&isAllowed=yCDDO & CDEI. (2021). Algorithmic Transparency Recording Standard v2.1. Central Digital and Data O"ice (CDDO) and Centre for Data Ethics and Innovation (CDEI). https:// www.gov.uk/government/publications/algorithmictransparency- templateCDDO & CDEI. (2023). Algorithmic Transparency Recording Standard—Guidance for Public Sector Bodies. Central Digital and Data O"ice (CDDO) and Centre for Data Ethics and Innovation (CDEI). https://www.gov.uk/ government/publications/guidance-for-organisationsusing- the-algorithmic-transparency-recordingstandard/ algorithmic-transparency-recordingstandard- guidance-for-public-sector-bodiesChenou, J.M., & Rodríguez-Valenzuela, L. E. (2021). Habeas Data, Habemus Algorithms: Algorithmic Intervention in Public Interest Decision-Making in Colombia. Law, State and Telecommunications Review, 13(2), 56-77. https://doi.org/10.26512/lstr.v13i2.34113Cobo, C. (2013). Gobierno Abierto: de la transparencia a la inteligencia cívica. En A. Hofmann, A. Ramírez-Alujas, J. A. Bojórquez-Pereznieto (coords.), La promesa del Gobierno Abierto (pp. 101-118). Itaip. http://148.202.167.116:8080/xmlui/ bitstream/handle/123456789/3584/Gobierno_abierto. pdf?sequence=1&isAllowed=yColmenares, L. A. (2021). BETTO y el ICBF de La Guajira. Costa Noticias. https://costanoticias.com/bettoy- el-icbf-de-la-guajira-por-luis-alonso-colmenaresrodriguez/CONPES. (2021). Lineamientos de Política para la Implementación de un Modelo de Estado Abierto (Documento CONPES 4070). Consejo Nacional de Política Económica y Social (CONPES). https://colaboracion.dnp.gov.co/CDT/ Conpes/Econ%C3%B3micos/4070.pdfConstitución Política de Colombia [Const]. Art. 23. 20 de julio de 1991 (Colombia).Constitución Política de Colombia [Const]. Art. 74. 20 de julio de 1991 (Colombia).Contreras, D., & Pefaur, D. (2020). Transparencia Algorítmica: buenas práccticas y estándares de transparencia en el proceso de toma de decisiones automatizadas (Cuaderno de Trabajo No. 17). Consejo para la Transparencia (CPLT). https://www.consejotransparencia.cl/wpcontent/ uploads/estudios/2020/10/Transparencia- Algoritmica.pdfCotino-Hueso, L. (2023). Qué concreta transparencia e información de algoritmos e inteligencia arti!cial es la debida. Revista Española de la Transparencia, (16), 17-63. https://doi. org/10.51915/ret.272CPLT. (2022, 14 de junio). Sector público chileno avanza en inédita normativa de transparencia algorítmica en América Latina. Consejo para la Transparencia (CPLT). https://www. consejotransparencia.cl/sector-publico-chileno-avanzaen- inedita-normativa-de-transparencia-algoritmica-enamerica- latina/Davies, T. (2020). AI and the State of Open Data. Data for Development. https://www.d4d.net/news/ai-and-thestate- of-open-data/?s=03Decreto 1263 de 2022. Por el cual se adiciona el Título 22 a la Parte 2 del Libro 2 del Decreto 1078 de 2015, Decreto Único Reglamentario del Sector de Tecnologías de la Información y las Comunicaciones, con el !n de de!nir lineamientos y estándares aplicables a la Transformación Digital Pública. 22 de julio de 2022Denis, G., Hermosilla, M., Aracena, C., Sanchez, R., Gonzales, N., & Pombo, C. (2021). Uso responsable de IA para política pública: Manual de formulación de proyectos (1a ed.). Banco Interamericano de Desarrollo. https:// doi.org/10.18235/0003631Diakopoulos, N. (2020). Transparency. En M. D. Dubber, F. Pasquale, & S. Das (eds.), The Oxford Handbook of Ethics of AI (pp. 197-213). Oxford University Press. https://doi.org/10.1093/ oxfordhb/9780190067397.013.11Directiva presidencial 03 de 2021. Lineamientos para el uso de servicios en la nube, inteligencia arti!cial, seguridad digital y gestión de datos. 15 de marzo de 2021.El Espectador. (2022, 6 de junio). El cruce de versiones por funcionamiento del aplicativo Betto en el ICBF. El Espectador. https://www.elespectador. com/colombia/mas-regiones/el-cruce-de-versionespor- funcionamiento-del-aplicativo-betto-en-el-icbf/El Espectador. (2022, 16 de junio). Fiscalía hará auditoría a software de Registraduría previo a elecciones, ¿por qué?. El Espectador. https:// www.elespectador.com/judicial/!scalia-hara-auditoriaa- software-de-registraduria-previo-a-elecciones-porque/El Tiempo. (2022, 14 de junio). Gustavo Petro dice que la Registraduría ha negado la auditoría de software. El Tiempo. https://www.eltiempo.com/ elecciones-2022/actualidad-electoral/petro-diceque- la-registraduria-ha-negado-la-auditoria-deso "ware-680233El Universal. (2022, 17 de junio). Desautorizan a !scal que ordenó auditoría a software de Registraduría. El Universal. https://www.eluniversal.com.co/ politica/desautorizan-a-!scal-que-ordeno-auditoria-aso "ware-de-registraduria-CY6717631Ferreiro-Yazigui, A. (2013). Causales de reserva y recursos: el equilibrio virtuoso entre la transparencia y la defensa de los bienes jurídicos que justi!can proteger cierta información. En A. Hofmann, A. Ramírez-Alujas, J. A. Bojórquez-Pereznieto (coords.), La promesa del Gobierno Abierto (pp. 51-67). Itaip. http://148.202.167.116:8080/xmlui/ bitstream/handle/123456789/3584/Gobierno_abierto. pdf?sequence=1&isAllowed=yFundación Karisma. (2022). Informe de la observación primera vuelta presidencial Colombia 2022. Alertas y recomendaciones sobre la implementación de tecnología de cara a la eventual segunda vuelta de las elecciones presidenciales de 2022. Fundación Karisma. f i le: / / /C: /Users/ASUS/Downloads/ Informe- Observacion-primera-vuelta-1.pdfFundación Karisma. (2023, 18 de octubre). Comunicado de prensa 02. Observación técnica a las elecciones regionales de 2023. Fundación Karisma. https://web.karisma.org.co/comunicado-de-prensa-02- observacion-tecnica-a-las-elecciones-regionales-de- 2023-se-mantienen-restricciones-del-contratista-a-laobservacion/Garrido, R., Lapostol, J. P., & Hermosilla, M. P. (2021). Transparencia algorítmica en el sector público. GOB LAB UAI; Consejo para la Transparencia. https://goblab.uai.cl/wp-content/uploads/2021/10/ ESTUDIO-TRANSPARENCIA-ALGORITMICA-ENEL- SECTOR-PUBLICO-GOBLAB-CPLT-!nal....pdfGuío, A., Tamayo, E., & Gómez-Ayerbe, P. (2021). Marco ético para la inteligencia arti!cial en Colombia. Departamento Administrativo de la Presidencia de la República.Gutiérrez, J. D. (2023, 6 de julio). Repositorios y registros públicos de algoritmos. Blog Foro Administración, Gestión y Política Pública. https://forogpp.com/inteligencia-arti!cial/repositorios-yregistros- de-algoritmos/Gutiérrez, J. D., & Muñoz-Cadena, S. (2023a). Adopción de sistemas de decisión automatizada en el sector público: cartografía de 113 sistemas en Colombia. GIGAPP Estudios Working Papers, 10(270), 365-395.Gutiérrez, J. D., & Muñoz-Cadena, S. (2023b). Building a repository of public algorithms: Case study of the dataset on automated decision-making systems in the Colombian public sector. En L. Belli & W. B. Gaspar (eds.), The Quest for AI Sovereignty, Transparency and Accountability: O"icial Outcome of the UN IGF Data and Arti!cial Intelligence Governance Coalition (pp. 325-340). Getulio Vargas Foundation; FGV Direito Rio. https://www.intgovforum.org/en/ !ledepot_download/288/26421Gutiérrez, J. D., Muñoz-Cadena, S., & Castellanos- Sánchez, M. (2023). Sistemas de decisión automatizada en el sector público colombiano (Versión V1). Universidad del Rosario. https:// doi.org/10.34848/YN1CRT.Gutiérrez R., J. D. (2020). Retos éticos de la inteligencia arti!cial en el proceso judicial. En ICDP (ed.), Derecho Procesal. #NuevasTendencias. XLI Congreso Colombiano de Derecho Procesal (pp. 499-516). Instituto Colombiano de Derecho Procesal (ICDP); Universidad Libre.ICBF. (2021, 30 de enero). Conoce cómo fue el proceso de selección de operadores. Portal ICBF - Instituto Colombiano de Bienestar Familiar ICBF. https://www.icbf.gov.co/proceso-de-seleccion-serviciosintegrales- de-primera-infancia-2021/proceso-seleccionoperadoresICBF. (2023, 16 de noviembre). Plataforma BETTO deja de ser herramienta de selección de operadores del ICBF. Portal ICBF - Instituto Colombiano de Bienestar Familiar ICBF. https://www.icbf.gov.co/ noticias/plataforma-betto-deja-de-ser-herramienta-deseleccion- de-operadores-del-icbfLa Libertad. (2022, 10 de junio). Luis Guillermo Pérez sugiere auditoría forense a software de elecciones. Diario La Libertad. https://diariolalibertad.com/ sitio/2022/06/10/luis-guillermo-perez-sugiere-auditoriaforense- a-so"ware-de-elecciones/Lapostol, J. P., Garrido, R., & Hermosilla, M. P. (2023). Algorithmic Transparency from the South: Examining the state of algorithmic transparency in Chile’s public administration algorithms. En 2023 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’23), Chicago, IL, USA (pp. 227-235). https://doi.org/10.1145/3593013.3593991.Ley 1712 de 2014. Por medio de la cual se crea la Ley de Transparencia y del Derecho de Acceso a la Información Pública Nacional y se dictan otras disposiciones. 6 de marzo de 2014.Ley 1755 de 2015. Por medio de la cual se regula el Derecho Fundamental de Petición y se sustituye un título del Código de Procedimiento Administrativo y de lo Contencioso Administrativo. 30 de junio de 2015.Mera-Villamizar, D. (2022, 1 de agosto). ICBF: el fracaso de Betto como síntoma. El Espectador. https://www. elespectador.com/opinion/columnistas/daniel-meravillamizar/ icbf-el-fracaso-de-betto-como-sintoma/MOE. (2023, 10 de octubre). Octavo informe presentado por la MOE a la Comisión Nacional para la Coordinación y seguimiento de los procesos electorales. MOE - Misión de Observación Electoral. https://www.moe.org.co/octavo-informepresentado- por-la-moe-a-la-comision-nacional-parala- coordinacion-y-seguimiento-de-los-procesoselectorales/OGP. (2023). The Skeptic’s Guide to Open Government—2022 Edition. Open Government Partnership - OGP. https://www.opengovpartnership.org/skeptics-guide-toopen- government-2022-edition/Oquendo, C. (2022, 16 de mayo). Las cajas negras del ‘software’ electoral en Colombia. El País. https:// elpais.com/internacional/2022-05-16/las-cajas-negras-delso "ware-electoral-en-colombia.htmlOrtiz, J. (2022, 24 de mayo). En plena crisis el Registrador le quitó dientes a la auditoría de las elecciones. La Silla Vacía. https://www.lasillavacia.com/historias/sillanacional/ en-plena-crisis-el-registrador-le-quito-dientes-ala- auditoria-de-las-elecciones/Pineda, J. L. (2021, 5 febrero). Madres comunitarias en Bucaramanga exigen claridad en la contratación del Icbf. Vanguardia. https://www.vanguardia.com/ area-metropolitana/bucaramanga/madres-comunitariasen- bucaramanga-exigen-claridad-en-la-contratacion-delicbf- IA3367208Porter, Z., Zimmermann, A., Morgan, P., McDermid, J., Lawton, T., & Habli, I. (2022). Distinguishing two features of accountability for AI technologies. Nature Machine Intelligence, 4(9), 734-736. https://doi.org/10.1038/s42256-022-00533-0Porumbescu, G., Meijer, A., & Grimmelikhuijsen, S. (2022). Government Transparency: State of the Art and New Perspectives. Cambridge University Press. https://doi.org/10.1017/9781108678568.Ramírez-Alujas, Á. V. (2011). Gobierno Abierto y modernización de la gestión pública. Tendencias actuales y el (inevitable) camino que viene. Re#exiones seminales. Revista Enfoques: Ciencia Política y Administración Pública, IX (15), 99-125.Ramírez-Alujas, Á. V. (2013). Gobierno Abierto. Eunomía. Revista en Cultura de la Legalidad. (5), 201-216.Resolución 666 del 24 de abril de 2020. Por medio del cual se adopta el protocolo general de bioseguridad para mitigar, controlar y realizar el adecuado manejo de la pandemia de Coronavirus COVID-19. Ministerio de Salud y Protección Social. https://www.minsalud.gov.co/Normatividad_ Nuevo/Resolución%20No.%20666%20de%202020.pdfResolución 7946 del 2021 [Instituto Colombiano de Bienestar Familiar]. Por la cual se derogan las resoluciones 5743 de 2020, 6098 de 2020, 6694 de 2020, 320 de 2021 y 371 de 2021, y se uni!ca el procedimiento administrativo para la selección de contratistas habilitados en el Banco Nacional de Oferentes y las reglas para seleccionar a los contratistas, establecidas en el capítulo IV. 21 de octubre de 2021. https://www.icbf.gov.co/sites/default/ !les/resolucion_no._7946-2021.pdfReyes, N. (2021, 6 de febrero). Madres comunitarias indignadas por plataforma Betto del ICBF. Diario del Cesar. https://www.diariodelcesar.com/ archivos/125039/madres-comunitarias-indignadas-porplataforma- betto-del-icbf/.Richardson, R. (2022). De!ning and Demystifying Automated Decision Systems. Maryland Law Review, 81(3), 785-840.Sáenz, P., López, J., & Hernández, S. (2018). Propuesta de protocolo de auditoría para el software de escrutinio de las elecciones de Colombia en 2018 (Artículo 45, Ley 1475 de 2011). Laboratorio de Seguridad digital y privacidad de la Fundación Karisma – KLAB, con la colaboración de La Misión de Observación Electoral – MOE. https:// www.moe.org.co/wp-content/uploads/2018/04/Protocolode- auditor%C3%ADa-para-el-so"ware-de-escrutinio-delas- elecciones-de-Colombia-en-2018.pdfUNESCO. (2023a). Ethical impact assessment: A tool of the Recommendation on the Ethics of Arti!cial Intelligence. Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura - UNESCO. https://www.unesco.org/en/ articles/ethical-impact-assessment-tool-recommendationethics- arti!cial-intelligenceUNESCO. (2023b). Kit de herramientas global sobre IA y el estado de derecho para el poder judicial. Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura - UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000387331_spaUpegui-Mejía, J. C. (2020). Acción de tutela formulada por el ciudadano Juan Carlos Upegui Mejía en contra de la Agencia Nacional Digital, el Instituto Nacional de Salud y el Ministerio de Salud y Protección Social.Urueña, R. (2019). Autoridad algorítmica: ¿cómo empezar a pensar la protección de los derechos humanos en la era del “big data”? Latin American Law Review, 1(2), 99-124.Valderrama, M., Hermosilla, M. P., & Garrido, R. (2023). State of the Evidence: Algorithmic Transparency. Open Government Partnership; GobLab (Universidad Adolfo Ibáñez). https:// www.opengovpartnership.org/documents/state-of-theevidence- algorithmic-transparency/Venturini, J. (2021). Informe Observatorio Covid-19 del Consorcio Al Sur: Un análisis crítico de las tecnologías desplegadas en América Latina contra la pandemia. Al Sur. https://www.alsur.lat/ sites/default/!les/2021-06/Informe%20Observatorio%20 Covid-19%20del%20Consorcio%20Al%20Sur%282%29. pdfW Radio. (2021, 3 de marzo). Trabajadores del ICBF denuncian irregularidades en plataforma para atender a niños. W Radio. https://www.wradio. com.co/noticias/actualidad/trabajadores-del-icbfdenuncian- irregularidades-en-plataforma-para-atender-aninos/ 20210303/nota/4114097.aspxWirtz, B. W., & Müller, W. M. (2019). An integrated arti!cial intelligence framework for public management. Public Management Review, 21(7), 1076-1100. https://doi.org/10.1080/14719037.2018.1549268.Vol. 25 Núm. 52 (2023): Estado Abierto; 6-21Transparencia algorítmicaEstado AbiertoInteligencia artificialSistemas de toma automatizada de decisionesColombiaAlgorithmic transparencyOpen GovernmentArtificial intelligenceAutomated decision-making systemsColombiaTransparencia algorítmica y Estado Abierto en ColombiaAlgorithmic Transparency and Open Government in Colombiainfo:eu-repo/semantics/articleArtículohttp://purl.org/coar/resource_type/c_2df8fbb1http://purl.org/redcol/resource_type/ARThttp://purl.org/coar/version/c_970fb48d4fbd8a85http://purl.org/coar/access_right/c_abf2LICENSElicense.txtlicense.txttext/plain; charset=utf-8829https://repository.unab.edu.co/bitstream/20.500.12749/27254/2/license.txt3755c0cfdb77e29f2b9125d7a45dd316MD52open accessTHUMBNAILArtículo.pdf.jpgArtículo.pdf.jpgIM Thumbnailimage/jpeg10465https://repository.unab.edu.co/bitstream/20.500.12749/27254/3/Art%c3%adculo.pdf.jpg94fb2a3b6ef880f52a144b32c84ab675MD53open accessORIGINALArtículo.pdfArtículo.pdfArtículoapplication/pdf457707https://repository.unab.edu.co/bitstream/20.500.12749/27254/1/Art%c3%adculo.pdf8b9d6da01ebb08236c4bbed1b7dc2cf8MD51open access20.500.12749/27254oai:repository.unab.edu.co:20.500.12749/272542024-11-01 22:00:53.062open accessRepositorio Institucional | Universidad Autónoma de Bucaramanga - UNABrepositorio@unab.edu.coRUwoTE9TKSBBVVRPUihFUyksIG1hbmlmaWVzdGEobWFuaWZlc3RhbW9zKSBxdWUgbGEgb2JyYSBvYmpldG8gZGUgbGEgcHJlc2VudGUgYXV0b3JpemFjacOzbiBlcyBvcmlnaW5hbCB5IGxhIHJlYWxpesOzIHNpbiB2aW9sYXIgbyB1c3VycGFyIGRlcmVjaG9zIGRlIGF1dG9yIGRlIHRlcmNlcm9zLCBwb3IgbG8gdGFudG8sIGxhIG9icmEgZXMgZGUgZXhjbHVzaXZhIGF1dG9yw61hIHkgdGllbmUgbGEgdGl0dWxhcmlkYWQgc29icmUgbGEgbWlzbWEuCgpFbiBjYXNvIGRlIHByZXNlbnRhcnNlIGN1YWxxdWllciByZWNsYW1hY2nDs24gbyBhY2Npw7NuIHBvciBwYXJ0ZSBkZSB1biB0ZXJjZXJvIGVuIGN1YW50byBhIGxvcyBkZXJlY2hvcyBkZSBhdXRvciBzb2JyZSBsYSBvYnJhIGVuIGN1ZXN0acOzbi4gRWwgQVVUT1IgYXN1bWlyw6EgdG9kYSBsYSByZXNwb25zYWJpbGlkYWQsIHkgc2FsZHLDoSBlbiBkZWZlbnNhIGRlIGxvcyBkZXJlY2hvcyBhcXXDrSBhdXRvcml6YWRvcywgcGFyYSB0b2RvcyBsb3MgZWZlY3RvcyBsYSBVTkFCIGFjdMO6YSBjb21vIHVuIHRlcmNlcm8gZGUgYnVlbmEgZmUuCgpFbCBBVVRPUiBhdXRvcml6YSBhIGxhIFVuaXZlcnNpZGFkIEF1dMOzbm9tYSBkZSBCdWNhcmFtYW5nYSBwYXJhIHF1ZSBlbiBsb3MgdMOpcm1pbm9zIGVzdGFibGVjaWRvcyBlbiBsYSBMZXkgMjMgZGUgMTk4MiwgTGV5IDQ0IGRlIDE5OTMsIERlY2lzacOzbiBBbmRpbmEgMzUxIGRlIDE5OTMgeSBkZW3DoXMgbm9ybWFzIGdlbmVyYWxlcyBzb2JyZSBsYSBtYXRlcmlhLCB1dGlsaWNlIGxhIG9icmEgb2JqZXRvIGRlIGxhIHByZXNlbnRlIGF1dG9yaXphY2nDs24uCg== |