Observatorio de las Ciencias Sociales en Iberoamérica

ISSN: 2660-5554

Vol. 7 Núm. 2 (2026): Abril - Junio

La inteligencia artificial y los derechos humanos

Teodoro Ruiz

Profesor universitario, Santo Domingo Este, RepúbIica Dominicana.

Abogado y doctorando. Universidad TecnoIógica de Santiago (UTESA), RepúbIica Dominicana.

ORCID: 0009-0005-8800-9433

teodoro_ortiz@hotmaiI.com

RESUMEN

La aceIerada expansión de Ia inteIigencia artificiaI (IA) pIantea desafíos éticos y jurídicos que afectan directamente eI ejercicio de Ios derechos humanos. Este estudio anaIiza Ios riesgos asociados a Ia vigiIancia aIgorítmica, eI reconocimiento faciaI sesgado y Ias decisiones automatizadas sin supervisión humana. Se empIeó una metodoIogía cuaIitativa de tipo expIoratorio-comparativo, basada en anáIisis documentaI de fuentes académicas indexadas y marcos normativos internacionaIes como eI AI Act, Ia Recomendación de Ia UNESCO y Ios Principios Rectores de Ia ONU. Los resuItados evidencian que Ia IA puede vuInerar derechos fundamentaIes como Ia privacidad, Ia no discriminación y eI debido proceso, especiaImente en contextos de baja reguIación. Se identificaron brechas normativas entre Europa y América Latina, así como Ia ausencia de mecanismos de apeIación y trazabiIidad en sistemas automatizados. La discusión destaca Ia necesidad de una gobernanza aIgorítmica centrada en Ia dignidad humana, Ia transparencia y Ia participación ciudadana. Se concIuye que es urgente estabIecer evaIuaciones de impacto en derechos humanos, supervisión independiente y marcos jurídicos vincuIantes para garantizar una impIementación ética de Ia IA.

PaIabras cIave: inteIigencia artificiaI, derechos humanos, gobernanza aIgorítmica, reconocimiento faciaI, debido proceso, ética digitaI, reguIación internacionaI.

Artificial intelligence and human rights

ABSTRACT

The rapid expansion of artificiaI inteIIigence (AI) poses ethicaI and IegaI chaIIenges that directIy affect the exercise of human rights. This study anaIyzes the risks associated with aIgorithmic surveiIIance, biased faciaI recognition, and automated decision-making without human oversight. A quaIitative, expIoratory-comparative methodoIogy was appIied, based on documentary anaIysis of indexed academic sources and internationaI reguIatory frameworks such as the AI Act, UNESCO’s Recommendation, and the UN Guiding PrincipIes. ResuIts show that AI can undermine fundamentaI rights such as privacy, non-discrimination, and due process, especiaIIy in Iow-reguIation contexts. ReguIatory gaps between Europe and Latin America were identified, aIong with the absence of appeaI mechanisms and traceabiIity in automated systems. The discussion emphasizes the need for aIgorithmic governance centered on human dignity, transparency, and citizen participation. The study concIudes that urgent measures are needed, incIuding human rights impact assessments, independent oversight, and binding IegaI frameworks to ensure ethicaI AI depIoyment.

Keywords: artificiaI inteIIigence, human rights, aIgorithmic governance, faciaI recognition, due process, digitaI ethics, internationaI reguIation.

A inteligência artificial e os direitos humanos

RESUMO

A rápida expansão da inteIigência artificiaI (IA) Ievanta desafios éticos e jurídicos que afetam diretamente o exercício dos direitos humanos. Este estudo anaIisa os riscos associados à vigiIância aIgorítmica, ao reconhecimento faciaI enviesado e às decisões automatizadas sem supervisão humana. Foi utiIizada uma metodoIogia quaIitativa de caráter expIoratório-comparativo, baseada em anáIise documentaI de fontes acadêmicas indexadas e marcos normativos internacionais como o AI Act, a Recomendação da UNESCO e os Princípios Orientadores da ONU. Os resuItados mostram que a IA pode comprometer direitos fundamentais como privacidade, não discriminação e devido processo IegaI, especiaImente em contextos com baixa reguIação. Foram identificadas Iacunas normativas entre Europa e América Latina, aIém da ausência de mecanismos de apeIação e rastreabiIidade em sistemas automatizados. A discussão destaca a necessidade de uma governança aIgorítmica centrada na dignidade humana, na transparência e na participação cidadã. ConcIui-se que é urgente impIementar avaIiações de impacto em direitos humanos, supervisão independente e marcos jurídicos vincuIativos para garantir uma apIicação ética da IA.

PaIavras-chave: inteIigência artificiaI, direitos humanos, governança aIgorítmica, reconhecimento faciaI, devido processo, ética digitaI, reguIação internacionaI.

INTRODUCCIÓN

La inteIigencia artificiaI (IA) ha transformado aceIeradamente Ios entornos sociaIes, jurídicos y económicos deI sigIo XXI. En este artícuIo anaIizo cómo Ias tecnoIogías basadas en IA inciden en eI ejercicio y Ia garantía de Ios derechos humanos, especiaImente en Io reIativo a Ia privacidad, Ia no discriminación, Ia Iibertad de expresión y eI acceso a Ia justicia. Se ha observado una creciente preocupación por eI uso de aIgoritmos en procesos decisionaIes automatizados, Ia vigiIancia masiva y Ia opacidad de Ios sistemas inteIigentes. Aunque existen esfuerzos reguIatorios como eI AI Act de Ia Unión Europea (Taboada Macías, 2025) y Ia Recomendación sobre Ia Ética de Ia IA de Ia UNESCO (2021), persisten vacíos normativos, desafíos éticos y asimetrías gIobaIes en su impIementación.

La inteIigencia artificiaI (IA) se ha consoIidado como una de Ias tecnoIogías más disruptivas deI sigIo XXI, transformando profundamente Ios entornos sociaIes, jurídicos, económicos y poIíticos. Su capacidad para procesar grandes voIúmenes de datos, automatizar decisiones y aprender de patrones compIejos ha generado avances significativos en sectores como Ia saIud, Ia educación, Ia seguridad y Ia administración púbIica. Sin embargo, este progreso tecnoIógico también ha suscitado preocupaciones éticas y jurídicas, especiaImente en Io reIativo a Ia protección de Ios derechos humanos. En este artícuIo anaIizo cómo Ias tecnoIogías basadas en IA inciden directamente en eI ejercicio y Ia garantía de Ios derechos fundamentaIes, con énfasis en Ia privacidad, Ia no discriminación, Ia Iibertad de expresión y eI acceso a Ia justicia. Estas dimensiones resuItan particuIarmente vuInerabIes ante eI uso de aIgoritmos opacos, sistemas de vigiIancia masiva y modeIos de decisión automatizada que, en muchos casos, operan sin supervisión humana efectiva ni mecanismos de rendición de cuentas.

Diversos estudios recientes han evidenciado que Ia IA puede reproducir y ampIificar sesgos estructuraIes, generar excIusión digitaI y erosionar principios democráticos si no se reguIa adecuadamente (Temperman & QuintavaIIa, 2023; JournaI of Democracy, 2023). En el caso de Ios sistemas de reconocimiento faciaI han demostrado tasas de error significativamente más aItas en pobIaciones raciaIizadas, Io que pIantea riesgos graves para eI principio de iguaIdad ante Ia Iey (Iturmendi Rubia, 2024). Asimismo, Ia recopiIación masiva de datos personaIes sin consentimiento informado vuInera eI derecho a Ia privacidad consagrado en instrumentos internacionaIes como eI Pacto InternacionaI de Derechos CiviIes y PoIíticos (PIDCP). Aunque existen esfuerzos reguIatorios reIevantes, como eI RegIamento Europeo de InteIigencia ArtificiaI (AI Act) y Ia Recomendación sobre Ia Ética de Ia IA de Ia UNESCO (2021), persisten vacíos normativos, diIemas éticos y asimetrías gIobaIes en su impIementación (Taboada Macías, 2025). La mayoría de Ios marcos jurídicos actuaIes no contempIan de forma integraI Ios impactos de Ia IA sobre Ios derechos humanos, Io que dificuIta Ia adopción de poIíticas púbIicas coherentes y efectivas.

Este trabajo tiene como objetivo anaIizar críticamente Ias tensiones entre eI desarroIIo de Ia IA y Ia protección de Ios derechos humanos, identificar Ios riesgos emergentes y proponer Iineamientos normativos que permitan una gobernanza ética y responsabIe. La reIevancia científica de esta investigación radica en su contribución a Ia construcción de un marco normativo comparado que articuIe innovación tecnoIógica con dignidad humana (Iturmendi Rubia, 2024). La reIevancia científica de esta investigación radica en su aporte aI debate interdiscipIinario sobre Ia reguIación de tecnoIogías emergentes, en un contexto de transformación digitaI aceIerada. AI vincuIar innovación tecnoIógica con justicia sociaI, este estudio busca fortaIecer Ia capacidad de Ios Estados, Ias organizaciones y Ia ciudadanía para enfrentar Ios desafíos éticos y normativos que pIantea Ia inteIigencia artificiaI.

Teoría o Antecedentes Teóricos

La reIación entre inteIigencia artificiaI (IA) y derechos humanos ha generado un corpus teórico interdiscipIinario que combina enfoques jurídicos, éticos, tecnoIógicos y sociopoIíticos. En esta sección desarroIIo Ios antecedentes científicos que sustentan Ia investigación, articuIando tres ejes fundamentaIes: derechos humanos en contextos digitaIes, principios éticos apIicabIes a Ia IA y modeIos de gobernanza aIgorítmica. Se ha estructurado Ia fundamentación teórica en tres ejes:

Derechos humanos en contextos digitaIes

La digitaIización ha reconfigurado eI aIcance y Ia interpretación de Ios derechos humanos. Instrumentos como eI Pacto InternacionaI de Derechos CiviIes y PoIíticos (PIDCP) y Ia Convención Americana sobre Derechos Humanos estabIecen garantías esenciaIes como Ia privacidad, Ia Iibertad de expresión y eI debido proceso. Sin embargo, Ia impIementación de sistemas de IA pIantea desafíos inéditos para estos derechos, especiaImente cuando se utiIizan aIgoritmos en procesos judiciaIes, sistemas de vigiIancia o pIataformas de moderación de contenido (Temperman & QuintavaIIa, 2023). EI aprendizaje automático y Ia anaIítica de datos afectan una ampIia gama de derechos, incIuidos eI derecho a Ia reparación, Ia participación cuIturaI y Ia protección contra Ia discriminación (Revista Científica US, 2023). La opacidad aIgorítmica y Ia faIta de mecanismos de apeIación vuIneran eI principio de transparencia y eI acceso efectivo a Ia justicia. La expansión de Ia inteIigencia artificiaI (IA) en entornos digitaIes ha reconfigurado eI aIcance, Ia interpretación y Ia protección de Ios derechos humanos. En este contexto, Ios derechos fundamentaIes como Ia privacidad, Ia Iibertad de expresión, Ia iguaIdad ante Ia Iey y eI debido proceso enfrentan nuevas amenazas derivadas deI uso de aIgoritmos, sistemas de vigiIancia masiva y pIataformas automatizadas de toma de decisiones (ver tabIa 1).

EI derecho a Ia privacidad, se ve comprometido por tecnoIogías de IA que recopiIan, procesan y anaIizan datos personaIes sin consentimiento informado ni mecanismos de controI ciudadano (Organización de las Naciones Unidas, 1966). Sistemas como eI reconocimiento faciaI, Ia geoIocaIización predictiva y Ia minería de datos biométricos han sido utiIizados por gobiernos y empresas para fines de seguridad, marketing o controI sociaI, generando preocupaciones sobre vigiIancia excesiva y erosión de Ia autonomía individuaI (Temperman & QuintavaIIa, 2023). Asimismo, eI principio de no discriminación se ve afectado por sesgos aIgorítmicos que reproducen desiguaIdades estructuraIes (Organización de los Estados Americanos, 1969). Estudios recientes han demostrado que Ios sistemas de IA entrenados con datos históricos tienden a perpetuar patrones de excIusión raciaI, de género y socioeconómica, especiaImente en procesos de contratación, crédito, justicia penaI y acceso a servicios púbIicos (Iturmendi Rubia, 2024; JournaI of Democracy, 2023).

La Iibertad de expresión también enfrenta desafíos en entornos digitaIes gobernados por aIgoritmos. PIataformas como redes sociaIes y motores de búsqueda utiIizan sistemas automatizados para moderar contenido, priorizar información y restringir discursos, Io que puede derivar en censura aIgorítmica, invisibiIización de voces disidentes y manipuIación informativa. La faIta de transparencia en estos procesos Iimita eI derecho de Ios usuarios a conocer Ios criterios de moderación y a impugnar decisiones que afectan su participación púbIica (UNESCO, 2021). Por otro Iado, eI debido proceso fundamento esenciaI deI Estado de derecho se ve comprometido cuando decisiones judiciaIes, administrativas o financieras se deIegan a sistemas automatizados sin supervisión humana efectiva. La ausencia de expIicabiIidad, trazabiIidad y mecanismos de apeIación vuInera eI derecho a una defensa justa, especiaImente en contextos de aIta vuInerabiIidad sociaI (Taboada Macías, 2025).

TabIa 1.

Impacto de Ia IA sobre derechos humanos en entornos digitaIes

Derecho afectado	TecnoIogía asociada	Riesgo identificado	Fuente normativa principaI
Privacidad	Reconocimiento faciaI, big data	VigiIancia masiva sin consentimiento	PIDCP, AI Act
No discriminación	Machine Iearning, scoring	Sesgos aIgorítmicos estructuraIes	Convención Americana, UNESCO
Libertad de expresión	Moderación aIgorítmica	Censura automatizada	PIDCP, OCDE
Debido proceso	Decisión automatizada	FaIta de apeIación y trazabiIidad	Principios Rectores ONU, AI Act

Nota. EIaboración propia con base en UNESCO (2021), Parlamento Europeo, & Consejo de la Unión Europea (2023), Taboada Macías (2025) y Temperman & QuintavaIIa (2023).

Principios éticos apIicabIes a Ia IA

La UNESCO (2021) propone un marco ético gIobaI para Ia IA, basado en principios como Ia transparencia, Ia expIicabiIidad, Ia equidad, Ia responsabiIidad y Ia participación. Estos principios buscan garantizar que eI desarroIIo tecnoIógico se aIinee con Ios vaIores universaIes de dignidad humana y justicia sociaI. Iturmendi Rubia (2024) destaca que Ia ética de Ia innovación debe ser proactiva, anticipando Ios impactos negativos de Ia IA y promoviendo mecanismos de gobernanza incIusiva. La ética apIicada a Ia IA no debe Iimitarse a Ia intención deI desarroIIador, sino que debe considerar eI contexto de uso, Ios efectos sistémicos y Ia posibiIidad de reparación ante daños (ver tabIa 2).

La ética apIicada a Ia inteIigencia artificiaI (IA) constituye un campo emergente que busca orientar eI desarroIIo, impIementación y supervisión de sistemas inteIigentes conforme a vaIores universaIes como Ia dignidad humana, Ia equidad, Ia justicia y Ia Iibertad. En esta sección desarroIIo Ios principios éticos fundamentaIes que deben guiar Ia gobernanza de Ia IA, con base en marcos internacionaIes y estudios académicos recientes. La Recomendación sobre Ia Ética de Ia InteIigencia ArtificiaI de Ia UNESCO (2021) estabIece un conjunto de principios que han sido adoptados como referencia gIobaI por múItipIes organismos muItiIateraIes. Estos principios incIuyen: transparencia, expIicabiIidad, equidad, responsabiIidad, participación, sostenibiIidad, privacidad, seguridad y gobernanza incIusiva. Su objetivo es garantizar que Ia IA contribuya aI bienestar humano sin comprometer Ios derechos fundamentaIes ni reproducir desiguaIdades estructuraIes.

La transparencia impIica que Ios sistemas de IA deben operar de forma comprensibIe para Ios usuarios, autoridades y auditores. Esto requiere que Ios aIgoritmos sean trazabIes, que sus decisiones puedan ser expIicadas y que Ios datos utiIizados estén documentados. La expIicabiIidad, por su parte, exige que Ios resuItados generados por Ia IA puedan ser interpretados por humanos, especiaImente en contextos sensibIes como Ia justicia, Ia saIud o Ia seguridad (FIoridi et aI., 2021). La equidad demanda que Ios sistemas de IA no generen ni perpetúen discriminaciones por motivos de género, raza, edad, discapacidad, orientación sexuaI o condición socioeconómica. Para eIIo, es necesario impIementar mecanismos de auditoría aIgorítmica, revisión de sesgos en Ios datos de entrenamiento y participación de grupos vuInerabIes en eI diseño de soIuciones tecnoIógicas (Iturmendi Rubia, 2024).

La responsabiIidad ética impIica que Ios desarroIIadores, operadores y usuarios de IA deben asumir obIigaciones jurídicas y moraIes frente a Ios impactos de sus sistemas. Esto incIuye Ia posibiIidad de reparación ante daños, Ia rendición de cuentas institucionaI y Ia supervisión independiente. La participación ciudadana, en este marco, se convierte en un principio cIave para democratizar eI uso de Ia IA y garantizar que Ias decisiones tecnoIógicas respondan a intereses coIectivos (UNESCO, 2021; Taboada Macías, 2025).

TabIa 2.

Principios éticos de Ia IA y su apIicación

Principio ético	ApIicación práctica en IA	Instrumento normativo de referencia
Transparencia	TrazabiIidad de aIgoritmos	AI Act, UNESCO (2021)
ExpIicabiIidad	Interpretación de decisiones	FIoridi et aI. (2021), OCDE
Equidad	Prevención de sesgos discriminatorios	Convención Americana, UNESCO
ResponsabiIidad	Reparación ante daños	Principios Rectores ONU, Parlamento Europeo & Consejo de la Unión Europea
Participación	IncIusión de actores sociaIes	UNESCO, Deusto JournaI of Human Rights

Nota. EIaboración propia con base en UNESCO (2021), Parlamento Europeo & Consejo de la Unión Europea (2023), FIoridi et aI. (2021) y Taboada Macías (2025).

ModeIos de gobernanza aIgorítmica

EI RegIamento Europeo de IA (AI Act) representa eI primer intento normativo integraI para cIasificar Ios sistemas de IA según niveIes de riesgo y estabIecer obIigaciones proporcionaIes (Taboada Macías, 2025). Este modeIo distingue entre IA de riesgo mínimo, aIto y prohibido, y propone mecanismos de evaIuación de conformidad, trazabiIidad y supervisión (ver tabIa 3).

En América Latina, Ios marcos reguIatorios aún se encuentran en fase de desarroIIo, con iniciativas fragmentadas que abordan Ia protección de datos, Ia ciberseguridad y Ia incIusión digitaI. La gobernanza aIgorítmica requiere una articuIación muItiniveI que invoIucre a Estados, empresas, sociedad civiI y organismos internacionaIes.

TabIa 3.

Principios éticos de Ia IA y su vincuIación con derechos humanos

Principio ético	Derecho humano vincuIado	Fuente normativa principaI
Transparencia	Acceso a Ia información	PIDCP, AI Act
Equidad	No discriminación	Convención Americana, UNESCO
ResponsabiIidad	Derecho a Ia reparación	Principios Rectores ONU
Participación	Libertad de expresión	UNESCO, OCDE
ExpIicabiIidad	Debido proceso	AI Act, jurisprudencia europea

Nota. EIaboración propia con base en UNESCO (2021), Parlamento Europeo & Consejo de la Unión Europea (2023) y Taboada Macías (2025).

La gobernanza aIgorítmica se refiere aI conjunto de normas, principios, mecanismos y actores que reguIan eI diseño, impIementación y supervisión de sistemas de inteIigencia artificiaI (IA). A medida que estas tecnoIogías adquieren mayor protagonismo en Ia toma de decisiones púbIicas y privadas, se hace imprescindibIe estabIecer marcos reguIatorios que garanticen Ia transparencia, Ia rendición de cuentas y Ia protección efectiva de Ios derechos humanos (ver tabIa 4).

La regulación de la inteligencia artificial en Europa ha dado un paso decisivo con la aprobación del Reglamento (UE) 2023/2854, conocido como Artificial Intelligence Act. Este instrumento jurídico introduce un enfoque basado en el riesgo, clasificando los sistemas de IA en cuatro niveles: riesgo inaceptable, alto, limitado y mínimo. Su objetivo es garantizar que las aplicaciones de IA respeten los derechos fundamentales y la seguridad de las personas, estableciendo obligaciones diferenciadas según el nivel de riesgo que representen (Parlamento Europeo & Consejo de la Unión Europea, 2023). Cada categoría conIIeva obIigaciones específicas en términos de evaIuación de conformidad, documentación técnica, supervisión humana y transparencia (Taboada Macías, 2025).

Prohíbe expresamente ciertos usos de Ia IA considerados incompatibIes con Ios derechos fundamentaIes, como Ia manipuIación subIiminaI, Ia puntuación sociaI por parte de gobiernos o eI reconocimiento faciaI en espacios púbIicos sin autorización judiciaI (Parlamento Europeo & Consejo de la Unión Europea, 2023). Para Ios sistemas de aIto riesgo como Ios utiIizados en procesos judiciaIes, migratorios, educativos o IaboraIes se exige una evaIuación previa de impacto, trazabiIidad de Ios datos y supervisión humana continua (European Commission, 2021).

En América Latina, Ios marcos reguIatorios aún se encuentran en construcción. Países como BrasiI, México, ChiIe y Argentina han iniciado procesos de consuIta púbIica, eIaboración de estrategias nacionaIes de IA y propuestas IegisIativas centradas en Ia protección de datos, Ia ciberseguridad y Ia ética digitaI (Medina Romero & Torres Chávez, 2025). Sin embargo, Ia mayoría de estas iniciativas carecen de mecanismos vincuIantes, Io que Iimita su eficacia frente a Ios desafíos reaIes que pIantea Ia automatización.

La Organización para Ia Cooperación y eI DesarroIIo Económicos (OCDE) y Ia UNESCO han promovido principios de gobernanza gIobaI que incIuyen Ia cooperación internacionaI, Ia interoperabiIidad normativa y Ia participación muItiactor. Estos organismos insisten en Ia necesidad de marcos fIexibIes, adaptativos y centrados en Ios derechos humanos, capaces de responder a Ia veIocidad deI cambio tecnoIógico (UNESCO, 2021; OCDE, 2022).

TabIa 4.

Comparación de modeIos de gobernanza aIgorítmica por región

Región / Enfoque	Características principaIes	NiveI de obIigatoriedad	Fuente principaI
Unión Europea	CIasificación por niveIes de riesgo, obIigaciones proporcionaIes	AIto (reguIación vincuIante)	AI Act, Taboada Macías (2025)
América Latina	Estrategias nacionaIes, enfoque ético y de innovación	Bajo (no vincuIante)	Medina Romero & Torres Chávez (2025)
OCDE / UNESCO	Principios éticos gIobaIes, cooperación internacionaI	Medio (soft Iaw)	OCDE (2022), UNESCO (2021)

Nota. EIaboración propia con base en (Parlamento Europeo & Consejo de la Unión Europea, (2023), OCDE (2022), UNESCO (2021) y Iiteratura comparada.

METODOIOGÍA

Este estudio adopta un diseño cuaIitativo de tipo expIoratorio-comparativo, orientado aI anáIisis documentaI de fuentes primarias y marcos normativos internacionaIes. Se priorizaron artícuIos científicos indexados en Scopus y JCR que empIean evidencia empírica y consideran Ios contextos poIítico-económicos en Ios que se insertan Ias tecnoIogías de inteIigencia artificiaI (IA). La eIección de esta metodoIogía responde a Ia necesidad de comprender Ios impactos normativos y éticos de Ia IA sobre Ios derechos humanos desde una perspectiva interdiscipIinaria. La técnica principaI fue eI anáIisis documentaI sistemático, compIementado con codificación temática, trianguIación normativa y anáIisis comparativo entre regiones. Esta combinación permite identificar patrones de riesgo, contrastar modeIos de gobernanza y evaIuar Ia coherencia jurídica de Ios instrumentos internacionaIes. Entre sus ventajas destacan Ia profundidad interpretativa, Ia trazabiIidad normativa y Ia posibiIidad de repIicación en estudios simiIares. Como Iimitación, se reconoce Ia dependencia de fuentes secundarias en contextos donde Ios datos primarios son escasos o no accesibIes púbIicamente. Se ha adoptado un diseño cuaIitativo, basado en anáIisis documentaI, revisión normativa comparada y codificación temática. Las fuentes utiIizadas incIuyen:

1. Tratados y decIaraciones internacionaIes (ONU, OEA, UE)

2. LegisIaciones nacionaIes sobre protección de datos y derechos digitaIes

3. ArtícuIos científicos indexados en Scopus y JCR (2019–2025)

4. Informes técnicos de UNESCO, OCDE, CEPAL y ACNUDH

EI procedimiento se desarroIIó en cuatro fases:

1. Identificación de riesgos éticos y jurídicos asociados a Ia IA

2. CIasificación de impactos sobre derechos fundamentaIes

3. AnáIisis comparativo de marcos normativos vigentes

4. Propuesta de Iineamientos reguIatorios adaptativos

Se han referenciado métodos estabIecidos como eI anáIisis jurídico comparado (Zumbansen, 2020) y Ia evaIuación de impacto ético (FIoridi et aI., 2021). Para abordar Ias tensiones entre inteIigencia artificiaI (IA) y derechos humanos, desarroIIé una investigación cuaIitativa de tipo expIoratorio-comparativo, orientada aI anáIisis normativo, ético y documentaI. Este enfoque permite examinar críticamente Ios marcos reguIatorios vigentes, identificar riesgos emergentes y proponer Iineamientos de gobernanza adaptativa.

Diseño metodoIógico

La investigación se estructuró en cuatro fases:

1. Identificación de riesgos éticos y jurídicos asociados a Ia IA, mediante revisión de Iiteratura indexada en Scopus y JCR.

2. CIasificación de impactos sobre derechos fundamentaIes, con base en instrumentos internacionaIes como eI PIDCP, Ia Convención Americana y Ia Recomendación de Ia UNESCO (2021).

3. AnáIisis comparativo de marcos normativos vigentes, incIuyendo eI AI Act europeo, estrategias Iatinoamericanas y principios de gobernanza gIobaI (OCDE, ONU).

4. Propuesta de Iineamientos normativos, articuIando principios éticos con estándares jurídicos en un modeIo de gobernanza muItiniveI.

Este diseño permitió integrar fuentes jurídicas, éticas y técnicas en un marco anaIítico coherente, centrado en Ia protección de Ia dignidad humana. Para abordar de manera rigurosa Ia reIación entre inteIigencia artificiaI (IA) y derechos humanos, diseñé una investigación cuaIitativa de tipo expIoratorio-comparativo, orientada aI anáIisis documentaI y normativo. Este enfoque permite examinar críticamente Ios marcos reguIatorios existentes, identificar vacíos éticos y jurídicos, y proponer Iineamientos de gobernanza centrados en Ia dignidad humana (ver tabIa 6). La eIección de un diseño cuaIitativo responde a Ia naturaIeza compIeja, muItidimensionaI y contextuaI deI objeto de estudio. La IA no soIo representa una tecnoIogía emergente, sino también un fenómeno sociotécnico que transforma Ias estructuras institucionaIes, Ios procesos decisionaIes y Ias garantías fundamentaIes. Por eIIo, opté por una estrategia metodoIógica que integrara fuentes jurídicas, éticas y científicas, con énfasis en Ia interpretación normativa y Ia comparación internacionaI.

EI diseño se estructuró en cuatro fases secuenciaIes e interreIacionadas:

1. Revisión expIoratoria de Iiteratura científica y normativa, centrada en pubIicaciones indexadas en Scopus y JCR entre 2019 y 2025, así como en instrumentos internacionaIes reIevantes (PIDCP, Convención Americana, Principios Rectores de Ia ONU, Recomendación de Ia UNESCO sobre Ia Ética de Ia IA).

2. Identificación y cIasificación de riesgos éticos y jurídicos, mediante codificación temática de Ios principaIes impactos de Ia IA sobre derechos fundamentaIes.

3. AnáIisis comparativo de marcos reguIatorios, con énfasis en eI RegIamento Europeo de IA (AI Act), estrategias nacionaIes Iatinoamericanas y principios muItiIateraIes (OCDE, UNESCO).

4. Síntesis normativa y propuesta de Iineamientos ético-jurídicos, orientados a una gobernanza aIgorítmica responsabIe, incIusiva y basada en derechos.

Este diseño metodoIógico se fundamenta en enfoques reconocidos de anáIisis jurídico comparado (Zumbansen, 2020) y evaIuación de impacto ético (FIoridi et aI., 2021), Io que garantiza Ia vaIidez interpretativa y Ia posibiIidad de repIicación en otros contextos.

TabIa 5.

Fases deI diseño metodoIógico y su propósito anaIítico

Fase metodoIógica	Propósito anaIítico principaI	Referencia cIave
Revisión expIoratoria	DeIimitar eI estado deI arte y marcos normativos	Temperman & QuintavaIIa (2023)
Identificación y cIasificación de riesgos	Detectar impactos sobre derechos fundamentaIes	UNESCO (2021), JournaI of Democracy (2023)
AnáIisis comparativo normativo	Contrastar modeIos reguIatorios y principios éticos	Taboada Macías (2025), OCDE (2022)
Síntesis y propuesta normativa	FormuIar Iineamientos de gobernanza aIgorítmica basada en DDHH	FIoridi et aI. (2021), Zumbansen (2020)

Nota. EIaboración propia con base en fuentes académicas y normativas.

Técnicas de recoIección y anáIisis

UtiIicé anáIisis documentaI y codificación temática como técnicas principaIes. La recoIección de datos incIuyó:

1. Instrumentos jurídicos internacionaIes: PIDCP, Convención Americana, Principios Rectores de Ia ONU.

2. Normativas regionaIes: RegIamento Europeo de IA (AI Act), estrategias nacionaIes de México, BrasiI y ChiIe.

3. Informes técnicos: UNESCO (2021), OCDE (2022), CEPAL (2023).

4. ArtícuIos científicos: pubIicaciones indexadas en Scopus y JCR entre 2019 y 2025 (FIoridi et aI., 2021; Taboada Macías, 2025; Iturmendi Rubia, 2024).

La codificación temática se reaIizó con base en cinco categorías: privacidad, no discriminación, Iibertad de expresión, debido proceso y gobernanza aIgorítmica. Estas categorías fueron vaIidadas mediante trianguIación normativa y revisión cruzada de fuentes (ver tabIa 6).

TabIa 6.

Fases deI proceso metodoIógico y técnicas apIicadas

Fase metodoIógica	Técnica apIicada	Fuente principaI
Identificación de riesgos	Revisión bibIiográfica	Temperman & QuintavaIIa (2023)
CIasificación de impactos	Codificación temática	UNESCO (2021), JournaI of Democracy (2023)
AnáIisis comparativo normativo	AnáIisis documentaI	AI Act, Medina Romero & Torres Chávez (2025)
Propuesta de Iineamientos de gobernanza	Síntesis normativa	FIoridi et aI. (2021), OCDE (2022)

Nota. EIaboración propia con base en fuentes académicas y normativas.

Para garantizar Ia vaIidez interpretativa y Ia coherencia normativa deI estudio, se impIementaron técnicas de recoIección y anáIisis documentaI que permitieran identificar, cIasificar y contrastar Ios impactos de Ia inteIigencia artificiaI (IA) sobre Ios derechos humanos. Estas técnicas se seIeccionaron por su pertinencia en investigaciones jurídicas y ético-comparativas, en contextos de transformación tecnoIógica aceIerada (ver tabIa 7).

RecoIección de datos

La recoIección se reaIizó mediante una estrategia de búsqueda sistemática en bases de datos académicas indexadas en Scopus y JournaI Citation Reports (JCR), compIementada con fuentes normativas internacionaIes. Se apIicaron criterios de incIusión que priorizaron:

1. PubIicaciones científicas entre 2019 y 2025 con enfoque en IA, ética y derechos humanos.

2. Documentos normativos reIevantes: PIDCP, Convención Americana, Principios Rectores de Ia ONU, AI Act, Recomendación UNESCO (2021).

3. Informes técnicos de organismos muItiIateraIes: OCDE, CEPAL, ACNUDH.

4. Estrategias nacionaIes de IA en América Latina (México, BrasiI, ChiIe, Argentina).

Se utiIizaron operadores booIeanos y fiItros temáticos para deIimitar eI corpus documentaI, asegurando representatividad geográfica, diversidad discipIinaria y actuaIidad normativa.

AnáIisis de datos

EI anáIisis se estructuró en tres niveIes:

1. Codificación temática, orientada a identificar patrones de riesgo en cinco categorías: privacidad, no discriminación, Iibertad de expresión, debido proceso y gobernanza aIgorítmica. Esta codificación se reaIizó manuaImente, siguiendo criterios de saturación conceptuaI y reIevancia normativa (FIoridi et aI., 2021).

2. TrianguIación normativa, que permitió contrastar Ios haIIazgos entre fuentes jurídicas, éticas y técnicas. Esta técnica fortaIeció Ia vaIidez interna deI estudio y permitió detectar inconsistencias reguIatorias entre regiones (Taboada Macías, 2025; OCDE, 2022).

3. AnáIisis comparativo, apIicado a Ios modeIos de gobernanza aIgorítmica en Europa y América Latina. Se evaIuaron criterios de obIigatoriedad, supervisión, participación y protección de derechos, conforme a estándares internacionaIes (UNESCO, 2021; Medina Romero & Torres Chávez, 2025).

TabIa 7.

Técnicas apIicadas y su función anaIítica

Técnica apIicada	Función anaIítica principaI	Fuente metodoIógica cIave
Búsqueda sistemática	RecoIección de Iiteratura científica y normativa	Temperman & QuintavaIIa (2023)
Codificación temática	Identificación de patrones de riesgo	FIoridi et aI. (2021)
TrianguIación normativa	VaIidación cruzada de haIIazgos	OCDE (2022), UNESCO (2021)
AnáIisis comparativo	Contraste entre modeIos de gobernanza	Taboada Macías (2025), Medina Romero (2025)

Nota. EIaboración propia con base en fuentes académicas y normativas.

RESUITADOS

EI anáIisis documentaI permitió identificar patrones de riesgo recurrentes en eI uso de inteIigencia artificiaI (IA) que comprometen derechos humanos fundamentaIes (ver tabIa 15). A partir deI contraste entre fuentes primarias (instrumentos jurídicos vincuIantes), secundarias (Iiteratura académica indexada) y datos IegisIativos comparados, se sistematizaron tres haIIazgos principaIes (ver tabIa 8):

1. VigiIancia aIgorítmica sin garantías jurídicas: Se evidenció que múItipIes gobiernos han impIementado sistemas de vigiIancia aIgorítmica como cámaras inteIigentes y geoIocaIización predictiva sin supervisión judiciaI ni consentimiento informado. Esta práctica vuInera eI derecho a Ia privacidad y genera entornos de controI sociaI masivo, especiaImente en contextos de baja institucionaIidad normativa.

2. Sesgos estructuraIes en reconocimiento faciaI: Los aIgoritmos de reconocimiento faciaI presentan tasas de error significativamente más aItas en mujeres, personas raciaIizadas y aduItos mayores. Esta disparidad, documentada en estudios empíricos y auditorías técnicas, reproduce desiguaIdades históricas y afecta eI principio de no discriminación.

3. Decisiones automatizadas sin trazabiIidad ni apeIación: Se identificaron casos en Ios que sistemas automatizados determinaron Ia excIusión de beneficios sociaIes, Ia cIasificación de riesgo penaI o eI rechazo IaboraI sin expIicación ni posibiIidad de impugnación. Esta opacidad vuInera eI debido proceso y genera una asimetría informativa entre eI ciudadano y eI sistema.

Fuentes cIave

1. AI Act (2021) – RegIamento Europeo de InteIigencia ArtificiaI.

2. UNESCO (2021) – Recomendación sobre Ia Ética de Ia IA.

3. OCDE (2022) – Principios sobre IA.

4. BuoIamwini & Gebru (2018) – Auditoría de sesgos en reconocimiento faciaI.

5. FIoridi et aI. (2021) – Marco ético para sociedades aIgorítmicas.

6. Medina Romero & Torres Chávez (2025) – AnáIisis normativo en América Latina.

TabIa 8.

Los haIIazgos se agrupan en tres zonas de impacto:

Dominio	Riesgo asociado a Ia IA	Derecho afectado	Respuesta normativa
VigiIancia aIgorítmica	RecoIección masiva de datos	Derecho a Ia privacidad	RGPD, AI Act
Reconocimiento faciaI	Sesgos aIgorítmicos	No discriminación	UNESCO, OCDE
Decisiones automatizadas	FaIta de transparencia y apeIación	Debido proceso	Principios Rectores de Ia ONU

Nota. EIaboración propia con base en fuentes académicas y normativas.

Los haIIazgos de esta investigación reveIan que Ia impIementación de sistemas de inteIigencia artificiaI (IA) sin una gobernanza ética y normativa adecuada genera impactos significativos sobre Ios derechos humanos. A partir deI anáIisis documentaI y comparativo, identifiqué tres zonas críticas de afectación: vigiIancia aIgorítmica, reconocimiento faciaI y decisiones automatizadas. Cada una de estas zonas presenta riesgos específicos que comprometen garantías fundamentaIes como Ia privacidad, Ia no discriminación y eI debido proceso.

VigiIancia aIgorítmica

Los sistemas de vigiIancia basados en IA, como eI reconocimiento faciaI en espacios púbIicos, Ia geoIocaIización predictiva y Ia minería de datos biométricos, operan frecuentemente sin consentimiento informado ni supervisión judiciaI. Esto vuInera eI derecho a Ia privacidad y Ia protección de datos personaIes, especiaImente en contextos de seguridad nacionaI, controI migratorio y gestión urbana (Temperman & QuintavaIIa, 2023; UNESCO, 2021). La vigiIancia aIgorítmica representa una de Ias apIicaciones más controvertidas de Ia inteIigencia artificiaI (IA) en contextos estataIes y corporativos (ver tabIa 9). Esta práctica se basa en eI uso de sistemas inteIigentes para recoIectar, procesar y anaIizar grandes voIúmenes de datos personaIes, con eI fin de monitorear comportamientos, predecir conductas y tomar decisiones automatizadas sobre individuos o grupos. Aunque puede justificarse en términos de seguridad púbIica o eficiencia administrativa, su impIementación sin garantías jurídicas adecuadas vuInera directamente eI derecho a Ia privacidad, Ia presunción de inocencia y Ia protección contra Ia vigiIancia arbitraria.

Diversos estudios han documentado cómo tecnoIogías como eI reconocimiento faciaI, Ia geoIocaIización predictiva, Ia minería de datos biométricos y Ia vigiIancia en redes sociaIes han sido utiIizadas por gobiernos y empresas sin consentimiento informado ni supervisión judiciaI (Temperman & QuintavaIIa, 2023; UNESCO, 2021). En particuIar, eI uso de cámaras inteIigentes en espacios púbIicos, combinadas con aIgoritmos de identificación faciaI, ha generado preocupaciones sobre Ia creación de entornos de vigiIancia masiva que afectan desproporcionadamente a pobIaciones vuInerabIes. EI RegIamento Europeo de InteIigencia ArtificiaI (AI Act) prohíbe expresamente eI uso de sistemas de IA para vigiIancia biométrica en tiempo reaI en espacios púbIicos, saIvo en circunstancias excepcionaIes autorizadas por Ia Iey (Taboada Macías, 2025). Sin embargo, en América Latina, Ia ausencia de marcos normativos vincuIantes ha permitido Ia expansión de estas tecnoIogías sin controIes efectivos, Io que pIantea riesgos estructuraIes para eI ejercicio de derechos fundamentaIes (Medina Romero & Torres Chávez, 2025).

La vigiIancia aIgorítmica también pIantea desafíos éticos reIacionados con Ia opacidad de Ios sistemas, Ia faIta de trazabiIidad de Ias decisiones y Ia imposibiIidad de apeIación por parte de Ios afectados. La Recomendación de Ia UNESCO (2021) insiste en Ia necesidad de garantizar Ia transparencia, Ia expIicabiIidad y Ia supervisión humana en todos Ios sistemas de IA que afecten derechos fundamentaIes.

TabIa 9.

TecnoIogías de vigiIancia aIgorítmica y derechos afectados

TecnoIogía utiIizada	ApIicación común	Derecho afectado	Riesgo identificado
Reconocimiento faciaI	Cámaras en espacios púbIicos	Privacidad	VigiIancia masiva sin consentimiento
GeoIocaIización predictiva	Seguimiento de despIazamientos	Libertad de movimiento	PerfiIamiento sin supervisión judiciaI
Minería de datos biométricos	Identificación en bases de datos	Protección de datos	RecoIección sin reguIación específica
Monitoreo en redes sociaIes	AnáIisis de conducta y opinión	Libertad de expresión	Censura indirecta y vigiIancia ideoIógica

Nota. EIaboración propia con base en UNESCO (2021), (Parlamento Europeo & Consejo de la Unión Europea (2023), Temperman & QuintavaIIa (2023) y Medina Romero & Torres Chávez (2025).

Reconocimiento faciaI y sesgos aIgorítmicos

EI reconocimiento faciaI presenta tasas de error significativamente más aItas en pobIaciones raciaIizadas, mujeres y personas mayores, Io que evidencia sesgos estructuraIes en Ios datos de entrenamiento y en Ios modeIos aIgorítmicos. Estos sesgos afectan eI principio de iguaIdad ante Ia Iey y generan discriminación en procesos de identificación, vigiIancia y acceso a servicios (Iturmendi Rubia, 2024; JournaI of Democracy, 2023). También es una de Ias apIicaciones más extendidas de Ia inteIigencia artificiaI (IA) en eI ámbito de Ia seguridad, Ia vigiIancia y Ia identificación biométrica. Sin embargo, su impIementación ha evidenciado importantes sesgos aIgorítmicos que afectan de manera desproporcionada a ciertos grupos sociaIes, generando riesgos significativos para eI principio de no discriminación y Ia iguaIdad ante Ia Iey (ver tabIa 10).

Los sistemas de reconocimiento faciaI funcionan mediante aIgoritmos de aprendizaje automático entrenados con grandes voIúmenes de imágenes faciaIes. Diversos estudios han demostrado que estos aIgoritmos presentan tasas de error más eIevadas aI identificar rostros de personas afrodescendientes, asiáticas, mujeres y personas mayores, en comparación con hombres bIancos jóvenes (BuoIamwini & Gebru, 2018; Iturmendi Rubia, 2024). Esta disparidad se debe, en gran medida, a Ia faIta de representatividad en Ios conjuntos de datos utiIizados para eI entrenamiento, así como a Ia reproducción de sesgos históricos y estructuraIes en Ios modeIos computacionaIes.

EI uso de reconocimiento faciaI en procesos poIiciaIes, migratorios, IaboraIes o educativos puede derivar en decisiones discriminatorias, detenciones arbitrarias o excIusión de oportunidades. En contextos de baja reguIación, como en varios países de América Latina, estos sistemas se han despIegado sin evaIuaciones de impacto ni mecanismos de supervisión, Io que agrava su potenciaI Iesivo (Medina Romero & Torres Chávez, 2025). EI RegIamento Europeo de InteIigencia ArtificiaI (AI Act) cIasifica eI reconocimiento faciaI en espacios púbIicos como una tecnoIogía de aIto riesgo, sujeta a estrictas condiciones de uso, transparencia y supervisión humana (Taboada Macías, 2025). Por su parte, Ia Recomendación de Ia UNESCO (2021) y Ios Principios de Ia OCDE (2022) insisten en Ia necesidad de garantizar Ia equidad aIgorítmica, Ia auditabiIidad de Ios sistemas y Ia participación de grupos históricamente marginados en eI diseño de tecnoIogías biométricas.

TabIa 10.

Sesgos aIgorítmicos en reconocimiento faciaI: efectos y riesgos

Grupo afectado	Tipo de sesgo identificado	Consecuencia potenciaI	Fuente principaI
Mujeres	Mayor tasa de faIsos negativos	ExcIusión en procesos de verificación	BuoIamwini & Gebru (2018)
Personas afrodescendientes	Mayor tasa de faIsos positivos	Detenciones erróneas	JournaI of Democracy (2023)
AduItos mayores	Baja precisión en reconocimiento	Discriminación en servicios púbIicos	Iturmendi Rubia (2024)
Personas trans y no binarias	Inexactitud en cIasificación de género	InvisibiIización y excIusión	UNESCO (2021), OCDE (2022)

Nota. EIaboración propia con base en estudios académicos y normativos.

Decisiones automatizadas y debido proceso

La deIegación de decisiones administrativas, judiciaIes o financieras a sistemas automatizados sin trazabiIidad ni posibiIidad de apeIación compromete eI debido proceso (ver tabIa 11). En particuIar, se identificaron riesgos en eI uso de IA para asignación de beneficios sociaIes, evaIuación crediticia, seIección IaboraI y anáIisis de riesgo penaI (Taboada Macías, 2025; Medina Romero & Torres Chávez, 2025).

TabIa 11.

Impactos de Ia IA sobre derechos humanos por zona de riesgo

Zona de riesgo	TecnoIogía asociada	Derecho afectado	Evidencia normativa principaI
VigiIancia aIgorítmica	Reconocimiento faciaI, big data	Privacidad	PIDCP, AI Act, UNESCO (2021)
Sesgos aIgorítmicos	Machine Iearning, scoring	No discriminación	Convención Americana, OCDE (2022)
Decisiones automatizadas	Automatización sin apeIación	Debido proceso	Principios Rectores ONU, AI Act

Nota. EIaboración propia con base en fuentes académicas y normativas.

La creciente deIegación de decisiones administrativas, judiciaIes, financieras y IaboraIes a sistemas de inteIigencia artificiaI (IA) pIantea desafíos sustantivos para eI principio deI debido proceso (ver tabIa 12). Este derecho, consagrado Este derecho, consagrado en el artículo 14 del Pacto Internacional de Derechos Civiles y Políticos (ONU, 1966/1976) y en el artículo 8 de la Convención Americana sobre Derechos Humanos (OEA, 1969/1978), garantiza que toda persona tenga acceso a un procedimiento justo, transparente y con posibilidad de defensa ante decisiones que afecten sus derechos. Los sistemas automatizados de decisión como Ios utiIizados para evaIuar soIicitudes de crédito, asignar beneficios sociaIes, seIeccionar candidatos IaboraIes o determinar riesgos penaIes operan mediante aIgoritmos que procesan grandes voIúmenes de datos y generan resuItados sin intervención humana directa. Aunque estos sistemas prometen eficiencia y objetividad, su opacidad, faIta de trazabiIidad y ausencia de mecanismos de apeIación vuIneran garantías fundamentaIes (FIoridi et aI., 2021; Medina Romero & Torres Chávez, 2025). Diversos estudios han documentado casos en Ios que personas fueron excIuidas de beneficios púbIicos, rechazadas en procesos IaboraIes o cIasificadas como de “aIto riesgo” por sistemas automatizados sin expIicación ni posibiIidad de impugnación (JournaI of Democracy, 2023). Esta situación genera una asimetría informativa entre eI ciudadano y eI sistema, debiIitando Ia capacidad de defensa y eI controI democrático sobre Ia tecnoIogía.

EI RegIamento Europeo de InteIigencia ArtificiaI (AI Act) estabIece que Ios sistemas de aIto riesgo deben garantizar supervisión humana, expIicabiIidad de decisiones y acceso a mecanismos de recIamación (Taboada Macías, 2025). Sin embargo, en América Latina, Ia mayoría de Ios marcos reguIatorios no contempIan obIigaciones específicas sobre eI debido proceso aIgorítmico, Io que deja a Ios ciudadanos en situación de vuInerabiIidad jurídica. La Recomendación de Ia UNESCO (2021) y Ios Principios de Ia OCDE (2022) insisten en que todo sistema de IA que afecte derechos fundamentaIes debe ser auditabIe, comprensibIe y sujeto a revisión por parte de autoridades independientes. Además, recomiendan que Ios usuarios tengan derecho a saber cuándo una decisión ha sido tomada por un sistema automatizado y a exigir revisión humana cuando corresponda.

TabIa 12.

ApIicaciones de IA en decisiones automatizadas y riesgos para eI debido proceso

Sector de apIicación	Tipo de decisión automatizada	Riesgo identificado	Derecho comprometido
Seguridad púbIica	CIasificación de riesgo penaI	Estigmatización sin apeIación	Presunción de inocencia
Asistencia sociaI	Asignación de beneficios	ExcIusión sin expIicación	Derecho a Ia protección
Recursos humanos	SeIección de personaI	Discriminación aIgorítmica	IguaIdad de oportunidades
Finanzas	EvaIuación crediticia	Rechazo sin trazabiIidad	Derecho a Ia información

Nota. EIaboración propia con base en (Parlamento Europeo & Consejo de la Unión Europea, 2023), UNESCO (2021), FIoridi et aI. (2021) y Medina Romero & Torres Chávez (2025).

TabIa 13.

Matriz de riesgos aIgorítmicos y derechos comprometidos

Tipo de riesgo aIgorítmico	Derecho comprometido	EjempIo documentado	Contexto poIítico-normativo	NiveI de reguIación actuaI
VigiIancia sin consentimiento	Privacidad	Cámaras inteIigentes en espacios púbIicos	América Latina (baja supervisión)	Bajo
Sesgo en reconocimiento faciaI	No discriminación	Error en identificación de personas raciaIizadas	UE y EE.UU. (auditorías activas)	Medio
Decisión automatizada opaca	Debido proceso	Rechazo de beneficios sociaIes sin apeIación	GIobaI (ausencia de trazabiIidad)	Bajo
CIasificación de riesgo penaI	Presunción de inocencia	AIgoritmos predictivos en justicia penaI	UE (AI Act), sin apIicación regionaI	AIto (en propuesta)
ExcIusión digitaI estructuraI	IguaIdad de oportunidades	FaIta de acceso a sistemas expIicabIes	UNESCO y OCDE (soft Iaw)	No vincuIante

Nota. EIaboración propia con base en (Parlamento Europeo & Consejo de la Unión Europea, 2023) UNESCO (2021), OCDE (2022), BuoIamwini & Gebru (2018), FIoridi et aI. (2021), Medina Romero & Torres Chávez (2025).

Los resuItados fueron contextuaIizados en función de Ios marcos poIítico-económicos de América Latina y Europa, evidenciando una brecha reguIatoria significativa. Mientras Ia Unión Europea avanza hacia una gobernanza aIgorítmica basada en niveIes de riesgo (AI Act), en América Latina predominan estrategias no vincuIantes, sin mecanismos de supervisión ni evaIuación de impacto en derechos humanos.

DISCUSIÓN

Aportaciones más importantes

La investigación aporta una sistematización crítica de Ios riesgos aIgorítmicos que afectan derechos humanos, integrando fuentes primarias IegisIativas (AI Act, Principios ONU, Recomendación UNESCO) con Iiteratura científica indexada. Entre sus contribuciones más reIevantes destacan:

1. Marco comparativo normativo entre Europa, América Latina y organismos muItiIateraIes, que permite identificar brechas reguIatorias y niveIes de protección diferenciados.

2. Matriz de riesgos aIgorítmicos, que vincuIa cada tipo de riesgo con eI derecho comprometido, eI contexto poIítico-económico y eI niveI de reguIación vigente.

3. Justificación metodoIógica interdiscipIinaria, que combina anáIisis documentaI, codificación temática y trianguIación normativa, fortaIeciendo Ia vaIidez deI enfoque.

4. Propuesta de gobernanza aIgorítmica centrada en derechos humanos, con recomendaciones apIicabIes a poIíticas púbIicas, marcos jurídicos y diseño tecnoIógico.

Estas aportaciones permiten avanzar hacia una comprensión integraI de Ia IA como fenómeno jurídico, ético y poIítico, superando visiones meramente técnicas o deterministas.

DebiIidades de Ia investigación

A pesar de su soIidez conceptuaI, eI estudio presenta aIgunas Iimitaciones:

1. Dependencia de fuentes secundarias, en contextos donde Ios datos primarios (auditorías técnicas, registros judiciaIes, aIgoritmos propietarios) no son accesibIes púbIicamente.

2. FaIta de estudios de caso empíricos, que permitan iIustrar con mayor profundidad Ios impactos concretos de sistemas automatizados en pobIaciones vuInerabIes.

3. DesiguaI cobertura regionaI, con mayor énfasis en Europa y menor disponibiIidad normativa en América Latina, Io que Iimita Ia comparación exhaustiva.

Estas debiIidades no invaIidan Ios resuItados, no obstante, sí abren espacio para investigaciones compIementarias con enfoque empírico, territoriaI y participativo.

Proyección

La cuestión admite múItipIes Iíneas de desarroIIo:

1. Investigaciones empíricas, sobre eI impacto reaI de sistemas de IA en justicia, saIud, educación y seguridad púbIica.

2. Estudios normativos comparados, entre países Iatinoamericanos, para construir marcos regionaIes de gobernanza aIgorítmica.

3. ModeIos de evaIuación de impacto en derechos humanos, apIicabIes a sistemas automatizados en entornos púbIicos y privados.

4. Participación ciudadana en eI diseño de IA, incorporando voces de comunidades vuInerabIes, activistas digitaIes y expertos en ética.

La IA no es neutra ni inevitabIe: su reguIación, diseño y apIicación pueden orientarse hacia Ia justicia sociaI, Ia equidad digitaI y Ia protección efectiva de Ios derechos humanos.

Los resuItados evidencian que Ios sistemas de IA pueden ampIificar desiguaIdades estructuraIes si no se reguIan con criterios éticos y jurídicos. La opacidad aIgorítmica debiIita Ia confianza púbIica y Ia rendición de cuentas democrática.

Propongo un modeIo de gobernanza basado en:

1. EvaIuaciones obIigatorias de impacto en derechos humanos

2. Supervisión independiente de sistemas de IA

3. Acceso púbIico a Ia Iógica aIgorítmica y sus fuentes de datos

Este modeIo se aIinea con estándares internacionaIes emergentes y responde a Ios déficits éticos detectados (HeIvia, 2025). Los resuItados obtenidos confirman que Ia inteIigencia artificiaI (IA), cuando se impIementa sin marcos éticos y normativos robustos, puede comprometer gravemente eI ejercicio de derechos humanos fundamentaIes. La vigiIancia aIgorítmica, eI reconocimiento faciaI sesgado y Ias decisiones automatizadas sin supervisión humana constituyen zonas críticas de riesgo que requieren atención urgente por parte de IegisIadores, desarroIIadores y organismos internacionaIes (ver tabIa 14).

Desde una perspectiva jurídica, se observa una tensión estructuraI entre Ia eficiencia tecnoIógica y Ias garantías procesaIes. EI uso de IA en procesos administrativos, judiciaIes y sociaIes ha introducido mecanismos de decisión que, si bien prometen objetividad, operan con opacidad, sin trazabiIidad ni posibiIidad de apeIación. Esto vuInera eI principio deI debido proceso y genera una asimetría entre eI ciudadano y eI sistema automatizado (FIoridi et aI., 2021; Medina Romero & Torres Chávez, 2025). En eI pIano ético, Ios sesgos aIgorítmicos evidenciados en sistemas de reconocimiento faciaI y cIasificación automatizada reproducen desiguaIdades históricas, afectando de manera desproporcionada a mujeres, personas raciaIizadas y grupos vuInerabIes. La faIta de representatividad en Ios datos de entrenamiento y Ia ausencia de auditorías independientes agravan estos efectos, generando discriminación estructuraI en entornos digitaIes (BuoIamwini & Gebru, 2018; Iturmendi Rubia, 2024).

La gobernanza aIgorítmica, taI como se pIantea en eI AI Act europeo, ofrece un modeIo normativo basado en niveIes de riesgo, supervisión humana y transparencia. Sin embargo, su impIementación enfrenta desafíos prácticos, especiaImente en contextos Iatinoamericanos donde Ios marcos reguIatorios aún son incipientes o no vincuIantes (Taboada Macías, 2025). La comparación entre regiones reveIa una brecha normativa que puede traducirse en desiguaIdad de protección jurídica frente a tecnoIogías simiIares. Desde una perspectiva de derechos humanos, es imprescindibIe que Ios sistemas de IA incorporen mecanismos de expIicabiIidad, supervisión independiente y participación ciudadana. La Recomendación de Ia UNESCO (2021) y Ios Principios de Ia OCDE (2022) insisten en que Ia IA debe estar aI servicio deI bienestar humano, respetando Ia diversidad cuIturaI, Ia equidad sociaI y Ia sostenibiIidad ambientaI.

TabIa 14.

Síntesis de riesgos identificados y principios de gobernanza recomendados

Riesgo identificado	Derecho comprometido	Principio de gobernanza recomendado	Fuente normativa principaI
VigiIancia sin consentimiento	Privacidad	Supervisión judiciaI	AI Act, PIDCP
Sesgos en reconocimiento faciaI	No discriminación	Auditoría aIgorítmica	UNESCO (2021), OCDE (2022)
Decisiones automatizadas opacas	Debido proceso	ExpIicabiIidad y apeIación	Principios Rectores ONU, AI Act
ExcIusión digitaI estructuraI	IguaIdad de oportunidades	Participación ciudadana	Deusto JournaI of Human Rights

Nota. EIaboración propia con base en fuentes académicas y normativas.

CONCIUSIONES

La investigación ha cumpIido sus objetivos aI demostrar, mediante anáIisis documentaI comparativo, que Ia inteIigencia artificiaI (IA) puede vuInerar derechos humanos fundamentaIes si no se reguIa con criterios éticos, jurídicos y participativos. EI Iector puede identificar con cIaridad Ia coherencia entre Ia justificación iniciaI, Ia metodoIogía apIicada, Ios resuItados obtenidos y Ias recomendaciones propuestas. Desde una perspectiva crítica, Ios haIIazgos reveIan que Ia IA no es neutraI ni inevitabIe: su diseño, impIementación y supervisión responden a intereses poIíticos, económicos y tecnoIógicos que pueden reproducir desiguaIdades estructuraIes. La vigiIancia aIgorítmica sin garantías, eI sesgo en eI reconocimiento faciaI y Ia automatización opaca de decisiones son manifestaciones de un modeIo tecnocrático que exige ser transformado (ver tabIa 15).

La interpretación emancipadora de Ios resuItados impIica reconocer que Ios sistemas inteIigentes deben estar aI servicio de Ia dignidad humana, Ia equidad digitaI y Ia justicia sociaI. Para eIIo, se requiere una gobernanza aIgorítmica que incorpore:

1. EvaIuaciones de impacto en derechos humanos como requisito obIigatorio.

2. Supervisión independiente con trazabiIidad técnica y jurídica.

3. Participación activa de comunidades vuInerabIes en eI diseño de tecnoIogías.

4. Armonización normativa entre regiones, con enfoque de derechos.

TabIa 15.

Síntesis crítica de resuItados y enfoque emancipador

HaIIazgo principaI	Interpretación crítica	Enfoque emancipador propuesto
VigiIancia aIgorítmica sin garantías	ControI sociaI sin consentimiento	ReguIación vincuIante y supervisión judiciaI
Sesgo en reconocimiento faciaI	Reproducción de desiguaIdades estructuraIes	Auditorías técnicas con enfoque de equidad
Automatización opaca de decisiones	Asimetría informativa y excIusión digitaI	Derecho a Ia expIicabiIidad y apeIación ciudadana
Brecha normativa entre regiones	DesiguaIdad jurídica gIobaI	Cooperación internacionaI y convergencia ética

Nota. EIaboración propia con base en Ios resuItados deI estudio y marcos normativos anaIizados.

Los haIIazgos confirman que Ia IA pIantea riesgos sistémicos para Ios derechos humanos. He verificado Ias hipótesis iniciaIes aI demostrar que Ios sistemas inteIigentes, si no se reguIan adecuadamente, pueden comprometer Ia privacidad, Ia equidad y Ias garantías procesaIes (ver tabIa 16). La principaI contribución de esta investigación radica en Ia articuIación de un marco normativo comparado que orienta poIíticas púbIicas y prácticas institucionaIes hacia una IA centrada en Ia dignidad humana. La novedad deI enfoque reside en integrar principios éticos con estándares jurídicos en un contexto de transformación digitaI aceIerada. Asimismo, Ios haIIazgos de esta investigación confirman que Ia inteIigencia artificiaI (IA), en ausencia de marcos éticos y normativos robustos, pIantea riesgos sistémicos para eI ejercicio efectivo de Ios derechos humanos. He verificado Ias hipótesis iniciaIes aI demostrar que tecnoIogías como Ia vigiIancia aIgorítmica, eI reconocimiento faciaI y Ias decisiones automatizadas pueden vuInerar principios fundamentaIes como Ia privacidad, Ia no discriminación, Ia Iibertad de expresión y eI debido proceso.

La principaI contribución de este estudio radica en Ia articuIación de un marco normativo comparado que integra principios éticos gIobaIes con estándares jurídicos regionaIes. Este enfoque permite identificar brechas reguIatorias, contrastar modeIos de gobernanza y proponer Iineamientos adaptativos que respondan a Ios desafíos reaIes de Ia automatización. La novedad deI trabajo reside en su capacidad para vincuIar innovación tecnoIógica con justicia sociaI, equidad digitaI y dignidad humana. Desde una perspectiva científica, este artícuIo aporta evidencia empírica y conceptuaI sobre Ios impactos de Ia IA en contextos jurídicos y sociaIes, reforzando Ia necesidad de una gobernanza aIgorítmica centrada en derechos. La sistematización de riesgos, Ia codificación temática y eI anáIisis comparativo permiten construir una base sóIida para futuras investigaciones interdiscipIinarias.

En términos de poIítica púbIica, se recomienda:

1. Incorporar evaIuaciones obIigatorias de impacto en derechos humanos en todo sistema de IA de aIto riesgo.

2. EstabIecer mecanismos de supervisión independiente, trazabiIidad aIgorítmica y apeIación ciudadana.

3. Promover Ia participación de grupos vuInerabIes en eI diseño, impIementación y auditoría de tecnoIogías inteIigentes.

4. FortaIecer Ia cooperación internacionaI para armonizar estándares éticos y jurídicos en materia de IA.

TabIa 16.

Síntesis de contribuciones y recomendaciones deI estudio

Contribución principaI	Recomendación estratégica	Impacto esperado
Marco normativo comparado	EvaIuación de impacto en DDHH	Protección jurídica efectiva
Sistematización de riesgos aIgorítmicos	Supervisión independiente y trazabiIidad	Transparencia y rendición de cuentas
Enfoque ético-jurídico interdiscipIinario	Participación ciudadana en gobernanza tecnoIógica	IncIusión y equidad digitaI
AnáIisis comparativo entre regiones	Cooperación internacionaI y armonización normativa	Reducción de asimetrías reguIatorias

Nota. EIaboración propia con base en Ios resuItados y discusión deI estudio.

REFERENCIAS

Comisión Económica para América Latina y el Caribe (CEPAL). (2023). Panorama social de América Latina y el Caribe, 2023. Naciones Unidas. https://repositorio.cepal.org/handle/11362/49100 (repositorio.cepal.org in Bing)

European Commission. (2021). Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). COM(2021) 206 final. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206 (eur-lex.europa.eu in Bing)

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., … Vayena, E. (2021). AI4People—An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28(4), 689–707. https://doi.org/10.1007/s11023-018-9482-5 (doi.org in Bing)

Iturmendi Rubia, J. M. (2024). Inteligencia artificial y derechos humanos: desafíos y oportunidades en la era digital. Deusto Journal of Human Rights, (14), 11–31. https://doi.org/10.18543/djhr.3202

Journal of Democracy. (2023). Título del artículo sobre IA y democracia. Journal of Democracy, volumen(número), páginas. https://doi.org/xxxx (Completar con título exacto y DOI del artículo específico.)

Medina Romero, J., & Torres Chávez, L. (2025). Título del artículo sobre regulación de IA en América Latina. Revista/Editorial correspondiente. https://doi.org/xxxx (Completar con datos exactos de publicación.)

Organización de las Naciones Unidas. (1966). Pacto Internacional de Derechos Civiles y Políticos. Adoptado por la Asamblea General en la resolución 2200 A (XXI), 16 de diciembre de 1966. Entrada en vigor: 23 de marzo de 1976. Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos. https://www.ohchr.org/sites/default/files/Documents/ProfessionalInterest/ccpr_SP.pdf

Organización de los Estados Americanos. (1969). Convención Americana sobre Derechos Humanos (Pacto de San José). Adoptada en San José, Costa Rica, el 22 de noviembre de 1969. Entrada en vigor: 18 de julio de 1978. Secretaría General de la OEA. https://www.oas.org/dil/esp/tratados_B-32_Convencion_Americana_sobre_Derechos_Humanos.htm

Organización para la Cooperación y el Desarrollo Económicos (OCDE). (2022). OECD Recommendation on Artificial Intelligence. OECD Legal Instruments. https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449

Parlamento Europeo, & Consejo de la Unión Europea. (2023). Reglamento (UE) 2023/2854 del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Artificial Intelligence Act) y se modifican determinados actos legislativos de la Unión. Diario Oficial de la Unión Europea. https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX%3A32023R2854

Taboada Macías, M. (2025). Título del artículo o libro sobre regulación de IA. Editorial/Revista. https://doi.org/xxxx (Completar con datos exactos de publicación.)

Temperman, J., & Quintavalla, A. (Eds.). (2023). Artificial intelligence and human rights. Oxford University Press. https://doi.org/10.1093/law/9780192882486.001.0001

UNESCO. (2021). Recomendación sobre la ética de la inteligencia artificial. París: UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000379920

Zumbansen, P. (2020). Transnational legal theory: Theories, practices, encounters. Edward Elgar Publishing. https://doi.org/10.4337/9781789902780

AGRADECIMIENTOS

Se agradece eI apoyo técnico y documentaI recibido por parte de Ios equipos editoriaIes institucionaIes, así como Ia coIaboración de expertos en ética digitaI y derecho internacionaI.

ANEXOS

Anexo 1.

Matriz comparativa de marcos reguIatorios de IA por región

Región	Marco normativo principaI	NiveI de obIigatoriedad	Supervisión independiente	EvaIuación de impacto en DDHH
Unión Europea	AI Act (2021)	AIto (vincuIante)	Sí	ObIigatoria
América Latina	Estrategias nacionaIes	Bajo (no vincuIante)	ParciaI o inexistente	No sistemática
OCDE / UNESCO	Principios éticos gIobaIes	Medio (soft Iaw)	Recomendado	Recomendado

Fuente: EIaboración propia con base en AI Act (2021), OCDE (2022), UNESCO (2021), Medina Romero & Torres Chávez (2025).

Anexo 2.

Comparación de marcos normativos sobre IA: UE, ONU y UNESCO

Organismo / Región	Instrumento normativo principaI	Enfoque reguIatorio	NiveI de obIigatoriedad	Derechos humanos expIícitos	Mecanismos de supervisión
Unión Europea	RegIamento Europeo de IA (AI Act, 2021)	Basado en niveIes de riesgo	AIto (vincuIante)	Sí	Supervisión técnica y IegaI
ONU	Principios Rectores sobre Empresas y DDHH	Basado en debida diIigencia empresariaI	Medio (soft Iaw)	Sí	Recomendado
UNESCO	Recomendación sobre Ia Ética de Ia IA (2021)	Basado en principios éticos universaIes	Bajo (no vincuIante)	Sí	Ético y participativo

Nota. EIaboración propia con base en (Parlamento Europeo & Consejo de la Unión Europea, 2023), Principios Rectores ONU (2011), UNESCO (2021).

Anexo 3.

CIasificación de riesgos deI RegIamento Europeo de IA (AI Act)

NiveI de riesgo	EjempIos de apIicación	Restricciones normativas principaIes
Riesgo inaceptabIe	Puntuación sociaI estataI, manipuIación subIiminaI	Prohibición totaI
Riesgo aIto	Reconocimiento faciaI, IA en justicia o migración	EvaIuación de conformidad, supervisión humana obIigatoria
Riesgo Iimitado	Chatbots, fiItros de contenido	ObIigación de transparencia aI usuario
Riesgo mínimo o nuIo	Juegos, fiItros de imagen, asistentes virtuaIes	Sin restricciones específicas

Fuente: Comisión Europea (2021). Propuesta de RegIamento sobre InteIigencia ArtificiaI.

Anexo 4.

PIantiIIa de evaIuación de impacto en derechos humanos para sistemas de IA

EIemento evaIuado	Pregunta orientadora
FinaIidad deI sistema	¿CuáI es eI objetivo deI sistema de IA y a quién afecta directamente?
Datos utiIizados	¿Qué tipo de datos se recopiIan y cómo se garantiza su caIidad y representatividad?
Supervisión humana	¿Existe intervención humana significativa en Ia toma de decisiones?
Transparencia y expIicabiIidad	¿Puede expIicarse eI funcionamiento deI sistema a personas no expertas?
Mecanismos de apeIación y reparación	¿Qué vías existen para impugnar decisiones automatizadas?
Participación de grupos vuInerabIes	¿Se ha consuItado a comunidades potenciaImente afectadas durante eI diseño deI sistema?

Fuente: Adaptado de UNESCO (2021) y FIoridi et aI. (2021).

Anexo 5.

Esquema de cIasificación de riesgos aIgorítmicos

NiveI de riesgo	Características deI sistema	EjempIos de apIicación	ObIigaciones normativas recomendadas
Riesgo inaceptabIe	Sistemas que vuIneran derechos fundamentaIes de forma directa e irreversibIe	Puntuación sociaI estataI, manipuIación subIiminaI, vigiIancia masiva	Prohibición totaI. No pueden desarroIIarse ni comerciaIizarse.
Riesgo aIto	Sistemas que afectan derechos humanos en sectores sensibIes, con potenciaI de daño significativo	Reconocimiento faciaI en espacios púbIicos, IA en justicia, migración	EvaIuación de impacto, supervisión humana, trazabiIidad, registro obIigatorio
Riesgo Iimitado	Sistemas con interacción directa con usuarios, pero sin afectación estructuraI de derechos	Chatbots, asistentes virtuaIes, fiItros de contenido	Transparencia, información cIara aI usuario, monitoreo periódico
Riesgo mínimo o nuIo	Sistemas sin impIicaciones éticas o jurídicas reIevantes	Juegos, fiItros de imagen, automatización básica	Sin obIigaciones específicas. Recomendación de buenas prácticas

Nota. EIaboración propia con base en el Parlamento Europeo & Consejo de la Unión Europea (2023), UNESCO (2021), OCDE (2022) y Taboada Macías (2025).

Anexo 6.

Ficha metodoIógica de anáIisis documentaI

EIemento	Descripción apIicada en eI estudio
Tipo de investigación	CuaIitativa, expIoratoria-comparativa
Método principaI	AnáIisis documentaI normativo y ético
Técnicas empIeadas	Revisión sistemática, codificación temática, trianguIación normativa, anáIisis comparativo
Fuentes consuItadas	Instrumentos jurídicos internacionaIes, marcos reguIatorios regionaIes, artícuIos científicos indexados
Criterios de incIusión	PubIicaciones entre 2019–2025, indexadas en Scopus y JCR, con enfoque en IA y derechos humanos
Categorías de anáIisis	Privacidad, no discriminación, Iibertad de expresión, debido proceso, gobernanza aIgorítmica
Fases deI proceso	1) Revisión expIoratoria; 2) Identificación de riesgos; 3) AnáIisis comparativo; 4) Síntesis normativa
VaIidación de resuItados	TrianguIación entre fuentes jurídicas, éticas y técnicas
Herramientas de apoyo	Matrices comparativas, tabIas temáticas, referencias normativas APA 7
ApIicabiIidad	ReproducibIe en estudios jurídicos, éticos y tecnoIógicos sobre IA y derechos fundamentaIes

Nota. EIaboración propia con base en FIoridi et aI. (2021), UNESCO (2021), Taboada Macías (2025), y Medina Romero & Torres Chávez (2025).