La inteligencia artificial y su vinculación con los derechos fundamentales

• Author: Hugo Carlos Carrasco Soulé López/Baden García Mendoza
• Position: Catedrático de la Facultad de Derecho de la UNAM (México)/Estudiante de maestría e integrante del grupo de investigadores «Direitos Fundamentais, Ambiente, Sociedade e Tecnologia» de la Universidade Católica de Santos (Brasil)
• Pages: 223-242

CARRASCO SOULÉ LÓPEZ, Hugo Carlos; GARCÍA MENDOZA, Marcelo. La inteligencia articial y su vinculación

con los derechos fundamentales.

Revista Iberoamericana de Derecho Procesal. Año 2. Vol. 1. Págs. 223-242. Enero-Junio 2023.

RESUMEN: La inteligencia articial ha dejado

de ser un tema exclusivo de la ciencia c-

ción para convertirse en una realidad cada

vez más presente en nuestras vidas. A di-

ferencia de las teorías distópicas que plan-

teaban un futuro dominado por máquinas

conscientes que amenazaban la existencia

humana, hoy en día nos enfrentamos a

ABSTRACT: Articial intelligence has ceased to

be an exclusive subject of science ction to

become an increasingly present reality in our

lives. Unlike dystopian theories that posed

a future dominated by conscious machines

that threatened human existence, today we

face more concrete challenges related to the

application of AI and the fundamental rights

LA INTELIGENCIA ARTIFICIAL Y SU VINCULACIÓN

CON LOS DERECHOS FUNDAMENTALES

ARTIFICIAL INTELLIGENCE AND ITS LINK WITH FUNDAMENTAL RIGHTS

HUGO CARLOS CARRASCO SOULÉ LÓPEZ

Catedrático de la Facultad de Derecho de la UNAM (México), candidato

nacional en el Sistema Nacional de Investigadores del CONACyT e integrante

del grupo de investigadores «Direitos Fundamentais, Ambiente, Sociedade

e Tecnologia» de la Universidade Católica de Santos (Brasil)

BADEN GARCÍA MENDOZA

Estudiante de maestría e integrante del grupo de investigadores «Direitos Fundamentais,

Ambiente, Sociedade e Tecnologia» de la Universidade Católica de Santos (Brasil)

Fecha de recepción: 18 de abril de 2023

Fecha de aceptación: 2 de junio de 2023

«Quien se acostumbra a preocuparse por las

necesidades de unas máquinas, se vuelve insensible

respecto a las necesidades de los hombres».

Isaac Asimov

CARRASCO SOULÉ LÓPEZ, Hugo Carlos; GARCÍA MENDOZA, Marcelo. La inteligencia articial y su vinculación

con los derechos fundamentales.

Revista Iberoamericana de Derecho Procesal. Año 2. Vol. 1. Págs. 223-242. Enero-Junio 2023.

224 REVISTA IBEROAMERICANA DE DERECHO PROCESAL 2023 • RIDP 1

desafíos más concretos relacionados con

la aplicación de la IA y los derechos funda-

mentales de las personas.

En la actualidad, las tecnologías algorítmicas,

incluida la inteligencia articial, plantean de-

safíos para los derechos fundamentales. Los

grandes actores tecnológicos han intentado

autorregularse, pero esto no ha sido sucien-

te para garantizar la protección adecuada de

derechos como la libertad de expresión, la

privacidad, la igualdad y otros. Por lo tanto,

es responsabilidad del Estado regular las acti-

vidades de los desarrolladores de algoritmos

y datos para garantizar el interés general y

proteger los derechos de las personas.

El Estado debe desempeñar un papel activo

en la evaluación y regulación de la tecno-

logía de inteligencia articial. Esto implica

evaluar los algoritmos y los datos utiliza-

dos, asegurar la rendición de cuentas por

parte de los desarrolladores y garantizar

la transparencia en el funcionamiento de

la IA. Los procesos internos de las tecnolo-

gías de inteligencia articial no deben ser

constructos complejos e inaccesibles, sino

que deben estar al servicio de las personas

y ser comprensibles para todos. Además, el

Estado debe asegurar el acceso equitativo a

las creaciones y el desarrollo de Internet, así

como regular los algoritmos para proteger

la dignidad y los derechos de las personas.

Esto implica establecer marcos legales cla-

ros que promuevan la igualdad, la no dis-

criminación y la participación ciudadana en

la toma de decisiones relacionadas con la

inteligencia articial.

PALABRAS-CLAVE: Inteligencia articial, ca-

pacidad, máquina, algoritmo, comporta-

miento, utilidad, razonamiento, derecho,

of people.

Currently, algorithmic technologies, includ-

ing articial intelligence, pose challenges to

fundamental rights. Big tech players have

tried to self-regulate, but this has not been

enough to ensure adequate protection of

rights such as freedom of expression, pri-

vacy, equality and others. Therefore, it is the

responsibility of the State to regulate the

activities of algorithm and data developers

in order to ensure the general interest and

protect the rights of individuals.

The state should play an active role in the

evaluation and regulation of articial intel-

ligence technology. This involves evaluating

the algorithms and data used, ensuring ac-

countability on the part of developers, and

ensuring transparency in how AI works. The

internal processes of articial intelligence

technologies must not be complex and in-

accessible constructs, but must be at the

service of people and be understandable to

everyone. In addition, the State must ensure

equitable access to the creations and devel-

opment of the Internet, as well as regulate

algorithms to protect the dignity and rights

of people. This implies establishing clear le-

gal frameworks that promote equality, non-

discrimination and citizen participation in

decision-making related to articial intel-

ligence.

KEYWORDS: Articial intelligence, capacity,

machine, algorithm, behavior, utility, reason-

ing, law, human rights, information personal

data, protection of rights, State, government,

legislation, utility.