Capítulo 2. Inteligencia artificial y derechos digitales: desafío socioeducativo ante el estigma digital

• Pages: 37-57
• Author: María García-Pérez Calabuig,Sonia Rodríguez-Fernández,Diego Galán-Casado

37

Capítulo 2.

Inteligencia artificial y derechos digitales: desafío

socioeducativo ante el estigma digital

M G-P C

S R-F

D G-C

Universidad Nacional de Educación a Distancia, UNED

RESUMEN

La Inteligencia Artificial (IA) está revolucionando la educación digital, abriendo puer-

tas a la inclusión, pero también planteando retos importantes en cuanto a equidad

y Derechos Digitales. Si bien su uso puede mejorar el acceso y la personalización del

aprendizaje, un diseño deficiente de los algoritmos puede perpetuar sesgos y acentuar

el Estigma Digital, afectando sobre todo a grupos vulnerables, como personas con disca-

pacidad o con menos habilidades digitales. Para que la IA sea realmente inclusiva en la

educación, es clave crear estrategias que pongan por delante la supervisión humana, la

revisión de los algoritmos y la accesibilidad digital.

Regular y transparentar el uso de la IA es fundamental para evitar discriminaciones su-

tiles en las decisiones automáticas. La alfabetización digital crítica y la formación del

profesorado en tecnología también son esenciales para cerrar la brecha digital. En este

escenario, los Derechos Digitales deben protegerse con políticas que aseguren un ac-

ceso justo y la no discriminación en el mundo digital. La colaboración entre centros

educativos, gobiernos y empresas tecnológicas es vital para que la IA se convierta en una

herramienta que democratice el saber y no en un mecanismo más de exclusión social en

la era digital.

PALABRAS CLAVE

Inteligencia Artificial, Derechos Digitales, Estigma Digital, Discurso de Odio.

María García-Pérez Calabuig, Sonia Rodriguez-Fernández y Diego Galán-Casado

38

1. INTRODUCCIÓN

En el mundo actual, la tecnología se interconecta con cada esfera de la vida.

Esta omnipresencia tecnológica ofrece a la sociedad en su conjunto, y para las

personas de forma particular, nuevas herramientas que mejoran el bienestar y la

calidad de vida, pero también plantea otros interrogantes sobre cómo proteger

los derechos fundamentales en el ámbito digital, donde no existen límites espa-

cio-temporales, ni fronteras geográficas, por lo que los contextos y culturas se en-

tremezclan (García-Pérez y Ortega Navas, 2023).

Se parte de la premisa de que los derechos digitales son una extensión vital

de los propios derechos humanos, un escudo que protege y permite ampliarlos

en este entorno digital (Jiménez Pintado y Pincay García, 2024). Sin embargo,

este avance tecnológico no está exento de sombras. A medida que la tecnología

evoluciona, también lo hacen las formas de exclusión y discriminación. Por lo

tanto, es necesario que se analice de forma crítica cómo estas nuevas dinámicas

impactan en diferentes grupos sociales y qué medidas se deben tomar para garan-

tizar una sociedad digital más justa e inclusiva.

Las redes sociales y las plataformas en línea, que alguna vez fueron concebi-

das como espacios de conexión global, se han transformado en escenarios donde

se replican y amplifican las desigualdades sociales (Galán-Casado y Giménez-Gua-

do, 2023). El estigma se manifiesta en actitudes, creencias y comportamientos

discriminatorios que perpetúan estereotipos negativos y exclusión social, y en

concreto, el estigma virtual es aquel que se produce dentro de los entornos di-

gitales, donde los derechos digitales de todas las personas también pueden verse

vulnerados (García-Pérez et al., 2024). Esa forma de discriminación que se mani-

fiesta en línea afecta de manera desproporcionada a personas con discapacidad,

individuos que presentan problemas de salud mental, aquellos en situación de

dificultad socioeconómica y quienes carecen de habilidades digitales básicas. Los

algoritmos, que supuestamente deberían organizar la información de manera im-

parcial, a menudo priorizan contenidos que generan controversia y fomentan la

participación, lo que facilita la propagación de discursos de odio, la reproduc-

ción de estereotipos negativos y la perpetuación de desigualdades estructurales

(Iturmendi, 2024; García-Pérez et al., 2024). Además de estas barreras sociales,

la persistente falta de accesibilidad digital actúa como un obstáculo estructural

que impide la plena participación en el mundo digital. Esta brecha digital no solo

restringe el acceso a oportunidades educativas y laborales para colectivos vulne-

rables, sino que también refuerza mecanismos de discriminación que dificultan

su plena inclusión (Gobierno de España, 2021; Belloso Martín, 2020; Rodríguez

López, 2023).

En este contexto, la inteligencia artificial (IA) surge como una fuerza trans-

formadora con un potencial dual. Por un lado, existe el riesgo de que la IA conso-

lide y amplíe los sesgos existentes en los algoritmos, automatizando nuevas formas