Capítulo 5. Inteligencia artificial y ética en la educación: principios, desafíos y directrices para un uso responsable y equitativo

• Pages: 103-123
• Author: Javier Hueso Romero,Margarita Vasco González

103

Capítulo 5.

Inteligencia artificial y ética en la educación: principios,

desafíos y directrices para un uso responsable y equitativo

J H R

Universidad Nacional de Educación a Distancia, UNED

M V G

Universidad Autónoma de Madrid, UAM

RESUMEN

El presente capítulo analiza la relación entre inteligencia artificial (IA) y ética en la edu-

cación destacando principios fundamentales, desafíos y directrices para su uso respon-

sable. En la sociedad digital, la IA ofrece oportunidades, pero también plantea dilemas

como la equidad en el acceso, la privacidad de los datos, la transparencia en la toma

de decisiones y el respeto a la autonomía humana. Para abordar estos retos, se estable-

cen cuatro principios clave: justicia y equidad, garantizando que la IA no perpetúe des-

igualdades; transparencia y explicabilidad, permitiendo comprender cómo funcionan

los algoritmos y sus decisiones; privacidad y seguridad de los datos, asegurando el uso

responsable de la información estudiantil; y autonomía, evitando que la IA reemplace

la toma de decisiones humanas. La legislación de la unión europea sobre IA, adoptada

en 2024, clasifica estos sistemas según su nivel de riesgo, prohibiendo aquellos consi-

derados inaceptables, regulando estrictamente los de alto riesgo (como los aplicados

en educación) y promoviendo un desarrollo tecnológico seguro. Entre los principales

desafíos éticos de la IA en educación se encuentran la recolección y uso de datos perso-

nales, los sesgos algorítmicos que pueden discriminar a ciertos grupos, la opacidad en

la toma de decisiones automatizadas y la posible deshumanización del proceso educa-

tivo. Para mitigar estos riesgos, se proponen auditorías a los algoritmos, regulación del

tratamiento de datos, formación en IA para docentes y mecanismos de supervisión y

retroalimentación. Mirando hacia el futuro, la IA promete revolucionar la educación

mediante la personalización del aprendizaje, evaluaciones inteligentes y optimización

de la gestión educativa; sin embargo, su implementación debe ser ética y regulada para

garantizar que beneficie a todos los estudiantes sin comprometer derechos fundamen-

tales ni aumentar desigualdades.

Javier Hueso Romero y Margarita Vasco González

104

PALABRAS CLAVE

Inteligencia Artificial (IA), Ética, Educación, Algoritmo, Privacidad.

1 ÉTICA EN LA SOCIEDAD DE LA INFORMACIÓN Y DEL

CONOCIMIENTO

La sociedad de la información y del conocimiento se caracteriza por una pro-

liferación sin precedentes de tecnologías de la información y la comunicación

(TIC) que permiten el acceso masivo a datos y conocimientos. Estas tecnologías

no solo transforman las dinámicas sociales y económicas, sino que también plan-

tean desafíos éticos fundamentales. Según Floridi (2020), la digitalización ha

creado nuevas formas de interacción humana y reconfigurado las fronteras entre

lo público y lo privado, lo local y lo global, lo individual y lo colectivo.

Cabe aclarar, que el concepto la sociedad de la información y sociedad del

conocimiento a menudo se presentan de forma vinculada pese a que el primero

hace referencia a un entorno en el que la creación, distribución y manipulación

de la información es una actividad central al servicio de la economía y de la vida

cotidiana, mientras que la sociedad del conocimiento, por su parte, añade un ni-

vel más profundo que enfatiza el uso crítico y reflexivo de la información para

generar conocimiento valioso. Es en este contexto, a menudo difuso, es en el que

la reflexión sobre la ética en la sociedad de la información y del conocimiento se

convierte en un eje crucial, especialmente en temas como la protección de datos y

la manipulación de la información, de modo que permita observar la importancia

de garantizar que el acceso y la gestión de la información sean equitativos, res-

ponsables y sostenibles. Este enfoque, de acuerdo con la UNESCO (2021a) pone

en evidencia la importancia de desarrollar marcos éticos robustos para regular el

uso de tecnologías emergentes como la inteligencia artificial (IA), destacando la

necesidad de preservar los derechos humanos y la dignidad en la era digital.

Para lograr este propósito, la sociedad de la información y del conocimiento

debe asumir varios retos tales como el de asegurar que la información no se con-

vierta en un arma para la exclusión y la perpetuación de desigualdades, amplian-

do las distancias entre aquellos que tienen acceso a los recursos tecnológicos y

quienes no (Heeks, 2022; Katz, Callorda & Jung 2023, Prosic, 2023).

Sin duda los avances en conectividad y la expansión de internet han sido cla-

ves para reducir esta brecha, pero aún persisten disparidades significativas, espe-

cialmente en regiones en desarrollo. La ética en este contexto implica diseñar

políticas y marcos legales que aseguren que todos, independientemente de su

ubicación o situación socioeconómica, tengan acceso a las mismas oportunidades

de formación y participación en la economía del conocimiento, así como las habi-