ÉTICA, GOBERNANZA DE DATOS Y DISEÑO RESPONSABLE DE CHATBOTS EN RETROALIMENTACIÓN EDUCATIVA

• DOI: 10.37572/EdArt_1710263698

• Palavras-chave: inteligencia artificial; chatbots educativos; retroalimentación educativa; ética de la inteligencia artificial; gobernanza de datos educativos; mediación docente.

• Keywords: inteligencia artificial; chatbots educativos; retroalimentación educativa; ética de la inteligencia artificial; gobernanza de datos educativos; mediación docente.

• Abstract:

  El capítulo analiza el uso de chatbots con inteligencia artificial para la retroalimentación educativa, destacando tanto sus aportes como los desafíos éticos, pedagógicos e institucionales que implica su implementación. Estas herramientas pueden entregar respuestas inmediatas, personalizadas y escalables, facilitando el apoyo al aprendizaje, la resolución de dudas y la evaluación formativa, especialmente en contextos con alta carga docente. Sin embargo, su uso no debe entenderse únicamente como una solución tecnológica, pues puede afectar la calidad de la interacción educativa, la autonomía estudiantil y el desarrollo del pensamiento crítico. Entre los principales riesgos se encuentran la dependencia excesiva de la inteligencia artificial, la opacidad de los algoritmos, la reproducción de sesgos culturales o sociales y la posible vulneración de la privacidad de los estudiantes. Por ello, el documento propone orientar su uso mediante principios de transparencia, explicabilidad, justicia, responsabilidad, privacidad y supervisión humana. Asimismo, se enfatiza la necesidad de una gobernanza adecuada de los datos educativos, basada en consentimiento informado, minimización de datos, seguridad, finalidad definida y mecanismos de auditoría. Finalmente, se plantea que los chatbots deben diseñarse desde un enfoque centrado en el estudiante y con mediación docente, de modo que complementen, pero no sustituyan, el juicio pedagógico humano.