Criterios Pedagógicos Para El Uso Ético De La Inteligencia Artificial Generativa Desde La Pedagogía Crítica

Esta investigación se desarrolló en el Colegio Canadiense, con estudiantes y docentes del currículo bilingüe de los grados décimo a doce, donde se identificó que estos estaban siendo permeados por la oleada que viene presentando la Inteligencia Artificial Generativa (IAG) y no utilizaban unas pautas claras para el uso responsable de las mismas.

Por ello, la investigación se alineó con el marco de la pedagogía crítica, basándose en el análisis, la discusión reflexiva y proyectos dirigidos para enriquecer su desarrollo teórico y práctico. Además, integró el componente bilingüe de la institución, articulando cuatro ejes fundamentales: el uso de IAG (inteligencia artificial generativa), el desarrollo de competencias digitales, los principios éticos propios de la pedagogía crítica y las dinámicas de un entorno educativo bilingüe.

Se fundamentó en un enfoque cualitativo, se aplicaron cuestionarios y entrevistas semiestructuradas, se analizaron documentos como planeaciones, diarios de convivencia y capacitaciones, los cuales permitieron definir tres categorías: (1) el uso de la IAG en el ambiente bilingüe de aprendizaje, (2) las herramientas de IAG que se utilizan en los diferentes espacios académicos y (3) el papel de la pedagogía crítica en el contexto de la IAG, lo cual arrojó los criterios éticos para el uso desde las pedagogía crítica.

Entre los hallazgos clave, se destaca la importancia de promover el uso de las IAG como herramienta educativa, ya que facilita el diseño de actividades, la planificación docente, la retroalimentación personalizada y el apoyo al aprendizaje. Sin embargo, su implementación requiere precaución: un uso indiscriminado podría limitar el desarrollo de habilidades cognitivas (como el pensamiento crítico), fomentar dependencia tecnológica o vulnerar derechos de autor.

La inteligencia artificial (IA) irrumpió globalmente tras el lanzamiento público de ChatGPT a finales de 2022, la primera herramienta de Inteligencia Artificial Generativa (IAGen) de uso sencillo y acceso masivo (Miao & Holmes, 2023), penetrando diversos ámbitos sociales, incluida la educación. Su aplicación abarca desde la creación y procesamiento de textos e imágenes hasta el apoyo en actividades investigativas.

Siguiendo la documentación de la UNESCO, esta tecnología se denomina IAGen (Inteligencia Artificial Generativa), aunque en gran parte de la literatura que se consultó predomina la sigla IAG. Para este estudio, se adoptó la referencia IAG, ampliamente documentada en fuentes académicas en inglés, entendida como subrama de la IA que desarrolla sistemas autónomos para generar contenido mediante aprendizaje profundo, redes neuronales y algoritmos (García-López et al., 2024).

Este avance ha popularizado herramientas como ChatGPT, Gemini y Copilot en entornos educativos. No obstante, su implementación inadecuada podría comprometer procesos formativos y metacognitivos, particularmente en lo concerniente a su uso ético y responsable en contextos académicos.

Es prudente afirmar que las tecnologías en el aula facilitan el acceso a información a través de múltiples canales sensoriales, fomentan el trabajo colaborativo en entornos virtuales y desarrollan habilidades para buscar y organizar datos. Además, transforman los roles: el estudiante se convierte en gestor de su aprendizaje y el educador en facilitador, viendo la educación como una construcción conjunta de conocimiento (Granados et al., 2020).

No obstante, pueden ser herramientas peligrosas si no se usan con ética y responsabilidad, afectando el proceso formativo tanto de estudiantes como de docentes.

La creciente influencia de las tecnologías emergentes en un mundo globalizado ha posicionado a la Inteligencia Artificial Generativa (IAG) como un fenómeno transformador, particularmente en el ámbito educativo. Su capacidad para generar contenidos, automatizar procesos y personalizar el aprendizaje está redefiniendo las dinámicas pedagógicas.

En Colombia, el Ministerio de Ciencia, Tecnología e Innovación ha integrado estas tendencias de la Cuarta Revolución Industrial (4RI) en sus políticas, promoviendo la incorporación de la inteligencia artificial en el sistema educativo (Ministerio de Ciencia, Tecnología e Innovación, 2022). Sin embargo, esta integración plantea importantes desafíos éticos y pedagógicos.

Mientras algunos autores resaltan su potencial para fortalecer los procesos de aprendizaje (Chompton, 2023), otros advierten sobre posibles aspectos negativos en el desarrollo de habilidades cognitivas (Sullivan et al. 2023). Debate que se presenta por las múltiples perspectivas que sugieren los fenómenos recientes y cambiantes que se presentan con la innovación de tecnologías.

En el contexto específico del Colegio Canadiense en La Estrella, Antioquia, se ha evidenciado un uso creciente de herramientas de Inteligencia Artificial Generativa (IAG), sin directrices claras que garanticen su empleo ético y responsable.

El uso de la Inteligencia Artificial Generativa (IAG) en el ámbito educativo experimenta un crecimiento acelerado, la carencia de normativas claras sobre su aplicación ética constituye un desafío de alcance global. Mientras herramientas como ChatGPT superaron los cien millones de usuarios mensuales (UNESCO, 2024), apenas un país había establecido regulaciones específicas para la IAG en 2023.

Esta disparidad plantea la necesidad urgente de desarrollar lineamientos que orientaran a docentes y estudiantes en el empleo responsable de estas tecnologías, especialmente en contextos educativos particulares como el currículo bilingüe del Colegio Canadiense.

Si bien la IAG transforma los procesos de enseñanza y aprendizaje mediante la generación de contenidos y la automatización de tareas, sugiere desafíos fundamentales que requieren atención inmediata. En primer lugar, se constató un vacío normativo preocupante, donde la rápida adopción de estas herramientas contrastó con la ausencia de regulaciones locales e internacionales para su uso ético en educación.

Un segundo aspecto crítico es el riesgo que representa para el desarrollo del pensamiento crítico en los estudiantes. Por la dependencia excesiva de la IAG que puede limitar habilidades cognitivas esenciales como la creatividad, el análisis profundo y la originalidad, al reducir las oportunidades para ejercitar procesos mentales complejos.

En el contexto bilingüe, se identificó un tercer desafío: los estudiantes utilizaban frecuentemente la IAG para traducción y generación de contenidos en inglés, lo que potencialmente comprometía su desarrollo lingüístico auténtico. El estudio se enfoca en analizar estrategias para integrar estas herramientas sin afectar la adquisición real de competencias comunicativas.

Al hacer un rastreo documental, se encontró que existen muchos artículos, revistas, investigaciones, entre otras referencias actuales, pues el concepto de IAG se empieza a utilizar a mediados del 2010, en Investigaciones de redes generativas, cuando se identifica que las IA permiten generar imágenes, audio y texto sintéticamente.

Aquí nace el concepto "generativo" en inteligencia artificial, aunque aún no se usaba el término "IAG" de forma común y que, por lo tanto, el sustento teórico de este tema se encuentra prácticamente en construcción (Goodfellow et al., 2014).

Las investigaciones muestran cómo estas tecnologías han ofrecido soluciones innovadoras a problemas educativos surgidos desde 2021, particularmente ante los retos vertiginosos por la pandemia del COVID-19, en el ámbito digital. Aunque no era su enfoque principal, estos trabajos anticiparon los dilemas éticos que posteriormente emergieron con mayor fuerza.

El marco teórico de esta investigación se fundamenta en tres ejes conceptuales clave: la pedagogía crítica, que proporciona las bases para analizar el uso ético de la tecnología en educación (Freire, 1970; Giroux, 1992); los principios de inteligencia artificial generativa (IAG) y su impacto en los procesos de enseñanza-aprendizaje (Zhai, 2022; UNESCO, 2023); y los estudios sobre educación bilingüe en contextos tecnológicos (Palmer, 2018; Kim, 2020).

Inteligencia Artificial Generativa (IAG)

La Inteligencia Artificial Generativa (IAG) representa un avance tecnológico reciente que se caracteriza por su capacidad para crear contenidos originales como textos, imágenes, música y videos mediante el análisis de patrones en grandes volúmenes de datos (Glassman, 2024). A diferencia de sistemas tradicionales de IA, la IAG no se limita a replicar información existente, sino que genera producciones novedosas a través de modelos avanzados como GPT y redes neuronales profundas.

Ética, Tecnología y Educación

La implementación de la IAG en el ámbito educativo requiere un marco ético sólido que garantice su uso responsable. Giuo (2020) propone principios fundamentales que incluyen la transparencia en el funcionamiento de los sistemas, la protección de la privacidad de datos personales, el mantenimiento del control humano en las decisiones automatizadas, la eliminación de sesgos discriminatorios y la priorización del beneficio social.

Competencias Digitales

En la era de la IAG, las competencias digitales se han convertido en un requisito fundamental tanto para docentes como para estudiantes. Campoy (2024) define estas competencias como el conjunto de conocimientos, habilidades y actitudes necesarias para utilizar las tecnologías de manera efectiva en los procesos educativos.

Pedagogía Crítica

La pedagogía crítica, cuyos fundamentos se remontan a los trabajos de Freire, Giroux, McLaren y M. Apple, quienes analizan las diferentes implicaciones que asume la educación y proponen un modelo educativo transformador que fomenta la conciencia social y el cuestionamiento de las estructuras de poder (Arellano et al., 2022).

Ambientes Bilingües de Aprendizaje

El aprendizaje de lenguas en contextos educativos contemporáneos ha trascendido la mera adquisición de competencias lingüísticas para incorporar dimensiones interculturales y de pensamiento crítico (Kim, 2020). El caso del inglés es particularmente relevante, ya que su globalización responde a complejos factores políticos y económicos que generan dinámicas de privilegio para los hablantes nativos.

Esta sección presenta el marco metodológico que guió la investigación, abordando cuatro componentes fundamentales: el contexto institucional, el enfoque metodológico, la tipología de investigación y las técnicas de recolección de datos.

Contexto Institucional

El estudio se desarrolló en el Colegio Canadiense, institución ubicada en el municipio de La Estrella, Antioquia, una zona de tradición agrícola que actualmente experimenta un proceso de transformación hacia un desarrollo suburbano debido a su proximidad con la capital departamental (Corona, 2018).

La institución educativa se estructura en cuatro niveles académicos (Inicial, Primaria, Media y Secundaria) y ofrece dos programas de formación: el currículo regular colombiano y el Programa de Graduación de Columbia Británica (CB). Los estudiantes del programa CB obtienen simultáneamente el diploma colombiano y el diploma Dogwood de Columbia Británica.

Enfoque Metodológico

La investigación adoptó un enfoque cualitativo, particularmente adecuado para comprender, describir e interpretar las dinámicas de interacción entre los actores educativos y la inteligencia artificial generativa (IAG) en un contexto bilingüe. Como señala Corona (2018), siguiendo a Behar (2008), la investigación cualitativa busca comprender subjetivamente las creencias y motivaciones culturales a través de metodologías como la etnografía, la fenomenología o la investigación-acción.

Método de Investigación

La investigación adoptó como método de investigación un estudio de caso, aplicado a docentes y estudiantes del currículo bilingüe de educación media en el Colegio Canadiense de La Estrella, Antioquia, Colombia. Esta aproximación es de tipo descriptiva y exploratoria, permitiendo indagar sobre los criterios pedagógicos emergentes para el uso ético de la Inteligencia Artificial Generativa (IAG) en su contexto real de aplicación.

Instrumentos de Recolección de Datos

Se utilizaron tres instrumentos principales de recolección de datos:

• Cuestionarios: Aplicados tanto a docentes como estudiantes para obtener información cuantitativa y cualitativa sobre el uso de IAG.
• Entrevistas Semiestructuradas: Realizadas para profundizar en las percepciones y experiencias de los participantes.
• Revisión Documental: Análisis de documentos institucionales, planeaciones y materiales educativos.

Consideraciones Éticas

La investigación se desarrolló siguiendo estrictos protocolos éticos, garantizando el consentimiento informado de todos los participantes, la confidencialidad de los datos y el respeto por la dignidad humana en todo el proceso investigativo.

Los resultados evidenciaron no sólo el potencial transformador de la IAG en las prácticas pedagógicas contemporáneas, sino también la urgente necesidad de desarrollar marcos regulatorios y programas de formación docente especializados, tal como lo recomienda la UNESCO (2023) en sus directrices sobre IA en educación.

1. Ambientes Bilingües de Aprendizaje con IAG

La inteligencia artificial generativa está transformando los entornos bilingües de aprendizaje, ofreciendo herramientas innovadoras para la enseñanza de idiomas. Docentes y estudiantes reconocen sus beneficios en personalización y retroalimentación, pero advierten sobre riesgos de dependencia y limitaciones en la práctica comunicativa.

Los docentes mencionaron diversas aplicaciones didácticas de la IAG. El Docente 3 detalla su uso para la "creación de historietas, cuentos a partir de textos originales, discursos o conversaciones a partir de situaciones generadas por la IA", demostrando su versatilidad creativa.

Como expresa el Estudiante 5: "Las uso para definir palabras rápido en inglés... me da una respuesta clara basada en el contexto del libro". El Estudiante 11 añade: "Puedo pedirle que corrija mis textos en inglés... así aprendo de mis errores".

2. IAG Aplicada a la Educación

La IAG revoluciona los procesos educativos, ofreciendo herramientas innovadoras para la enseñanza y el aprendizaje en el aula, pero su implementación requiere un enfoque responsable que equilibre sus beneficios con los desafíos éticos.

El Docente 4 las utiliza "Para crear cuestionarios o dispositivos de verificación de conocimientos, así como presentaciones e imágenes". Esta personalización se extiende a la creación de contenidos creativos, como historietas o cuentos adaptados a necesidades específicas.

3. Pedagogía Crítica e IAG

La integración de la IAG en la educación ha generado posturas diversas entre docentes y estudiantes. Como señala el Docente 1: "La IAG ayuda a desarrollar el pensamiento crítico cuando los estudiantes comparan diferentes ideas o fuentes, pero no puede reemplazar el proceso de reflexión personal".

El Docente 3 advierte: "No debemos volvernos 'enemigos' de la IA, sino usarla como herramienta útil para beneficio propio, con límites para no depender de ella". Esta perspectiva refleja la necesidad de un equilibrio entre aprovechamiento tecnológico y desarrollo cognitivo autónomo.

El análisis de la información se realizó mediante un proceso riguroso de triangulación metodológica que contrastó sistemáticamente los datos empíricos con los marcos teóricos de referencia (Freire, 1970; Giroux, 1992; Zhai, 2022). Este ejercicio, fundamental para garantizar la validez en investigación cualitativa según Nowell et al. (2021), permitió consolidar una visión integral del fenómeno estudiado.

Proceso de Análisis

Durante la fase de análisis, se implementó un proceso de codificación temática que permitió identificar patrones recurrentes en las respuestas de docentes y estudiantes. Los datos fueron organizados en tres categorías principales que emergieron del análisis:

• Ambientes bilingües de aprendizaje con IAG: Con las subcategorías de mediación docente y estrategias de aprendizaje
• IAG aplicada a la educación: Incluyendo herramientas y usos específicos
• Pedagogía crítica e IAG: Que incluyó las subcategorías de ética, normativa, riesgos y habilidades cognitivas

Triangulación Metodológica

La representación final de los hallazgos mantuvo fidelidad a las voces de los participantes mientras se articulaba con los debates actuales sobre tecnología educativa y pedagogía crítica. Este proceso permitió establecer relaciones significativas entre la evidencia recogida, la literatura especializada y las necesidades identificadas en el contexto educativo bilingüe analizado.

El análisis reveló tanto convergencias como divergencias en las percepciones de docentes y estudiantes, proporcionando una comprensión matizada del fenómeno estudiado y fundamentando las recomendaciones pedagógicas propuestas.

Del análisis de los datos emergieron tres categorías principales que estructuran los hallazgos de esta investigación. Estas categorías fueron identificadas mediante un proceso inductivo de codificación temática y validadas a través de triangulación metodológica.

Subcategorías:

• Mediación Docente: El rol transformado del educador como facilitador crítico en el uso de IAG
• Estrategias de Aprendizaje: Nuevas metodologías y enfoques pedagógicos emergentes

Subcategorías:

• Herramientas y Usos: Aplicaciones específicas de IAG en procesos educativos
• Impacto en Procesos Pedagógicos: Transformaciones en metodologías tradicionales

Subcategorías:

• Ética y Normativa: Consideraciones éticas y necesidades regulatorias
• Riesgos y Oportunidades: Tensiones entre beneficios y desafíos
• Habilidades Cognitivas: Impacto en el desarrollo del pensamiento crítico

Interrelaciones entre Categorías

Las categorías emergentes no operan de manera aislada, sino que se interconectan formando una red compleja de relaciones que reflejan la naturaleza multidimensional del fenómeno estudiado. La mediación docente, por ejemplo, se ve influenciada tanto por las herramientas disponibles como por las consideraciones éticas de la pedagogía crítica.

Esta estructura categorial proporciona un marco comprensivo para entender cómo la IAG está transformando los ambientes educativos bilingües y qué criterios pedagógicos son necesarios para su uso ético y efectivo.

Esta investigación aporta contribuciones significativas tanto al campo académico como a la práctica educativa, proporcionando un marco conceptual y metodológico para el uso ético de la inteligencia artificial generativa en contextos educativos bilingües.

Contribuciones Teóricas

La investigación contribuye al desarrollo teórico al establecer conexiones explícitas entre la pedagogía crítica de Freire, Giroux y McLaren con las tecnologías emergentes de inteligencia artificial, llenando un vacío identificado en la literatura especializada.

Contribuciones Metodológicas

Se propone una metodología de investigación cualitativa específicamente adaptada para estudiar fenómenos tecnológicos emergentes en contextos educativos bilingües, que puede ser replicada en otros estudios similares.

Contribuciones Prácticas

La investigación ofrece criterios pedagógicos concretos que pueden ser implementados inmediatamente en instituciones educativas que busquen integrar la IAG de manera ética y efectiva.

Criterios Pedagógicos Propuestos:

• Mediación Humana Obligatoria: Toda actividad con IAG debe incluir supervisión y orientación docente
• Transparencia en el Uso: Los estudiantes deben declarar explícitamente cuándo utilizan herramientas de IAG
• Desarrollo del Pensamiento Crítico: Las actividades deben promover análisis, síntesis y evaluación crítica
• Respeto por la Propiedad Intelectual: Implementación de protocolos claros sobre derechos de autor
• Formación Continua: Programas de capacitación permanente para docentes

Contribuciones Institucionales

Contribuciones Sociales

La investigación contribuye al debate público sobre el uso responsable de la inteligencia artificial en educación, proporcionando evidencia empírica que puede informar políticas públicas y regulaciones futuras.

Además, promueve la democratización del acceso a tecnologías educativas avanzadas, al proponer criterios que garanticen equidad y inclusión en su implementación.

Proyecciones Futuras

Los hallazgos de esta investigación abren múltiples líneas de investigación futura, incluyendo estudios longitudinales sobre el impacto cognitivo de la IAG, desarrollo de herramientas de detección de uso inapropiado, y exploración de modelos de formación docente en pedagogía digital crítica.

El uso de inteligencia artificial generativa en entornos educativos plantea importantes desafíos éticos que requieren atención inmediata. Entre los más relevantes destacan el respeto a los derechos de autor, la autenticidad de los contenidos generados -especialmente en contextos bilingües-, y el impacto en el desarrollo de competencias cognitivas fundamentales como el análisis, síntesis, comprensión e inferencia.

La investigación evidenció que la IAG está transformando significativamente los procesos educativos, ofreciendo ventajas como la optimización del tiempo docente, personalización de materiales y apoyo en el desarrollo de competencias lingüísticas. Sin embargo, estos beneficios contrastan con riesgos críticos, particularmente en el ámbito cognitivo, donde se observó una disminución preocupante en la capacidad de análisis profundo y producción original cuando el uso de estas herramientas carece de una mediación pedagógica adecuada.

El estudio también reveló importantes brechas en la preparación docente para enfrentar estos desafíos. La mayoría de los educadores manifestaron sentirse insuficientemente preparados para esta nueva realidad tecnológica, requiriendo con urgencia capacitación que integre competencias digitales con enfoques pedagógicos críticos.

La investigación concluye que el verdadero valor educativo de la IAG no reside en la tecnología per se, sino en su integración pedagógica estratégica. Los casos más exitosos documentados fueron aquellos donde los docentes diseñaron actividades que combinaban el uso de estas herramientas con ejercicios de verificación, contraste y reflexión, transformando así la IA en un recurso para potenciar -no reemplazar- el pensamiento humano.

Los resultados evidencian consenso en la población estudiada (docentes y estudiantes): el rol del docente es irreemplazable en el proceso educativo, incluso con la integración de la Inteligencia Artificial Generativa (IAG). Este hallazgo no solo valida la centralidad de la mediación humana, sino que abre una oportunidad para los profesionales de la educación.

Recomendaciones

Las instituciones educativas deben establecer protocolos claros que regulen el uso académico de inteligencia artificial generativa (IAG), incluyendo la creación de comités de ética digital para supervisar su implementación pedagógica. Paralelamente, se recomienda actualizar los manuales institucionales con normativas específicas sobre derechos de autor, protección de datos y honestidad académica en el uso de estas tecnologías emergentes.

Resulta prioritario que los educadores desarrollen estrategias pedagógicas innovadoras que integren la IAG con el fomento del pensamiento crítico, diseñando actividades que requieran la verificación, contextualización y análisis profundo de contenidos generados automáticamente.

Los planes de estudio requieren una revisión profunda que incorpore módulos específicos sobre ética digital adaptados a los diferentes niveles educativos. Esta actualización debe incluir sistemas de evaluación renovados que prioricen la originalidad y el pensamiento propio.