Los avances que ha experimentado la sociedad permean todas las dimensiones de la vida cotidiana, y la educación no ha sido la excepción. Estos cambios se han manifestado en el ámbito educativo a través del uso progresivo de recursos tecnológicos, que van desde la incorporación de proyectores en el aula, la consulta de información científica confiable mediante bibliotecas digitales, repositorios y bases de datos, hasta el uso de dispositivos electrónicos y modelos educativos apoyados en entornos virtuales o completamente en línea.

Esta evolución ha permitido que estudiantes y docentes accedan a cursos desde prácticamente cualquier lugar y en cualquier momento, lo que amplía las posibilidades de la educación formal, al reducir la dependencia de horarios y espacios físicos previamente establecidos.

En este contexto de transformación acelerada, la inteligencia artificial (IA) ha irrumpido en los espacios educativos en diversas modalidades, particularmente a través de herramientas generativas de texto, imágenes y video. Su incorporación ha generado incertidumbre entre los colectivos docentes: desde posturas de resistencia y rechazo, hasta posiciones orientadas a la formación y preparación para su uso pedagógico responsable.

Estas reacciones no resultan infundadas, ya que, como ocurre con toda tecnología emergente, la IA genera inseguridad en torno a su funcionamiento, la confiabilidad de los resultados, la protección de los datos personales y, especialmente, su uso ético en la elaboración de tareas y actividades académicas. Dichas preocupaciones suelen estar asociadas, en gran medida, al desconocimiento sobre los alcances y limitaciones de estas herramientas y a la forma en que operan dentro de los procesos educativos.

Preocupaciones éticas asociadas al uso de la inteligencia artificial

La inteligencia artificial se concibe, desde el ámbito científico, como el desarrollo de sistemas computacionales capaces de emular procesos cognitivos humanos, tales como el razonamiento, el aprendizaje y la resolución de problemas, mediante procedimientos algorítmicos orientados al cumplimiento de objetivos  específicos.1

La UNESCO (Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura, por sus siglas en inglés) la conceptualiza como un sistema que puede procesar información, el cual está integrado por modelos y algoritmos que simulan habilidades humanas, como aptitudes para aprender, repetir patrones y realizar tareas cognitivas, mediante la repetición y predicción de patrones a través de la exploración y cálculo de datos; asimismo, menciona que el uso de este recurso debe tener consideraciones éticas y responsables, debido a su aplicabilidad en diferentes disciplinas, como la salud y la educación, entre otras.2 Además, la UNESCO, a partir del Beijing Consensus  on  Artificial  Intelligence  and Education, subraya que la integración de la IA en la educación debe orientarse desde principios éticos, de equidad, justicia social y respeto a los derechos humanos. También destaca que dichas tecnologías deben estar al servicio tanto de docentes como de estudiantes, y no como sustitutas de los actores educativos.3

Otro punto es la responsabilidad de las autoridades encargadas del diseño de políticas educativas de establecer normativas claras respecto a su uso, funciones, alcances, limitaciones y riesgos, así como el énfasis que se da a la necesidad de priorizar el desarrollo de habilidades humanas, como el pensamiento crítico, y el fortalecimiento de competencias digitales que vayan más allá del uso instrumental de dispositivos electrónicos. Desde esta perspectiva, la IA no tiene como propósito sustituir los procesos educativos sustantivos ni el rol docente, sino fungir como una herramienta mediadora que apoye y fortalezca los procesos de enseñanza y aprendizaje.

Resulta fundamental comprender el funcionamiento de la IA, particularmente de la inteligencia artificial generativa (IAG), debido a que se trata de una de las tecnologías más utilizadas por los actores educativos. Este tipo de IA se basa en modelos de lenguaje de gran escala, es decir, sistemas capaces de interpretar, analizar y producir lenguaje humano de manera comparable al lenguaje natural, a partir de indicaciones o instrucciones redactadas por los usuarios.

La IAG puede generar diversos tipos de contenido, como textos, imágenes, videos, música o códigos. Su funcionamiento se sustenta en cálculos probabilísticos que determinan la relación y secuencia de palabras y frases dentro de un contexto específico. Las respuestas generadas pueden asemejarse a las de personas expertas en los temas solicitados, pero pueden contener imprecisiones, por lo que requieren ser verificadas por los usuarios. En consecuencia, su uso en los ámbitos educativos debe estar guiado por principios de ética y responsabilidad.4

Así, surge la necesidad de conocer la opinión y percepción de los docentes en torno a las implicaciones éticas del uso de la IA en la educación superior. Resulta relevante comprender e interpretar cómo conciben su funcionamiento y alcances, particularmente en lo que respecta a las responsabilidades éticas asociadas a su uso. Asimismo, se vuelve pertinente identificar la visión que tienen sobre las medidas que consideran necesarias para garantizar un uso ético y responsable de la IA en el contexto académico.

Tomando en cuenta estos factores, realizamos un estudio desarrollado bajo un enfoque cualitativo, con un diseño de tipo exploratorio-descriptivo, orientado a indagar y describir las percepciones de los docentes respecto a las preocupaciones éticas y a las medidas necesarias para el uso responsable de la IA en la educación superior. Desde este enfoque, los hallazgos se presentan de manera interpretativa y sistemática a partir del análisis de las respuestas obtenidas, lo que permitió organizar la información en categorías de análisis que reflejan los significados, experiencias y valoraciones expresadas por los participantes.

La muestra estuvo conformada por 286 docentes de educación superior, participantes en un webinar de capacitación docente. La aplicación del instrumento fue anónima y voluntaria, y se precisó que el uso de la información recabada sería exclusivamente para fines académicos.

Para la recolección de datos se empleó una entrevista escrita, de formato abierto, conformada por dos preguntas de elaboración propia:

1.¿Cuáles son sus principales preocupaciones éticas en relación con el uso de la inteligencia artificial en la educación?
2.¿Qué medidas considera necesarias para garantizar un uso ético de la inteligencia artificial en la educación superior?

La consulta se realizó mediante la herramienta Google Forms, lo que permitió obtener respuestas abiertas a partir de la experiencia y el conocimiento de los docentes participantes.

Derivado de la interpretación de las respuestas, se realizó un análisis cualitativo de las mismas, orientado a la identificación, organización y sistematización de categorías y subcategorías. Este proceso permitió interpretar de manera sistemática los significados atribuidos por los sujetos de estudio, en relación a sus preocupaciones sobre la IA y sus implicaciones éticas. Estas categorías emergen del proceso de interpretar las respuestas, lo cual conlleva a comprender aspectos éticos, pedagógicos e institucionales en función de incorporar la IA como herramienta de apoyo al proceso educativo en el nivel superior, las cuales fueron:

1.    Preocupaciones éticas asociadas a la privacidad y protección de datos.
2.    Autoría académica, plagio e integridad académica.
3.    Dependencia excesiva y uso acrítico de la inteligencia artificial.
4.    Medidas institucionales para un uso ético y responsable de la inteligencia artificial.
 
A continuación, se presenta la interpretación de cada una de ellas con base en el análisis de las res- puestas de los docentes.

Preocupaciones éticas asociadas a la privacidad y protección de datos

De forma recurrente, los entrevistados manifestaron preocupación en relación con la privacidad y el manejo de datos personales al momento de utilizar recursos de IA en la docencia. Asimismo, evidenciaron inquietud sobre el uso de la información que proporcionan en estas herramientas, debido a la falta de claridad sobre el destino, resguardo y posible uso indebido de sus datos, lo que refleja conciencia ética en torno a la necesidad de la protección de la información de personal docente y de estudiantes, en especial en contextos donde el uso de la IA se ha incrementado y es utilizada de manera indiscriminada y sin lineamientos institucionales claros.

Autoría académica, plagio e integridad académica

Esta categoría emergió de manera constante, ya que se relaciona con los derechos de autor y el riesgo que implica el plagio. Los docentes expresaron preocupación por el uso que le dan los estudiantes a este recurso al presentar tareas académicas como propias, las cuales fueron realizadas por alguna herramienta de IAG, ya que estas acciones ponen en riesgo la integridad académica.

Dependencia excesiva y uso acrítico de la inteligencia artificial

Las respuestas de los entrevistados ponen de manifiesto inquietudes relacionadas con la excesiva dependencia de este recurso por parte de los estudiantes, ya  que consideran que se puede llegar a inmovilización de competencias como la comprensión, el pensamiento crítico y  la  evaluación de la información obtenida para el aprendizaje, por lo que se corre el riesgo de que los estudiantes no desarrollen la capacidad del análisis autónomo de la información. Esta categoría revela el temor de que la IA sustituya capacidades los como procesos de reflexión y sea considerada como un fin para el aprendizaje, y no solo como un recurso de apoyo para acciones académicas.

Medidas institucionales para uso ético y responsable de la IA

Se destacó la importancia de contar con lineamientos institucionales claros tanto para docentes como para estudiantes, que los instruyan sobre los riesgos y limitaciones. También se destacó la importancia de la implementación de programas de formación para promover el uso consciente, crítico, ético y responsable de la IA, y se pone de manifiesto la expectativa de que la institución, como ente rector, asuma un rol activo para la gestión y uso ético de este recurso en los procesos educativos.

Así, los riesgos y las preocupaciones éticas expresados por los docentes ponen de manifiesto una inquietud genuina en torno al uso de la IA en las aulas de la educación superior. Esta inquietud se vincula con la necesidad de preservar el desarrollo de habilidades fundamentales en los estudiantes, tales como el análisis, la reflexión y el pensamiento crítico, indispensables para la resolución de problemáticas sociales y profesionales en contextos reales.

Desde la perspectiva docente, el uso excesivo de la IA, sin una regulación clara sobre la responsabilidad ética asociada a sus resultados, representa un riesgo, ya que la información generada por estas herramientas no siempre es verídica y puede presentar sesgos. Si bien se reconoce su valor como recurso de apoyo en los procesos educativos, también se advierte el riesgo de una dependencia que podría afectar el aprendizaje autónomo y la integridad académica. En este sentido, la formación y la capacitación  en torno al uso, los alcances, los riesgos y las limitaciones de la IA se identifican como elementos clave para promover un uso ético de esta tecnología. De manera particular, los docentes subrayan la necesidad de establecer criterios claros que permitan distinguir entre el uso legítimo de la IA como apoyo académico y aquellas prácticas que vulneren la  autoría y la integridad académica.

Finalmente, resulta pertinente reconocer la responsabilidad institucional de diseñar e implementar lineamientos que orienten el uso ético y responsable de la IA en los procesos de enseñanza y aprendizaje, con el propósito de garantizar una integración consciente y alineada con los principios formativos de la educación superior.