1. Introducción
La inteligencia artificial (en adelante, IA) ha experimentado un repunte significativo en el mundo y en el contexto universitario se presenta como una oportunidad para repensar y reorientar las nuevas formas en las que se ha de trabajar en el proceso pedagógico, desde la competencia digital hacia una transformación digital. Sin embargo, la IA, entendida como el diseño de un sistema que pretende simular la inteligencia humana (Ocaña-Fernández et al., 2019) y que además sea capaz de resolver problemas (Ayuso-Del Puerto et al., 2022), también es un elemento a revisar, ya que en los procesos pedagógicos universitarios pasa indiscutiblemente por un tratamiento desde lo tecnoético para que su integración como recurso de optimización y mejora del aprendizaje sea fruto de un proceso crítico y analítico, y no un elemento aditivo que pueda llevar a prácticas poco éticas.
Esta dinámica tan veloz, que se corresponde a profundos y heterogéneos cambios a todo nivel, presenta más retos que certezas, y en la universidad uno de los retos se corresponde con la revisión del diseño de la IA a partir del tipo de respuestas que pueda generar evitando los prejuicios o sesgos, con lo cual la personalización y la adaptación a un contexto se hace cada vez más urgente conforme se observa un crecimiento casi descontrolado de la IA. Por lo tanto, y dado su carácter emergente y progresivo, se considera necesario establecer un conjunto de elementos que sirvan de punto de partida para el tratamiento analítico, crítico y tecnoético de lo que conlleva la integración de la IA en la universidad.
Esta investigación se erige a partir de un análisis cualitativo cuya categoría central es la IA, la cual se ha explorado desde tres esferas interconectadas: 1) la IA y la pedagogía, 2) la IA en la práctica educativa universitaria, y 3) la IA y la tecnoética. Se espera que estos aportes permitan visualizar toda una gama de posibles implicaciones ante una nueva realidad, para lo cual se hace necesario adoptar medidas eficaces que respondan a un nuevo escenario desde el reconocimiento de nuevas resignificaciones respecto a cómo se aprende y cómo ha de ser la consideración ética ante un recurso que puede tener efectos tan indeseados como loables a partir de la intencionalidad no neutra que acompaña el diseño de los algoritmos. Por lo tanto, una vez más la universidad está llamada a dar respuesta a los desafíos que la IA genera, mientras que el conocimiento se produce a gran velocidad entre la racionalidad y la incertidumbre del humanismo tecnológico (Vera, 2023).
2. Objetivo y proceso metodológico
Se plantea como objetivo principal de este estudio explorar la IA ante sus posibles efectos en el contexto universitario. Para tal fin se diseñó una investigación de perspectiva cualitativa ya que no se espera explicar o controlar hechos (Martínez-Corona et al., 2023), con lo cual se asume la Teoría Fundamentada de diseño sistemático al pretender generar una teoría global que ayude a comprender un proceso determinado (Hernández-Sampieri et al., 2014), que en este caso gira en torno a la IA y cómo puede producir una serie de interacciones en el entorno universitario. Siguiendo a Hernández-Sampieri et al. (2014), para hacer el análisis de la literatura científica seleccionada se estableció un conjunto de categorías que sirvió de orientación para identificar los elementos que están relacionados con la categoría central (codificación abierta y codificación axial), tal y como se especifica en la Figura 1.
Nota: figura de elaboración propia (2024).
Figura 1. Categorías de análisis
Luego de la definición de las categorías de análisis, se procede a realizar el muestreo teórico que, en este caso, se corresponde con la literatura científica publicada entre 2018 y 2023, contenido en las bases de datos WoS, Google Académico y Redalyc. Las investigaciones se fueron agregando conforme se desarrollaban las categorías de análisis hasta alcanzar la saturación teórica al momento de observar que no se encontraban hallazgos significativamente diferenciadores dentro de los aportes teóricos, en correspondencia con el tema objeto de esta investigación.
Fases de la investigación:
- Muestreo teórico: análisis y exploración desde una perspectiva conceptual del fenómeno objeto de estudio para la posterior construcción teórica como resultado del proceso de la investigación, luego de alcanzar la saturación teórica. Se incluyó, además, el proceso inductivo de perspectiva cualitativa.
- Comparación constante a partir de la codificación axial: identificación de elementos teóricos a partir de la codificación axial, además de visualizar la conexión interna de los hallazgos de la investigación mientras se desarrollaba la interpretación teórica.
- Síntesis y reinterpretación paradigmática: construcción de una nueva teoría o de una nueva interpretación como resultado de la investigación. Se incluyó, además, la triangulación teórica entendida como »el procedimiento de categorización extraído de la literatura científica desde el estado del arte de la investigación que obedece al empleo de documentos, antecedentes, teorías y conceptos propios de la ciencia« (Piñero & Perozo, 2021, p. 8).
3. Consideraciones sobre la Inteligencia Artificial en la universidad
Retomando la IA como categoría central, se recoge la presentación de los principales hallazgos de la investigación a partir de las tres codificaciones axiales, que son el resultado del procesamiento de la información desde la codificación abierta; los resultados, en este caso, se observan a partir de tres elementos fundamentales: 1) la IA y la pedagogía, 2) la IA en la práctica educativa universitaria, y 3) la IA y la tecnoética.
Estas categorías han ayudado a organizar el contenido que se expone en este punto de la investigación, mientras que la codificación abierta ha permitido desgranar el análisis y es por ello que los siguientes epígrafes responden a la codificación axial y sus tres elementos identificados.
Las implicaciones de la IA en la esfera universitaria todavía se encuentran en un proceso emergente cuyos resultados están en proceso de identificación. Esto quiere decir que el desarrollo de la IA y sus posibles efectos en la vida universitaria se encuentran en un momento en el que todo parece ser novedoso, complejo y desafiante; de un tránsito desde la alfabetización digital a la cultura digital. Esto significa que la alfabetización digital en su momento sentó las bases de un uso tecnológico desde una perspectiva mecánica y posiblemente auxiliar para ciertos procesos administrativos, mientras que la cultura digital hace referencia a un uso de la tecnología desde una perspectiva crítica, analítica y que pueda incluirse en los procesos formativos, en este caso dentro de la universidad. Eso que se denomina cultura digital cubre toda una gama de posibilidades que han de servir para que los actores activos de la vida universitaria puedan asumir que la tecnología ya es una realidad en prácticamente todos los campos de la actividad humana y así se ha convertido en una de las competencias profesionales del siglo XXI más demandadas en la actualidad.
3.1. Codificación axial 1: la IA y la pedagogía
El planteamiento pedagógico contemporáneo todavía se encuentra en un proceso de redefinición a partir del reconocimiento de que las nuevas lógicas de entendimiento permiten identificar al conectivismo como el paradigma asociado al proceso pedagógico actual (González-González, 2023). Esto quiere decir que desde el conectivismo se fomenta aquella red de conexiones desde un punto de vista tecnológico y social, por lo que no se ha de entender como un ejercicio de aprendizaje de forma aislada sino más bien como una especie de aprendizaje que, mediatizado por las tecnologías, comprende un conjunto de elementos bajo la premisa de la hiperconectividad (Aparicio-Gómez, 2023).
Desde una perspectiva pedagógica, la IA ha de suponer una reorientación de los procesos pedagógicos, en este caso, desde el contexto universitario, ante una sociedad cada vez más mediatizada por las tecnologías, globalizada e interconectada (Chávez et al., 2024). Si bien es cierto que dependerá de la disciplina o campo de estudio desde la que se pueda observar la posibilidad de inclusión de la IA en el aprendizaje, es relevante considerar primero su construcción conceptual. Al revisar la literatura científica se constatan varios significados respecto a la IA, por ejemplo, que ha de ser comprendida como aquella disciplina científica desde la que se configuran máquinas con el objeto de que resuelvan problemas por su capacidad de adaptación y capacidad de aprendizaje de patrones (Ayuso-del Puerto & Gutiérrez-Esteban, 2022).
Por otro lado, la IA se puede entender como una agrupación de algoritmos que permiten a un software tener la capacidad de ser inteligente como los seres humanos a la vez de aprender de datos con poca interferencia humana (Campione, 2021), con lo cual se trata de un sistema informático que pueda imitar o simular la forma de actuar de un cerebro humano al momento de procesar datos externos y transformar esos datos en información (Fajardo et al., 2023). Por su parte, la Comisión Europea afirma que la »IA es un cuerpo de tecnologías que combinan datos, algoritmos y potencia informática« (2020, p. 3). Aunque el interés de esta investigación no gira en torno a las especificaciones técnicas de la IA, conviene tener presente que, según García-Villarroel (2021), dicha inteligencia genera su actividad desde tres elementos básicos: 1) algoritmos de aprendizaje automático (conocidos como machine learning), 2) modelos de redes neuronales (neural network), y 3) capas de representación de métodos y cálculos (deep learning).
Lógicamente, al ver a la IA como la posibilidad de que una máquina imite al cerebro humano (Ocaña-Fernández et al., 2019) y pueda analizar una cantidad grande de datos para transformarlos en información, se puede correr el riesgo de que será una máquina la que va a aprender y no la persona, por ejemplo, un estudiante universitario. Esta concepción, aunque supone un riesgo real en el mal manejo de la IA, implica una modificación tanto de la forma en que se fomenta el aprendizaje por parte del docente como de las nuevas lógicas por las cuales las personas aprenden y más aún en un contexto universitario en el que teóricamente debe existir una predisposición favorable hacia la cultura y alfabetización digital (Cotrina-Aliaga et al., 2021; Norman-Acevedo, 2023; Peñaherrera et al., 2022) que pueda permear todo el quehacer universitario y con ello aportar a la readaptación de los procesos pedagógicos que faciliten el uso adecuado de esa IA, aunque la institución universitaria en muchos casos continúe sujeta a un pasado decimonónico (Vera, 2023).
Se presenta entonces un escenario lleno de retos ante la sistematización de las experiencias de IA en cuanto al desarrollo del modelo pedagógico que esté acorde con la creciente digitalización de los procesos pedagógicos contemporáneos (Choque, 2008). Se entiende que el interés no ha de estar exclusivamente en la digitalización de procesos administrativos sino en el diseño de nuevas dinámicas pedagógicas que puedan enriquecer la experiencia de aprendizaje, en este caso, dentro del contexto universitario (Muñoz & Márquez, 2023).
Grané (2021) expone una postura más crítica al afirmar que en la actualidad se observa la instauración de un nuevo sistema que gira en torno a lo tecnoeducativo, lo cual se traduce en una separación entre aquellos que tienen posibilidad de acceder a la tecnología y aquellos que no se lo pueden permitir, lo que desemboca en un efecto discriminatorio generado por el manejo de los datos, la huella digital y el control de los datos de aprendizaje. Además, hace mención a la pérdida de la privacidad y la intimidad, ya que a través del rastreo de nuestra actividad digital se personaliza la predicción de lo observado por el ser humano, conforme se desarrolla su contacto con lo digital. En este mismo orden de ideas, la Comisión Europea (2020) ha advertido no solo los beneficios de la IA (mejora del bienestar de las personas, lucha contra el cambio climático, mejora de la respuesta ante los retos demográficos, y fomento de la competitividad de la industria en Europa, entre otros) sino también los posibles efectos perjudiciales, como, uso delictivo de datos, vulneración de derechos y seguridad personal, discriminación en el acceso al empleo y daños a la propiedad.
Ante este panorama, aunque la IA no es del todo nueva en el mundo, el crecimiento tecnológico y la presencia digital han permitido que se sobreexponga en la actualidad. La IA todavía se encuentra en una fase de descubrimiento mientras se visualizan los efectos no deseados que, aunque se encuentre en un proceso de constante crecimiento, se ha llegado a reconocer sus efectos no esperados (Urretavizcaya & Onaindía, 2002). Entre otras estrategias, la Comisión Europea (2020) entiende la necesidad de instaurar requisitos que han de ser aplicados al momento de la programación del algoritmo a la vez de preservar los datos, con el objeto de verificar las posibles acciones ante decisiones potencialmente riesgosas en la ejecución de la IA.
3.2. Codificación axial 2: la IA en la práctica educativa universitaria
Puede pensarse que la IA solo se circunscribe a grandes trasnacionales que comercializan equipos tecnológicos o comercio electrónico. En realidad, la IA sí que está presente en aquellos escenarios, solo que en el contexto educativo todavía se están descubriendo sus potencialidades (Rodríguez et al., 2023), con lo cual se está generando de forma dinámica, así como ocurre con las pedagogías emergentes y la denominada tecnopedagogía (Toledo-Lara, 2021). Al revisar la literatura científica reciente se puede identificar un conjunto de formas de trabajo en las que la IA está presente pero aún falta no solo registrar científicamente las experiencias, sino que, además, se hace necesario establecer un sustrato de corte teórico que pueda servir de base para la generación del conocimiento en este particular. Aunque se trate de algo emergente, se pueden exponer algunos criterios orientadores toda vez que la personalización del aprendizaje, como una de las posibles ventajas de la IA en la educación universitaria, se siga observando en aquellos campos de estudios que se inclinan, según las normas, más hacia la tecnología. Por lo tanto, la aplicación de la IA en el nivel universitario sigue teniendo un largo camino por delante (Sánchez & Carbajal, 2023), con lo cual se observa un gran campo para la investigación.
Norman-Acevedo (2023) y García-Villarroel (2021) exponen el reconocimiento del aprendizaje personalizado desde la constatación de la huella digital. Esto se puede comprender desde la visión de que, los estudiantes en efecto, al manipular los sistemas informáticos generan un rastro digital, lo cual puede servir de punto de partida para la generación de un aprendizaje personalizado que ha de traducirse, entre otras cosas, en el diseño de actividades o en la construcción de un trayecto formativo adaptado a cada uno. Los mismos autores reconocen que esta tarea, además de ser ambiciosa, puede suponer una inversión económica importante, con lo cual no es suficiente la intención de mejorar la experiencia de aprendizaje; también la infraestructura y la financiación son aspectos determinantes.
García-Villarroel (2021) introduce el análisis de la evaluación en un entorno virtual de aprendizaje, al indicar que ese procedimiento supone la revisión del modelo pedagógico que nutre el proceso formativo, con lo cual el docente ha de revisar y ajustar los procesos evaluativos para que se correspondan con la naturaleza virtual de los estudios. Por lo tanto, no resulta adecuado trasladar a un entorno virtual una evaluación que se corresponde a una evaluación tradicional (Quiroz & Franco, 2019). Aquí se hace referencia a reducir el tiempo de corrección de las aportaciones, la fiabilidad de las actividades de los estudiantes y su originalidad, la integración de una o varias actividades en otras asignaturas o campos de estudio, así como la posibilidad de llegar a más estudiantes sin importar la distancia o el momento en el que el estudiante se disponga a sus deberes.
En el mismo orden, Peñaherrera et al. (2022) indican, a propósito de la IA, que esta ha de favorecer el proceso de la administración y personalización del aprendizaje a partir del desarrollo de varias acciones, como el establecimiento y fomento de una cultura digital en la institución universitaria traducido en el diseño de un sistema de tutoría virtual, aprendizaje en línea, analíticas de aprendizaje, diseño de algoritmos que puedan apoyar momentos de evaluación, detección de patrones de comportamiento digital en los estudiantes en función del proceso de aprendizaje, entre otros. Del mismo modo, las ideas expuestas por González-González (2023) permiten visualizar e inferir la aplicación de la IA en los procesos relacionados con la supervisión y calidad educativa, los sistemas de ingreso a la educación universitaria, la detección de posibles problemas de conducta a partir del análisis de la genética, el ambiente y la actitud, así como la mejora del proceso de aprendizaje en estudiantes con discapacidad.
Bocanegra et al. (2021) exponen otro de los hallazgos y posibles implicaciones de la IA en el contexto universitario, al indicar que en función del cambio radical que ha de suponer la IA en la estructura del sistema educativo será la modificación y redefinición del rol del docente ante la velocidad de los cambios y el gran manejo de datos que pueden dar cuenta de, por ejemplo, la información que manejan los estudiantes (Miranda & Vargas, 2019). A partir de lo anterior se puede analizar la interacción de los estudiantes con la plataforma que estén manipulando mientras se encuentren dentro del contenido educativo que se esté trabajando, y ello puede servir para el análisis de aquellos factores que pueden incidir en el proceso pedagógico. El mismo autor hace referencia a plataformas que fomentan los MOOC (massive open online course).
En este sentido y a propósito del conocido como ChatGPT, Lopezosa y Codina (2023) recuerdan que dicho chat es un modelo que genera respuestas en tiempo real a partir del procesamiento del lenguaje; en otros términos, se trata de un modelo de IA y de procesamiento del lenguaje natural (Vega et al., 2023). No obstante, el manejo de ChatGPT supone necesariamente una formación constante a partir del uso crítico para no perder de vista que está diseñado por seres humanos, con lo cual las respuestas generadas no han de tomarse como verdades absolutas. El ChatGPT puede aplicarse para generar resúmenes, traducciones, correcciones gramaticales, o responder interrogantes (Floridi & Chiriatti, 2020). Sin embargo, la calidad general de sus respuestas es muy diversa y revisable (Rudolph et al., 2023), con lo cual no se debe observar de forma absoluta, sino analizarse con detenimiento y no se debe asumir como perfecto todo lo que allí se genera, ya que estos sistemas son propensos a producir respuestas poco fiables y sin sentido, lo que impide su uso en las aplicaciones conversacionales reales (Bonner et al., 2023).
Existe una serie de puntos de revisión respecto a los resultados que se han observado a partir del uso de ChatGPT. Stojanov (2023) presenta varios elementos que se han de tener en cuenta al momento de explorar y manipular ese chat; por ejemplo, los resultados generados pueden carecer de coherencia semántica y los algoritmos estar sesgados por tendencias ideológicas determinadas. Por otra parte, los resultados generados por ChatGPT se pueden corresponder a afirmaciones que no se ajustan a la verdad, con lo cual es necesario ejecutar varias veces la misma pregunta para luego seleccionar la mejor respuesta o el mejor resultado. Por lo tanto, estamos ante un modelo de lenguaje que en este momento no ofrece una confiablidad del 100 % y su uso irrestricto es un aspecto a revisar haciendo de lado la sobreexposición de este recurso que se ha observado recientemente (Rudolph et al., 2023).
Una constatación común observada en los aportes científicos revisados es que la IA ha de favorecer y hasta consolidar la personalización del aprendizaje, mediatizado por el contacto con la tecnología a partir de la premisa de que al incorporar la IA se espera mejorar el proceso pedagógico al incluir el enseñar y el aprender (Salmerón et al., 2023). Esto ha de mirarse desde el aspecto favorable que pueda tener la IA en relación con el proceso pedagógico, sin dejar de lado el fomento del pensamiento crítico traducido en que el estudiante tenga interés de trascender más allá de lo que logra descubrir a lo largo de su tránsito universitario, acompañado de un cuestionamiento, una búsqueda de respuestas y transferencia e inferencia de la información.
Estamos entonces ante una reafirmación de la necesidad de una formación constante dirigida al profesorado universitario (Alcalá del Olmo, 2019; Balladares-Burgos & Valverde-Berrocoso, 2022; Cruz, 2020) que supere la retórica de la formación ocasional y tal vez superficial, para dar paso a una reconciliación efectiva que permita visualizar una nueva forma de abordar lo tecnológico dentro del proceso pedagógico con miras a una mejora de la profesión docente (Bocanegra et al., 2021). Esto ha de asumirse desde la convicción de que nos encontramos ante un fenómeno que, visto a partir del uso de la IA, está reconfigurando un conjunto de elementos que influyen en todas las esferas humanas y, como se ha comentado antes, en el espectro universitario supone una serie de retos, empezando por una imparable dependencia de las plataformas digitales, con lo cual la mediatización de los algoritmos y sus efectos en la competitividad se puede convertir en un punto álgido de discusión crítica (Jaramillo & Montenegro, 2019).
3.3. Codificación axial 3: la IA y la tecnoética
El planteamiento tecnológico contemporáneo comporta una serie de consideraciones que, a propósito de la visibilidad de la IA en todos los campos del quehacer humano (Gordon, 2023), suponen retos que han de verse desde el pensamiento crítico y, por ende, en lo que García-Peñuela (2020) sugiere como »cultura de responsabilidad tecnológica«. Esto incluye el fomento de prácticas éticas enmarcadas en la tecnología y el uso que se haga de ella (Bustos, 2021). Nos encontramos ante un reto de singular importancia, por cuanto la IA no está exenta de sesgos que reproduzcan prácticas que puedan llegar a afianzar diferencias entre las personas y, en el caso del contexto universitario, dichas prácticas estarán presentes en tanto no se llegue a traspasar la permanente necesidad de la competencia digital en la docencia universitaria (Rando, 2021) si se sigue observando desde el utilitarismo tecnológico y no desde la participación de futuros profesionales en la dinámica contemporánea que está determinada en gran medida por la tecnología.
Se ha de comprender que la IA, además de que se presenta como una oportunidad para hacer frente a retos mundiales en los campos de la salud, el bienestar del planeta, el cambio climático y la educación, entre otros (Barrios-Tao et al., 2021), también implica un conjunto de desafíos que desembocan en un profundo cuestionamiento desde lo tecnoético, como el uso de la IA para crear argumentos ideológicos sesgados intencionalmente (Amato, 2019; Rudolph et al., 2023), la creación de contenidos no originales, el procesamiento de información que traspasa los linderos de la intimidad y la privacidad del ser humano, y la mercantilización de la información con fines espurios. Por lo tanto, estamos ante un escenario cuyos efectos no se pueden clasificar de un todo, aunque hay indicios suficientes que permiten ver las prácticas poco éticas al momento de usar la IA.
En particular, en el contexto de la formación universitaria (Cuadra-Martínez et al., 2021; Miranda & Vargas, 2019), la regulación en el uso de la IA debe pasar, sin duda, por un replanteamiento curricular que permita sentar las bases para confirmar que la tecnoética ha de servir para comprender que la IA no puede ser tomada como raíz primigenia e inspiracional del aprendizaje (García-Peñuela, 2020), porque no genera la vinculación necesaria entre los actores activos del proceso pedagógico, con lo cual la IA no puede generar, por ejemplo, inspiración, motivación o análisis crítico tal y como lo haría un docente humano. Por otra parte, la IA carece de conciencia para diferenciar el bien del mal, con lo cual la postura ha de ser que los estudiantes están siendo formados en un contexto tecnológico y han de aprender a usar la tecnología desde un punto de vista beneficioso, pero en ningún caso la IA ha de sustituir la realización original de las actividades (Rudolph et al., 2023); más bien ha de servir como parte de las competencias que deben tener como profesionales del siglo XXI.
En este punto se abre otro foco de discusión que gira en torno al debate sobre la coexistencia entre el ser humano y la IA, es decir, si estas dos entidades están destinadas a la convergencia o a la divergencia. Si bien es cierto que hablamos de inteligencia, es importante entender que esa inteligencia es artificial; por lo tanto, no es natural. Este debate, que se puede asumir desde lo tecnofilosófico y tecnoantropológico, va a estar condicionado por el uso que se haga de la tecnología y el objeto con el que se diseñe, ya que es la intencionalidad del ser humano la que va a determinar hasta qué punto la IA seguirá o pueda seguir estando controlada por la especie humana o si es que nos estamos enfrentando a un nuevo escenario en el que la dinámica humana estará determinada en gran medida por la IA, la cual es fruto de un contexto histórico (Floridi & Chiriatti, 2020).
A propósito de este punto, se pueden plantear dos supuestos que han de estar presentes en la dialéctica argumental sobre la IA: 1) la IA como oportunidad para mejorar la calidad de vida humana presente y futura, y 2) las consecuencias y amenazas que se pueden generar por el uso de la IA, lo cual supondría el desgaste moral de la humanidad. Al parecer, se puede estar obviando el hecho de que la tecnología ya no es neutra; por consiguiente, depende del uso que se haga de ella, pero hay más. En la cultura algorítmica en la que nos encontramos también existe toda una intencionalidad y, aunque parezca un universo alejado de muchas personas, el patrón algorítmico está presente de forma constante y desemboca en una nueva forma de transmisión de una escala de valores predeterminada en la que se visualiza preferentemente lo que se necesita que se sepa; en otras palabras, es una forma de presentar el currículo oculto de la tecnología.
La investigación de Floridi y Chiriatti (2020) plantea un punto que puede servir para avanzar más en torno al debate sobre la tecnoética y la IA al exponer la necesidad de que aquellos sistemas autónomos en los que está presente la IA puedan desde el principio ser diseñados y equipados con valores morales. Esto quiere decir que tanto los algoritmos como los sistemas informáticos que los acompañan ya estén tecnoéticamente diseñados, con el objeto de que el uso ético y moral no sea una lucha que deba enfrentarse, sino que, por decisión, la IA sea compatible con los valores humanos. Esto se debe trabajar desde la regulación y la sistematización de políticas públicas que tengan como objeto el humanismo tecnológico a partir de dos componentes referenciados que pueden inferirse a partir de Juri (2021): 1) la IA debe garantizar un fin ético desde el reconocimiento de los derechos, principios y valores esenciales, 2) la IA debe contar con un dominio técnico desde el que se pueda asegurar su infalibilidad tecnológica y su correcto manejo.
En síntesis, la tecnoética entendida como aquel campo en el que se analizan en profundidad los elementos de corte ético y moral de la tecnología (Vivas, 2018) ha de ser una constante al momento de trabajar el proceso pedagógico desde el contexto universitario y, en particular, desde la esfera de lo ético y crítico-analítico, y este aspecto es el que se presenta como el más complejo, ya que aún falta mucho camino por recorrer en cuanto al trabajo desde lo crítico y analítico en las aulas universitarias. De allí lo determinante del trabajo interdisciplinario desde el reconocimiento de la necesidad de afianzar la idea del humanismo tecnológico (Fernández, 2021; García-Peñuela, 2020; Grané, 2021).
4. Discusión y conclusiones
El auge reciente de la IA ha abierto un nuevo escenario de debate ante la posibilidad real de que la tecnología abarque más espacios humanos de los que era imaginable hace algunos años (Barrios-Tao et al., 2021). Como todos los descubrimientos y avances tecnológicos, en la esfera universitaria también se ha revelado otro punto de revisión y de entendimiento de nuevas lógicas que, de forma imperativa, irrumpen velozmente, mientras que todavía la universidad sigue su perenne lucha por adaptarse a nuevas dinámicas globales (Bonner et al., 2023; Ocaña-Fernández et al., 2019).
En este panorama, y como una suerte de encrucijada de saberes, de acuerdo con Aparicio-Gómez (2023), así como con Ayuso del Puerto y Gutiérrez-Esteban (2022), la pedagogía, desde una visión tecnopedagógica, está llamada a recrear y refundar un corpus dialéctico y teórico que siente las bases de una futura realidad que necesita una redefinición de los modelos pedagógicos. Esta redefinición debe considerar que las personas ya no aprenden como antes y que la velocidad de los cambios y la obsolescencia tan rápida del conocimiento deben servir para que la universidad vuelva a iniciar un profundo proceso crítico y reflexivo, para que el proceso pedagógico enmarcado en el contexto universitario (Salmerón et al., 2023) se pueda mejorar y readaptarse ante una población tanto de estudiantes como de profesores que requieren asumir una nueva postura ante la tecnología y su uso (Chávez et al., 2024; Rando, 2021).
Tal y como se puede inferir de Cotrina-Aliaga et al. (2021), la IA está incrementando su radio de acción y su aplicación en todos los campos del quehacer humano está cada vez más presente, y es innegable que ya está en las aulas universitarias (Norman Acevedo, 2023). Por lo tanto, la tecnodidáctica vista como algo tangible y ejecutable debería perfilar la identidad didáctica de la universidad contemporánea. Una de las aplicaciones más destacadas de la IA en pedagogía es la adaptación del contenido y la enseñanza a las necesidades individuales de los estudiantes. Los sistemas de IA pueden analizar el progreso y el rendimiento de cada estudiante de manera individualizada, al identificar áreas de fortaleza y debilidad, y adaptar en consecuencia el contenido y las actividades de aprendizaje. Esto permite que los estudiantes avancen a su propio ritmo y reciban la atención y el apoyo que necesitan en áreas específicas.
Si bien es cierto que la IA ofrece muchas posibilidades para redefinir los procesos educativos contemporáneos en la universidad (Stojanov, 2023; Vega et al., 2023), también supone un conjunto de riesgos que han de ser reconocidos en virtud de las nuevas lógicas de entendimiento que se van generando mientras el auge de esa IA incrementa su posible impacto (Muñoz & Márquez, 2023; Rodríguez et al., 2023). Esos posibles riesgos se pueden sintetizar a partir de los siguientes elementos:
- Sesgo algorítmico: los algoritmos de IA pueden estar sesgados debido a los datos de entrenamiento utilizados para desarrollarlos. Esto se puede traducir en decisiones discriminatorias o exclusiones involuntarias, en particular, en áreas como la evaluación del aprendizaje o la selección de contenido educativo.
- Posible ausencia de personalización: aunque la IA se presenta como una herramienta para la personalización del aprendizaje, algunas críticas giran en torno a que la personalización generada por algoritmos puede ser superficial y no abordar las necesidades únicas de cada estudiante de manera efectiva.
- Dependencia tecnológica: la implementación no controlada de la IA en la universidad podría generar una dependencia excesiva de la tecnología y disminuir la importancia de la interacción humana en el proceso educativo. Esto podría afectar el desarrollo de habilidades sociales y emocionales en los estudiantes y docentes universitarios.
- Privacidad, seguridad y protección de los datos: la recopilación y el análisis de datos por parte de sistemas de IA plantean importantes preocupaciones sobre la privacidad y la seguridad de la información del estudiante. Los datos confidenciales podrían ser vulnerables a filtraciones o a su uso inadecuado.
- Posible falta de transparencia: los algoritmos de IA suelen operar de una forma no del todo comprensible para las personas, lo que significa que sus procesos de toma de decisiones no son completamente entendibles. Esto puede generar desconfianza y dificultar la evaluación de la validez e imparcialidad de las decisiones tomadas por dichos sistemas.
- Equidad y accesibilidad: la implementación de tecnologías de IA en la educación universitaria podría ampliar la brecha digital y socioeconómica si no se abordan de forma adecuada las disparidades de acceso y habilidades entre los estudiantes. Aquellos que carecen de acceso a dispositivos tecnológicos o conexiones confiables a internet podrían quedar excluidos en un entorno cada vez más digitalizado cuyo principal elemento es el acceso a la información.
A lo largo del proceso de análisis y revisión de la literatura científica se ha logrado identificar un punto en común, y es que ya no resulta tan útil hablar de competencia digital docente, sino de una formación permanente y actualizada que potencie esa competencia docente (Amato, 2019; Bocanegra et al., 2021; Choque, 2008). Esto pasa por instaurar políticas institucionales para tal fin; sin embargo, ¿cómo se puede inducir a un docente universitario para que se sumerja en una nueva manera de ejercer su enseñanza universitaria si todavía el peso de la tradición condiciona en gran medida la actualización didáctica? (Choque, 2008; Vera, 2023). La universidad no puede continuar dedicando esfuerzos a construir una buena posición en los rankings mundiales mientras se espera una mejora en la personalización de las enseñanzas universitarias que, en este caso, se reconoce como una inclinación a observar una oportunidad importante con la IA con miras a una mejora en la relación que se genera en las aulas bajo el subterfugio de aprender juntos (Muñoz & Márquez, 2023).
Otro de los aspectos a los que se puede desembocar a modo de conclusión es lo referente a la tecnoética y la IA. De acuerdo con Gordon (2023), el desarrollo de la IA incluye una programación no neutra y deliberada de los algoritmos; en otras palabras, se comprende que esos algoritmos; están desarrollados por personas que tienen sus propias convicciones y que, en algún momento, dichas convicciones pueden entenderse como ideas poco compatibles con la búsqueda de la humanización tecnológica (Fernández, 2021; Grané, 2021), tal y como se desprende de las ideas expuestas por Bonner et al. (2023). Además, el uso indebido de la IA en la esfera universitaria puede traer consigo la aparición de prácticas no éticas, por ejemplo, al elaborar una aportación, un texto o alguna intervención que de forma errónea el usuario toma como válida sin tener el criterio para determinar si lo generado en esa IA es correcto o se corresponde con una respuesta válida. Siguiendo a Floridi & Chiriatti (2020), ¿se ha de evaluar la entrega de una aportación por parte de estudiantes o investigadores?, ¿se ha de evaluar la forma en que se presenta o se argumenta dicha aportación?
A este respecto, la tecnoética ha de convertirse en el factor clave al momento de desarrollar todo lo relativo a la implantación de la IA y sus posibles efectos en todos los campos, incluido el contexto universitario (Muñoz & Márquez, 2023; Rudolph et al., 2023; Urretavizcaya & Onaindía, 2002). Se necesita fomentar lo tecnoética lo antes posible, siempre visualizando que el escenario tecnológico cambia constantemente y es por eso que un nuevo planteamiento curricular debe estar lejos de una ralentización procesal que pueda entorpecer su reorientación ante los nuevos retos que supone el creciente desarrollo de la IA. Otra área en la que la IA está dejando su huella es en la evaluación del aprendizaje. Los sistemas de IA pueden analizar grandes cantidades de datos para evaluar el progreso de los estudiantes, identificar patrones de aprendizaje y predecir resultados futuros. Esto puede ayudar a los docentes universitarios a tomar decisiones más informadas sobre cómo personalizar la enseñanza para maximizar el éxito del estudiante (Miranda & Vargas, 2019). Sin embargo, es importante tener en cuenta que la integración de la IA en la pedagogía también plantea desafíos y preocupaciones. Por ejemplo, la privacidad de los datos y la equidad en el acceso son cuestiones cruciales que se deben abordar para garantizar que la IA se utilice de manera ética y responsable en el ámbito educativo (González-González, 2023).
Ante estas perspectivas, se abren muchos frentes como posibilidad de investigaciones en torno a los siguientes puntos: a) la IA en las políticas públicas educativas, b) experiencias de aprendizaje con IA, c) la tecnoética en la generación de algoritmos, d) la ecología del aprendizaje en el contexto virtual universitario, e) la evaluación del aprendizaje y la IA, f) el diseño tecnopedagógico de las titulaciones universitarias, g) el seguimiento de la formación en competencia digital del profesorado universitario y su efecto en la mejora del proceso pedagógico universitario.
Finalmente, el carácter emergente y creciente de la IA demanda una postura crítica, analítica y constructiva de la universidad para que pueda generar conocimiento que sirva de soporte en todas las áreas o campos de estudio transiten hacia un nuevo paradigma formativo que permita reconciliar los avances tecnológicos con la ética respectiva. Esto sin perder de vista que la motivación, inspiración e implicación ante la experiencia de aprender solo es posible entre los humanos, y la IA solo estará para registrar la vinculación entre los propios actores activos del proceso pedagógico.
Referencias bibliográficas
Alcalá del Olmo, M. (2019). Identidad profesional y formación del docente universitario: retos e incertidumbres. Márgenes, Revista de Educación de la Universidad de Málaga, 0(0), 18-37. http://dx.doi.org/10.24310/mgnmar.v0i0.6201
Amato, A. (2019). Algoritmi e big data. Dalla carta sulla robotica. Rivista di filosofia del diritto, Journal of Legal Philosophy, 8(1), 107-124. https://r.issu.edu.do/mW
Aparicio-Gómez, W. (2023). La inteligencia artificial y su incidencia en la educación: Transformando el aprendizaje para el siglo XXI. Revista Internacional de Pedagogía e Innovación Educativa, 3(2), 217-229. https://doi.org/10.51660/ripie.v3i2.133
Ayuso-del Puerto, D., & Gutiérrez-Esteban, P. (2022). La Inteligencia Artificial como recurso educativo durante la formación inicial del profesorado. RIED-Revista Iberoamericana de Educación a Distancia, 25(2), 347-358. https://doi.org/10.5944/ried.25.2.32332
Balladares-Burgos, J., & Valverde-Berrocoso, J. (2022). El modelo tecnope-dagógico TPACK y su incidencia en la formación docente: una revisión de la literatura. RECIE. Revista Caribeña de Investigación Educativa, 6(1), 63-72. https://doi.org/10.32541/recie.2022.v6i1.pp63-72
Barrios-Tao, H., Díaz, V., & Guerra, Y. (2021). Propósitos de la educación frente a desarrollos de inteligencia artificial. Cadernos de Pesquisa, 51, 1-18. https://doi.org/10.1590/198053147767
Bocanegra, B., Tantachuco, J., & Caballero, N. (2021). Desempeño docente y pensamiento crítico en la formación universitaria. Boletín Redipe, 10(2), 65-77. https://r.issu.edu.do/Ry
Bonner, E., Lege, R., & Frazier, E. (2023). Large Language Model-Based Artificial Intelligence in the Language Classroom: Practical Ideas for Teaching. Teaching English with Technology, 23(1), 23-41. https://doi.org/10.56297/BKAM1691/WIEO1749
Bustos, K. (2021). Ética y TIC: Algunas reflexiones sobre el rol de los educadores. Apuntes Universitarios, 11(2), 83-92. https://doi.org/10.17162/au.v11i2.633
Campione, R. (2021). Recopilar y vigilar: algunas consideraciones filosófico-jurídicas sobre inteligencia artificial. Sociología y Tecnociencia, 11, 123-139. https://doi.org/10.24197/st.Extra_2.2021.123-139
Chávez, G., Castro, J., Ibarra, M., & Tobar, Y. (2024). La inteligencia artificial en la educación superior: oportunidades y amenazas. RECIAMUC, 8(1), 71-79. https://r.issu.edu.do/tG
Choque, M. (2008). Técnicas de la Inteligencia Artificial Aplicadas a la Educación. Revista de Información, Tecnología y Sociedad, 40, 34-36. https://r.issu.edu.do/8J
Comisión Europea. (2020). Libro blanco sobre la Inteligencia Artificial: un enfoque europeo de la excelencia y la confianza. https://r.issu.edu.do/KG
Cotrina-Aliaga, J., Vera-Flores, M., Ortiz-Cotrina, W., & Sosa-Celi, P. (2021). Uso de la Inteligencia Artificial (IA) como estrategia en la educación superior. Revista Iberoamericana de la Educación, 1, 1-11. https://doi.org/10.31876/ie.vi.81
Cruz, M. (2020). Formación continua del docente como factor de la calidad educativa universitaria. Revista Científica Internacional, 3(1), 73-79. https://doi.org/10.46734/revcientifica.v3i1.21
Cuadra-Martínez, D., Castro-Carrasco, P., Oyanadel, C., & González-Palta, I. (2021). Identidad profesional docente en la formación universitaria: una revisión sistemática de estudios cualitativos. Formación Universitaria, 14(4), 79-92. http://dx.doi.org/10.4067/S0718-50062021000400079
Fajardo, G., Ayala, D., Arroba, E., & López, M. (2023). Inteligencia artificial y la educación universitaria: Una revisión sistemática. Magazine de las Ciencias: Revista de Investigación e Innovación, 8(1), 109-131. https://doi.org/10.33262/rmc.v8i1.2935
Fernández, J. (2021). Hacia el Humanismo Digital desde un denominador común para la Cíber Ética y la Ética de la Inteligencia Artificial. Disputatio. Philosophical Research Bulletin, 10(17), 107-130. https://n9.cl/f16y0
Floridi, L., & Chiriatti, M. (2020). GPT-3: Its Nature, Scope, Limits, and Consequences. Minds and Machines, 30, 681-694. https://doi.org/10.1007/s11023-020-09548-1
García-Villarroel, J. (2021). Implicancia de la inteligencia artificial en las aulas virtuales para la educación superior. Orbis Tertius-UPAL, 5(10), 31-52. https://doi.org/10.59748/ot.v5i10.98
García-Peñuela, E. (2020). Posthumanismo y tecnoética. Ábaco, (103), 108-117. https://acortar.link/7dQwNn
González-González, C. (2023). El impacto de la inteligencia artificial en la educación: transformación de la forma de enseñar y de aprender. Revista Qurriculum, 36, 51-60. https://doi.org/10.25145/j.qurricul.2023.36.03
Gordon, R. (2023). Chatbots e inteligencia artificial: aportes, innovaciones y aplicación en el desarrollo de sistemas de información empresarial. Visión Antataura, 7(1), 132-147. https://doi.org/10.48204/j.vian.v7n1.a3930
Grané, J. (2021). ¿Jaque mate digital a la humanidad? Educar humanos y resiliar en la era de la inteligencia artificial. Dedica. Revista de Educação e Humanidades, (18), 2-24. https://n9.cl/64pgj
Hernández-Sampieri, R., Fernández Collado, C., & Baptista Lucio, P. (2014). Metodología de la investigación. McGraw-Hill.
Jaramillo, D., & Montenegro, D. (2019). De la Inteligencia Artificial al juego de los dioses. ComHumanitas: Revista Científica de Comunicación, 10(3), 85-106. https://doi.org/10.31207/rch.v10i3.210
Juri, Y. (2021). Inteligencia artificial y dignidad humana: Los desafíos para el derecho. Revista Justicia & Derecho, 4(2), 1-12. https://r.issu.edu.do/Ua
Lopezosa, C., & Codina, L. (2023). ChatGPT y software CAQDAS para el análisis cualitativo de entrevistas: pasos para combinar la inteligencia artificial de OpenAI con ATLAS.ti, Nvivo y MAXQDA. Departamento de Comunicación. Serie Editorial DigiDoc. http://hdl.handle.net/10230/55477
Martínez-Corona, J., Palacios-Almón, G., & Oliva-Garza, D. (2023). Guía para la revisión y el análisis documental: propuesta desde el enfoque investigativo. Ra Ximhai, 19(1), 67-83. https://n9.cl/5far1
Miranda, G., & Vargas, M. (2019). Identidad profesional y formación docente universitaria: Un proceso en construcción desde la mirada del estudiantado. Actualidades Investigativas en Educación, 19(1), 196-215. https://dx.doi.org/10.15517/aie.v19i1.35379
Muñoz, A., & Márquez, M. (2023). La inteligencia artificial: ¿amenaza u oportunidad? Una reflexión desde la medicina, la educación y el derecho. Ágora Revista Virtual de Estudiantes, (16), 195-202. https://n9.cl/dgjgr
Norman-Acevedo, E. (2023). La inteligencia artificial en la educación: una herramienta valiosa para los tutores virtuales universitarios y profesores universitarios. Panorama, 17(32), 1-11. https://doi.org/10.15765/pnrm.v17i32.3681
Ocaña-Fernández, Y., Valenzuela-Fernández, L., & Garro-Aburto, L. (2019). Inteligencia artificial y sus implicaciones en la educación superior. Propósitos y representaciones, 7(2), 536-568. https://dx.doi.org/10.20511/pyr2019.v7n2.274
Peñaherrera, W., Cunuhay, W., Nata, D., & Moreira, L. (2022). Implementación de la Inteligencia Artificial (IA) como recurso educativo. Recimundo, 6(2), 402-413. https://doi.org/10.26820/recimundo/6.(2).abr.2022.402-413
Piñero, L. & Perozo, L. (2021). Enfoque de no escisión en la investigación cualitativa. Orbis. Revista científica Ciencias Humanas, 17(50), 5-16. https://r.issu.edu.do/lJ
Quiroz, C., & Franco, D. (2019). Relación entre la formación docente y el rendimiento académico de los estudiantes universitarios. Educación, 28(55), 166-181. https://dx.doi.org/10.18800/educacion.201902.008
Rando, E. (2021). La necesaria formación del profesorado universitario ante la docencia virtual. Revista Jurídica de Investigación e Innovación Educativa (REJIE Nueva Época), (24), 47-56. https://r.issu.edu.do/Ey
Rodríguez, Á., Orozco, K., García, J., Rodríguez, S., & Barros, H. (2023). La Implementación de la Inteligencia Artificial en la Educación: Análisis Sistemático. Dominio de las Ciencias, 9(3), 2162-2178. https://n9.cl/vcvpj
Rudolph, J., Tan, S., & Tan, S. (2023). ChatGPT: Bullshit spewer or the end of traditional assessments in higher education? Journal of applied learning and teaching, 6(1), 342-363. https://doi.org/10.37074/jalt.2023.6.1.9
Salmerón, Y., Luna Álvarez, H., Murillo Encarnación, W., & Pacheco Gómez, V. (2023). El futuro de la Inteligencia Artificial para la educación en las instituciones de Educación Superior. Conrado, 19(93), 27-34. https://n9.cl/309ik
Sánchez, M., & Carbajal, E. (2023). La inteligencia artificial generativa y la educación universitaria. Perfiles Educativos, 45, 70-86. https://doi.org/10.22201/iisue.24486167e.2023.Especial.61692
Stojanov, A. (2023). Learning with ChatGPT 3.5 as a more knowledgeable other: An autoethnographic study. International Journal of Educational Technology in Higher Education, 20(1), 1-17. https://doi.org/10.1186/s41239-023-00404-7
Toledo-Lara, G. (2021). Pedagogías emergentes: una aproximación exploratoria. Revista Aposta, (91), 98-113. https://n9.cl/9y52q
Urretavizcaya, M., & Onaindía, E. (2002). Docencia Universitaria de Inteligencia Artificial. Inteligencia Artificial. Revista Iberoamericana de Inteligencia Artificial, 6(17), 23-32. http://www.redalyc.org/articulo.oa?id=92501702
Vega, J., Borja Gómez, E., & Ramírez Álvarez, P. (2023). ChatGPT e inteligencia artificial: ¿obstáculo o ventaja para la educación médica superior? Educación Médica Superior, 37(2), 1-2. https://n9.cl/32f9p
Vera, F. (2023). Integración de la Inteligencia Artificial en la educación superior: Desafíos y oportunidades. Transformar, 4(1), 17-34. https://r.issu.edu.do/gL
Vivas, W. (2018). Uso seguro y responsable de las TIC: una aproximación desde la tecnoética. Ciencia, Docencia y Tecnología, 29(57), 235-255. https://n9.cl/7chb2
Contribución de autores
Conceptualización; metodología; software; validación; análisis formal; investigación; recursos; curaduría de datos; escritura (borrador original); escritura (revisión y edición); visualización; supervisión; administración del proyecto: T.G.