Conferencia de Directores y Decanos de Ingeniería Informática

El ChatGPT llega a la Universidad

El Diari Digital de la Universitat Rovira i Virgili (URV) publicó el pasado lunes, 30 de enero, un artículo sobre el ChatGPT en las universidades. Os dejamos aquí la noticia.

El ChatGPT ha puesto a prueba a los estudiantes de primero del grado en Ingeniería Matemática y Física de la URV. De hecho, ha sido el profesor de matemática aplicada Manel Sanromà quien les ha puesto a prueba sirviéndose de esta herramienta de inteligencia artificial (IA) que está copando las noticias y las conversaciones, especialmente del profesorado, y que se basa en un modelo de lenguaje que utiliza el aprendizaje profundo para producir textos similares a los que podría redactar una persona humana. Sanromà afirma que la aparición de este sistema le generó la misma sensación de estar frente a un elemento de disrupción que la aparición de Internet, y considera que las organizaciones educativas “no pueden darle la espalda”.

Por eso este profesor ya ha empezado a probarlo y decidió integrarlo en el examen de sus estudiantes de Álgebra Lineal, la base matemática del aprendizaje de máquinas, que es la tecnología que está en el corazón de la explosión de la Inteligencia Artificial (AI), como el famoso algoritmo de Google. El profesor le pidió al ChatGPT que elaborara cuatro afirmaciones sobre independencia lineal de vectores, dos de las cuales debían ser verdaderas y dos falsas. Y los estudiantes debían razonar en qué afirmaciones acertó y en cuáles se había equivocado la máquina.

Preguntado por cómo afectará el ChatGPT a la docencia que se imparte en las universidades, el mismo chat enumera otras tres ventajas además de la generación automática de preguntas y respuestas: la creación de materiales educativos; la corrección automática de exámenes, y la asistencia en tiempo real para los estudiantes. ¿Pero esto puede cambiar el día a día de los estudiantes y de los docentes e investigadores?

Para empezar, Sanromà aventura que «en cuestión de semanas, Bing (el buscador de Microsoft) incorporará la respuesta ya elaborada a las búsquedas y Google puede pasar de ser el monopolio de búsqueda a ser el segundo o tercer buscador». También prevé que el paquete de software Microsoft 365 “incorporará el nuevo sistema a las aplicaciones y podremos pedirles que elaboren el contenido que queramos en lenguaje natural. Por ejemplo, un Power Point podrá generar una presentación del tema que le pedimos en el número de diapositivas que le indiquemos”.

Ahora bien, ¿son suficientemente fiables las respuestas que muestra este chat para ser utilizadas en contextos educativos e incluso en el ámbito de la investigación? Antonio Moreno, catedrático de lenguajes y sistemas informáticos experto en lógicas para la IA, especifica que el ChatGPT “no es una base de conocimiento con complejos mecanismos de inferencia asociados, ni una herramienta a la que le hagas una pregunta y vaya a la web a buscar la posible respuesta, sino que es simplemente un modelo de lenguaje. Eso sí, sofisticado.”

De ahí que la máquina sólo acertara una afirmación de las cuatro que generó en la pregunta de examen que le pidió Sanromà, porque “el algoritmo no tiene ninguna idea de su validez lógica. Es un generador de frases correctas, a partir del texto que introducimos y del aprendizaje que ha tenido”. El ChatGPT le da la razón y puntualiza que «se requiere una implementación cuidadosa y una evaluación continua para asegurar que esta tecnología se utilice de manera efectiva y ética.»

En este sentido, Marta Sales, catedrática de física experta en análisis y predicción de datos, considera que “el mayor peligro es que esta herramienta se convierta en la fuente principal de información. Es útil pero debes saber aplicar el pensamiento crítico y contrastar la información que te ha proporcionado.” Sanromà coincide en que es “vital enseñar espíritu crítico.” De hecho, “el rol del profesor será enseñar a verificar lo que dice la máquina y provocar a los estudiantes: ¿Qué es verdadero? ¿Qué es falso? Las clases serán más divertidas”, afirma.

El profesor de seguridad en redes y comisionado de Gobierno Abierto y TIC de la URV, Jordi Castellà, va un poco más allá y reflexiona sobre el posible uso indebido de la herramienta para superar las evaluaciones y qué hacer en caso de conflicto. Ve «complicado» demostrar con evidencias cuándo se ha utilizado, por eso valora más factible «hacer las pruebas evaluativas en entornos controlados donde se garantice que la respuesta proviene del estudiante». Sin embargo, concluye que si bien estos sistemas “pueden facilitar mucho más el plagio o comportamientos reprobables por parte de los estudiantes, utilizarlos con esta finalidad va en su contra porque su objetivo ya no sería aprender, sino superar la evaluación.”

Según Sanromà, la herramienta también afectará a la investigación: «Los artículos científicos los escribirá la máquina y tú tendrás que modularlos». Marta Sales considera, sin embargo, que para escribir revisiones y contexto de los proyectos de investigación «puede ser inspirador» pero «no servirá si haces investigación innovadora o investigas cuestiones que nunca ha hecho nadie».

Moreno tiene una opinión similar: “Yo aconsejaría a cualquier investigador de cualquier área que esté atento a los avances en el tema, pero si utiliza ChatGPT ahora mismo, que sea consciente de los mecanismos que tiene detrás y, por tanto, de lo que puede o no puede esperarse de él.” Su grupo de investigación, ITAKA, diseña nuevos mecanismos de análisis inteligente de datos o de apoyo a la toma de decisiones, y después los aplican a diferentes dominios como medicina, turismo, comunicación o lingüística. Y si bien es consciente de que sistemas como ChatGPT «son ahora muy populares porque son muy aparentes, gratuitos y accesibles por el gran público», tiene claro que «aparecerán sistemas mejores y más avanzados.»

Esto afirma el mismo chat cuando le hemos preguntado: «Los investigadores están trabajando constantemente en mejorar las capacidades de los sistemas de IA, como el aprendizaje automático, el procesamiento del lenguaje natural y la comprensión del contexto». Pero no supo precisar. “Es difícil predecir con precisión cuándo se desarrollarán sistemas mejores y más avanzados que el ChatGPT. El avance de la tecnología de inteligencia artificial dependerá de la inversión en investigación y desarrollo, así como de la velocidad de progreso de la comunidad científica.”

Fuente original: Universitat Rovira i Virgili