El rector de UNIR y el director de UNIR iTED presentan la ‘Declaración UNIR sobre un uso ético de la IA en Educación Superior’, que recoge principios como los de Transparencia, Supervisión o Trazabilidad, con el objetivo de ayudar a establecer un marco común de actuación en las instituciones educativas.

“Para garantizar un uso ético de la inteligencia artificial es importante contar con una supervisión humana. Es decir, que la IA no sea plenamente automática, sino que sea una persona quien tome las decisiones. La responsabilidad final siempre ha de ser nuestra, pues la ética es nuestra”, afirmó Daniel Burgos, director del Instituto de Investigación, Innovación y Tecnologías Educativas (UNIR iTED), durante la presentación de la ‘Declaración UNIR sobre un uso ético de la IA en Educación Superior’ celebrada hoy en el Auditorio de la Universidad Internacional de La Rioja en Logroño.

La Declaración tiene como objetivo sentar unas bases de consenso que guíen a todos los actores que forman parte del grupo Proeduca (profesores, estudiantes, personal de gestión, junta de gobierno, investigadores, etc.) en el uso, la aplicación e incluso en el desarrollo de soluciones basadas en IA.

Incluye un decálogo de directrices que puede servir de ayuda a otros centros educativos, como punto de partida para alcanzar un compromiso en torno a un uso ético de la IA en la educación, adecuándose a unos principios de Equidad, Contribución Social, Transparencia o Trazabilidad, entre otros.

“La IA y su aplicación en el aprendizaje y la investigación es un asunto que preocupa a las instituciones de Educación Superior. De hecho, en la próxima reunión de la Conferencia de Rectores en Santiago el abordaje integral de la aplicación de esta tecnología en las universidades va a ser un tema nuclear”, indicó José María Vázquez García-Peñuela, rector de UNIR, durante la presentación.

“Los especialistas en el campo científico, técnico y ético de UNIR y Proeduca han elaborado este decálogo sobre el uso ético de la IA en investigación y enseñanza en el ámbito de la Educación Superior, que ofrecemos a otras universidades como documento de ayuda y de reflexión”, agregó el rector.

Conciliar la IA con la realidad de los centros

Los centros educativos deben adaptarse a las necesidades de un mundo en constante desarrollo y enfrentar el reto de conciliar los aspectos más provechosos de la IA con la realidad docente e investigadora, evitando efectos negativos, como la introducción de sesgos y la potencial intromisión en la privacidad.

Por el momento, es responsabilidad (y voluntad) de cada institución delimitar el marco de influencia de las tecnologías IA en su ámbito concreto y de auto auditarse, si así lo desea, en la aplicación y respeto por el mismo.

Avance de la IA generativa

Durante la presentación, Burgos, vicerrector de Proyectos Internacionales de UNIR, se refirió al desarrollo de la inteligencia artificial generativa como el acicate en la elaboración de la ‘Declaración UNIR sobre un uso ético de la IA en Educación Superior’.

“La IA generativa permite un grado de autonomía sin precedentes. Sin duda, la inteligencia artificial favorece los procesos de enseñanza y aprendizaje, por ello nos hemos visto motivados para preparar este marco, que integra los principios tecnológicos y éticos. No quisimos centrarnos en el utilitarismo de una u otra herramienta, sino aportar las bases para un compromiso para el uso responsable y ético de la IA en todas las fases y componentes del proceso educativo, desde los estudiantes a profesores y gestores universitarios”, explicó Burgos.

El documento refleja las preocupaciones que expertos e investigadores universitarios internacionales manifiestan en los foros de trabajo en los que Burgos participa como director de UNIR iTED: “Todos tenemos una serie de inquietudes similares y esta aportación puede servirnos como punto de partida para dialogar con otras instituciones internacionales de forma abierta”.

Desafíos para la educación

La Declaración recoge principios como el de Supervisión, que aboga por “mantener el uso, la configuración y la implementación de la IA de forma completamente controlada por personal competente, sin delegar la toma de decisiones en sistemas de IA completamente automatizados”.

También el principio de Transparencia, para garantizar que “los datos están protegidos y son siempre accesibles para el propietario”, según Burgos. O el de Trazabilidad, para permitir la identificación de los contenidos generados por IA, ya sean imágenes, vídeos o textos, evitando así “plagios en las fuentes de consulta”, como señaló el vicerrector.

Burgos se refirió también a algunos de los desafíos que presenta esta tecnología en el campo de la educación: “El profesor ya no solo tiene que dar clase, ahora además es un verificador de plagios. Esto no es nuevo, hace 20 años ya existían portales a través de los que descargar trabajos. Los profesores ya disponen de motores anti-plagio que les ayudan a comprobar cuando se trata de una cita o directamente de una copia. Con la IA, ocurre igual: tenemos que comprobar que el contenido lo ha generado una persona y no una máquina. Ya existe un software para ello, la diferencia es que vamos a usar la misma máquina para detectar el plagio o las fuentes sospechosas de la propia máquina”.

En este punto, reivindicó Burgos que “lo que tenemos que trasladar, y a esto obedece el principio de Ética en la Declaración, es que lo que importa realmente somos nosotros. Si tenemos un buen armazón ético no vamos a caer en este tipo de prácticas”.

Fuente: UNIR