Conferencia de Directores y Decanos de Ingeniería Informática

Mensajes etiquetados chatgpt

El Huffington Post hace balance de la revolución que ha supuesto en 2023 la IA Generativa y sus retos

Poco más de un año después de que la gente conociera de primera mano lo que significa y puede hacer la inteligencia artificial (IA), a través de ChatGPT, la herramienta continúa desarrollándose y a lo largo de 2023 ha logrado unos avances que pocos podían presagiar en un período tan corto de tiempo.

La aplicación salió a la luz en noviembre de 2022 y provocó una auténtica revolución en muchos sectores. En poco más de 12 meses, ya acumula más de 100 millones de consumidores en todo el mundo.

La herramienta desarrollada por la compañía norteamericana OpenAI ha crecido tanto no sólo fuera de nuestras fronteras. En España ya hay cuatro millones de personas que han hecho uso de sus servicios, según los datos facilitados por la empresa GfK.

Noticia completa: The Huffington Post

Jordi Torres: “La IA aún no tiene conciencia ni sentido común”

Siri, Alexa, Google, Twitter o Amazon, y ahora también Chat GPT o Gemini , son los nombres propios de la inteligencia artificial que está en nuestros móviles y casas.

Noticia completa: La Vanguardia

“El sistema falla donde menos te lo esperas”. Así evaluaron GPT-4 estos dos españoles por encargo de OpenAI

“El sistema falla donde menos te lo esperas”. Así evaluaron GPT-4 estos dos españoles por encargo de OpenAI José Hernández-Orallo y Cèsar Ferri, ambos investigadores de inteligencia artificial en la UPV, pertenecieron al grupo de apenas 40 personas seleccionadas para evaluar la actual versión de pago de ChatGPT.

En el verano de 2022, los que buceaban en las aguas más profundas de la inteligencia artificial —investigadores, empleados del sector, directores de IA en empresas— sabían bien que OpenAI preparaba el lanzamiento de su siguiente GPT (su modelo de lenguaje o LLM). Pero no se conocían detalles. Ni cuándo sería, ni quién tendría acceso, ni qué capacidades nuevas demostraría respecto a la versión anterior, GPT-3, de uso restringido.

Así estaban José Hernández-Orallo y Cèsar Ferri cuando en septiembre, Lama Ahmad, investigadora de políticas en OpenAI, les propuso formar parte del equipo externo que evaluaría GPT-4. Hernández-Orallo y Ferri, ambos catedráticos del departamento de Sistemas Informáticos y Computación de la Universitat Politècnica de València (UPV), pertenecen al mismo grupo de investigación y tienen una amplia experiencia en evaluación de sistemas de inteligencia artificial. Quizá por eso se cuentan entre las poco más de 40 personas que OpenAI seleccionó en todo el mundo para probar su nuevo modelo de lenguaje.

El objetivo era encontrar fallas en el sistema durante los seis meses anteriores al lanzamiento, en marzo de 2023. “Ya desde GPT-3 nos han dado acceso siempre a sus sistemas de manera gratuita, a veces antes del lanzamiento, para hacer investigación”, indica Hernández-Orallo, que colabora con OpenAI desde hace cuatro años y destaca la buena comunicación entre la empresa y los investigadores que quieren analizar sus sistemas.

El año pasado, ese verano en que se rumoreaba la llegada del próximo GPT, el acercamiento se estrechó. Los investigadores de la UPV organizaron un taller dentro de la Conferencia conjunta internacional sobre inteligencia artificial, uno de los eventos de inteligencia artificial más prestigiosos del año, y allí conocieron a más gente de OpenAI. Recibieron su llamada en septiembre.

Noticia completa: El País

La regulación de la inteligencia artificial se acelera después de que controle ya todos los ámbitos

La inteligencia artificial (IA) se ha metido en nuestras vidas de forma vertiginosa (hace menos de un año de la irrupción de ChatGPT) y dirige ya, sin que nos demos cuenta, casi todas las actividades cotidianas, desde las películas que vemos hasta nuestro trabajo, compras o relaciones. Un estudio sobre su uso en objetivos de sostenibilidad, publicado en Nature, detectó que entre el 70% y el 80% de los usos tienen consecuencias positivas, pero el resto de los efectos pueden ser negativos. Estos porcentajes son extrapolables a otras áreas y ambos son cruciales porque afectan a las vidas, a la salud, a la convivencia, a la democracia o a la capacidad de desarrollo. Hasta ahora solo había principios éticos insuficientes. El presidente de EE UU, Joe Biden, acaba de firmar un decreto que obliga a las tecnológicas a notificar al Gobierno cualquier avance que suponga un “riesgo grave para la seguridad nacional”. El primer ministro británico, Rishi Sunak, ha convocado este miércoles y jueves una cumbre de la que ha surgido el primer compromiso de 28 países y de la UE sobre estos sistemas (Declaración de Bletchley) y la creación de un grupo de expertos para el seguimiento de sus avances. La Unión Europea ultima su propia norma: la AI Act. La vicepresidenta primera del Gobierno en funciones y ministra de Asuntos Económicos y Transformación Digital, Nadia Calviño, estima que se aprobará en las próximas semanas.

Noticia completa: El País

Ciclo de conferencias sobre ChatGPT en la Escuela de Informática de Ciudad Real

La Escuela Superior de Informática (ESI) de Ciudad Real ha organizado un nuevo ciclo de conferencias con las que busca complementar la formación reglada en Ingeniería Informática que imparte (grado, máster y doctorado) y, paralelamente, abordar la actualidad científico-tecnológica, sus retos y posibilidades, con el propósito de acercar la disciplina a la sociedad. En esta edición se abordarán contenidos relacionados con la inteligencia artificial (IA), la ciberseguridad y el hackingético, los lenguajes generativos (como Chat-GPT) y la responsabilidad en su desarrollo y uso, y la gobernanza de intangibles en las empresas, como la reputación, la innovación y el talento.

Noticia completa: Nova Ciencia

Giancarlo Guizzardi: «Chat GPT inventa lo que no sabe de manera muy convincente»

Este experto en computación participa en el congreso de ingeniería de sistemas de información que se celebra en Zaragoza.

Giancarlo Guizzardi nació en Vitória (Brasil), en 1975 y actualmente es Catedrático en Ciencias de la Computación en la Universidad de Twente, en los Países Bajos, y también profesor invitado de Ciencias de la Computación en la Universidad de Estocolmo, en Suecia.

Noticia completa: El Heraldo

Entrevista a Ricardo J. Rodríguez, profesor del Departamento de Informática e Ingeniería de Sistemas de la Universidad de Zaragoza sobre IA

ChatGPT la ha popularizado pero lo cierto es que la inteligencia artificial, también conocida por sus siglas IA, forma parte de nuestras vidas desde hace ya tiempo, mucho más de lo que nos imaginamos. Asistentes virtuales como Alexa o Siri, motores de búsqueda como Google, drones, robots aspiradores o relojes inteligentes, son solo algunos ejemplos de lo que esta tecnología hace por nosotros en nuestra vida cotidiana.

Pero, ¿qué es exactamente la inteligencia Artificial y cómo funciona? Ricardo J. Rodríguez, profesor del Departamento de Informática e Ingeniería de Sistemas de la Universidad de Zaragoza, explica que la IA es «la capacidad que tienen las máquinas de imitar la manera en la que los seres humanos pensamos y aprendemos».

«Gracias a un gran volumen de datos y a unos algoritmos avanzados, las máquinas aprenden a realizar tareas por sí mismas y pueden mejorarlas a partir de la información que van adquiriendo», indica el también decano del Colegio de Ingeniería Informática de Aragón.

Noticia completa: El periódico de Aragón

El ChatGPT llega a la Universidad

El Diari Digital de la Universitat Rovira i Virgili (URV) publicó el pasado lunes, 30 de enero, un artículo sobre el ChatGPT en las universidades. Os dejamos aquí la noticia.

El ChatGPT ha puesto a prueba a los estudiantes de primero del grado en Ingeniería Matemática y Física de la URV. De hecho, ha sido el profesor de matemática aplicada Manel Sanromà quien les ha puesto a prueba sirviéndose de esta herramienta de inteligencia artificial (IA) que está copando las noticias y las conversaciones, especialmente del profesorado, y que se basa en un modelo de lenguaje que utiliza el aprendizaje profundo para producir textos similares a los que podría redactar una persona humana. Sanromà afirma que la aparición de este sistema le generó la misma sensación de estar frente a un elemento de disrupción que la aparición de Internet, y considera que las organizaciones educativas “no pueden darle la espalda”.

Por eso este profesor ya ha empezado a probarlo y decidió integrarlo en el examen de sus estudiantes de Álgebra Lineal, la base matemática del aprendizaje de máquinas, que es la tecnología que está en el corazón de la explosión de la Inteligencia Artificial (AI), como el famoso algoritmo de Google. El profesor le pidió al ChatGPT que elaborara cuatro afirmaciones sobre independencia lineal de vectores, dos de las cuales debían ser verdaderas y dos falsas. Y los estudiantes debían razonar en qué afirmaciones acertó y en cuáles se había equivocado la máquina.

Preguntado por cómo afectará el ChatGPT a la docencia que se imparte en las universidades, el mismo chat enumera otras tres ventajas además de la generación automática de preguntas y respuestas: la creación de materiales educativos; la corrección automática de exámenes, y la asistencia en tiempo real para los estudiantes. ¿Pero esto puede cambiar el día a día de los estudiantes y de los docentes e investigadores?

Para empezar, Sanromà aventura que «en cuestión de semanas, Bing (el buscador de Microsoft) incorporará la respuesta ya elaborada a las búsquedas y Google puede pasar de ser el monopolio de búsqueda a ser el segundo o tercer buscador». También prevé que el paquete de software Microsoft 365 “incorporará el nuevo sistema a las aplicaciones y podremos pedirles que elaboren el contenido que queramos en lenguaje natural. Por ejemplo, un Power Point podrá generar una presentación del tema que le pedimos en el número de diapositivas que le indiquemos”.

Ahora bien, ¿son suficientemente fiables las respuestas que muestra este chat para ser utilizadas en contextos educativos e incluso en el ámbito de la investigación? Antonio Moreno, catedrático de lenguajes y sistemas informáticos experto en lógicas para la IA, especifica que el ChatGPT “no es una base de conocimiento con complejos mecanismos de inferencia asociados, ni una herramienta a la que le hagas una pregunta y vaya a la web a buscar la posible respuesta, sino que es simplemente un modelo de lenguaje. Eso sí, sofisticado.”

De ahí que la máquina sólo acertara una afirmación de las cuatro que generó en la pregunta de examen que le pidió Sanromà, porque “el algoritmo no tiene ninguna idea de su validez lógica. Es un generador de frases correctas, a partir del texto que introducimos y del aprendizaje que ha tenido”. El ChatGPT le da la razón y puntualiza que «se requiere una implementación cuidadosa y una evaluación continua para asegurar que esta tecnología se utilice de manera efectiva y ética.»

En este sentido, Marta Sales, catedrática de física experta en análisis y predicción de datos, considera que “el mayor peligro es que esta herramienta se convierta en la fuente principal de información. Es útil pero debes saber aplicar el pensamiento crítico y contrastar la información que te ha proporcionado.” Sanromà coincide en que es “vital enseñar espíritu crítico.” De hecho, “el rol del profesor será enseñar a verificar lo que dice la máquina y provocar a los estudiantes: ¿Qué es verdadero? ¿Qué es falso? Las clases serán más divertidas”, afirma.

El profesor de seguridad en redes y comisionado de Gobierno Abierto y TIC de la URV, Jordi Castellà, va un poco más allá y reflexiona sobre el posible uso indebido de la herramienta para superar las evaluaciones y qué hacer en caso de conflicto. Ve «complicado» demostrar con evidencias cuándo se ha utilizado, por eso valora más factible «hacer las pruebas evaluativas en entornos controlados donde se garantice que la respuesta proviene del estudiante». Sin embargo, concluye que si bien estos sistemas “pueden facilitar mucho más el plagio o comportamientos reprobables por parte de los estudiantes, utilizarlos con esta finalidad va en su contra porque su objetivo ya no sería aprender, sino superar la evaluación.”

Según Sanromà, la herramienta también afectará a la investigación: «Los artículos científicos los escribirá la máquina y tú tendrás que modularlos». Marta Sales considera, sin embargo, que para escribir revisiones y contexto de los proyectos de investigación «puede ser inspirador» pero «no servirá si haces investigación innovadora o investigas cuestiones que nunca ha hecho nadie».

Moreno tiene una opinión similar: “Yo aconsejaría a cualquier investigador de cualquier área que esté atento a los avances en el tema, pero si utiliza ChatGPT ahora mismo, que sea consciente de los mecanismos que tiene detrás y, por tanto, de lo que puede o no puede esperarse de él.” Su grupo de investigación, ITAKA, diseña nuevos mecanismos de análisis inteligente de datos o de apoyo a la toma de decisiones, y después los aplican a diferentes dominios como medicina, turismo, comunicación o lingüística. Y si bien es consciente de que sistemas como ChatGPT «son ahora muy populares porque son muy aparentes, gratuitos y accesibles por el gran público», tiene claro que «aparecerán sistemas mejores y más avanzados.»

Esto afirma el mismo chat cuando le hemos preguntado: «Los investigadores están trabajando constantemente en mejorar las capacidades de los sistemas de IA, como el aprendizaje automático, el procesamiento del lenguaje natural y la comprensión del contexto». Pero no supo precisar. “Es difícil predecir con precisión cuándo se desarrollarán sistemas mejores y más avanzados que el ChatGPT. El avance de la tecnología de inteligencia artificial dependerá de la inversión en investigación y desarrollo, así como de la velocidad de progreso de la comunidad científica.”

Fuente original: Universitat Rovira i Virgili 

Inteligencia artificial en la Universidad

Jaume Bitterhoff – técnico de recursos educativos y soporte multimedia de la Unidad de Apoyo y Asesoramiento a la Actividad Docente de la Universitat de Lleida- recoge sus reflexiones en torno a Inteligencia Artificial y Universidad en un artículo publicado en Saad.udl.cat . Os lo compartimos traducido aquí:

Con el auge de herramientas de IA en muchos sectores, las universidades se ven obligadas a adaptarse para poder ofrecer programas educativos y oportunidades de investigación actuales y pertinentes. Esto plantea desafíos importantes para las instituciones y sus estudiantes, desde mantenerse en el día con las últimas tendencias y desarrollos en IA hasta garantizar que los alumnos estén bien preparados para las oportunidades laborales que las empleen, así como considerar las implicaciones éticas y sociales.

De hecho, el párrafo anterior no ha sido escrito por una persona. Ha sido generado mediante ChatGPT, la herramienta de moda en la actualidad en cuanto a generación de textos. La diferencia, a simple vista, es difícil de detectar. Y es que, con el gran volumen de información que leemos diariamente, puede llegar a representar un problema saber si un documento ha sido escrito por una persona o si ha sido redactado por una máquina, sobre todo si el documento que estamos leyendo tiene que ser evaluado.

Hay, hoy por hoy, dos grandes corrientes muy diferenciadas respecto a este uso: Por un lado, hay centros educativos que están decidiendo prohibir el uso, y al extremo opuesto encontramos quien defiende que hay que adaptar esta tecnología en la enseñanza. Ambas opciones plantean hoy por hoy unos retos importantes por el profesorado y por el personal de la Universidad. Prohibir el uso es complicado, puesto que se puede acceder desde cualquier dispositivo para copiar y empegar, y después es difícil y lento detectar si un texto ha sido generado con una IA (y retocado posteriormente por una persona). Pero permitir que se haga ir… implicaría actualizar la manera de enseñar, igual que se tuvo que cambiar cuando se generalizó el uso de internet para buscar información.

Desde finales de año, parece que este tema está cada vez ocupando más titulares, y, sí, podría ser que acabe deshinchándose como muchas tecnologías que prometían la siguiente gran revolución y al final no han funcionado, pero… Y si esta vez es de verdad? Cómo habría que enfocar las inteligencias artificiales dentro del entorno universitario?

 

Fuente del texto: https://www.saad.udl.cat/ca/noticies/Intelligencia-artificial-a-la-Universitat/