Conferencia de Directores y Decanos de Ingeniería Informática

Mensajes etiquetados investigadores

“El sistema falla donde menos te lo esperas”. Así evaluaron GPT-4 estos dos españoles por encargo de OpenAI

“El sistema falla donde menos te lo esperas”. Así evaluaron GPT-4 estos dos españoles por encargo de OpenAI José Hernández-Orallo y Cèsar Ferri, ambos investigadores de inteligencia artificial en la UPV, pertenecieron al grupo de apenas 40 personas seleccionadas para evaluar la actual versión de pago de ChatGPT.

En el verano de 2022, los que buceaban en las aguas más profundas de la inteligencia artificial —investigadores, empleados del sector, directores de IA en empresas— sabían bien que OpenAI preparaba el lanzamiento de su siguiente GPT (su modelo de lenguaje o LLM). Pero no se conocían detalles. Ni cuándo sería, ni quién tendría acceso, ni qué capacidades nuevas demostraría respecto a la versión anterior, GPT-3, de uso restringido.

Así estaban José Hernández-Orallo y Cèsar Ferri cuando en septiembre, Lama Ahmad, investigadora de políticas en OpenAI, les propuso formar parte del equipo externo que evaluaría GPT-4. Hernández-Orallo y Ferri, ambos catedráticos del departamento de Sistemas Informáticos y Computación de la Universitat Politècnica de València (UPV), pertenecen al mismo grupo de investigación y tienen una amplia experiencia en evaluación de sistemas de inteligencia artificial. Quizá por eso se cuentan entre las poco más de 40 personas que OpenAI seleccionó en todo el mundo para probar su nuevo modelo de lenguaje.

El objetivo era encontrar fallas en el sistema durante los seis meses anteriores al lanzamiento, en marzo de 2023. “Ya desde GPT-3 nos han dado acceso siempre a sus sistemas de manera gratuita, a veces antes del lanzamiento, para hacer investigación”, indica Hernández-Orallo, que colabora con OpenAI desde hace cuatro años y destaca la buena comunicación entre la empresa y los investigadores que quieren analizar sus sistemas.

El año pasado, ese verano en que se rumoreaba la llegada del próximo GPT, el acercamiento se estrechó. Los investigadores de la UPV organizaron un taller dentro de la Conferencia conjunta internacional sobre inteligencia artificial, uno de los eventos de inteligencia artificial más prestigiosos del año, y allí conocieron a más gente de OpenAI. Recibieron su llamada en septiembre.

Noticia completa: El País

Dan con las claves para mejorar la formación de ingenieros en sistemas inteligentes

Un grupo de investigación de la Universidad de Jaén ha analizado cómo mejorar la formación del alumnado de Ingeniería en sistemas inteligentes y ha descubierto qué áreas se deben potenciar en los campus andaluces, para mejorar la preparación del alumnado de ingeniería eléctrica, informática, electrónica y telecomunicaciones en esta disciplina fundamental para la digitalización de la sociedad.

El estudio ha sido realizado la profesora del Departamento de Ingeniería Eléctrica, Mª Ángeles Verdejo Espinosa, el catedrático de Ingeniería Eléctrica de la UJA, Francisco Jurado Melguizo, la catedrática de Arquitectura y Tecnología de Computadores, Macarena Espinilla Estévez, y la investigadora del Departamento de Informática, Alicia Montoro Lendínez, que han analizado los sistemas inteligentes y su importancia en el programa educativo de las universidades andaluzas.

Noticia completa: Nova Ciencia

Investigadores sevillanos crean un sistema de detección inmediata de personas armadas

Un grupo de investigadores de la Universidad de Sevilla han creado un sistema de detección inmediata de personas armadas gracias a la Inteligencia Artificial.

Como ejemplo podríamos recordar lo ocurrido el pasado 26 de octubre, cuando un individuo llamado Robert Card entró con un rifle de asalto en una bolera de Maine, en Estados Unidos. Mató a 18 personas. El sistema DISARM desarrollado por la Universidad de Sevilla habría detectado su arma y quizás evitado esta masacre.

El investigador de la Escuela de Ingeniería Informática de la Universidad de Sevilla, Juan Antonio Álvarez, nos explica en qué consiste este sistema, en el que llevan trabajando dos años.

Noticia completa: Canal Sur

Google y un centenar de investigadores debaten en Alicante sobre inteligencia artificial e informática

Alicante acoge el Congreso Internacional de Ingeniería Web (ICWE) en el que se reúnen más de un centenar de investigadores académicos y de compañías como Google llegados de 17 países para debatir sobre «Ingeniería Web en la era de la Inteligencia Artificial” y poner en común los últimos avances en este campo. El congreso ha comenzado este martes con una serie de talleres y continuará hasta el viernes con ponencias y demostraciones.

En el congreso participan expertos como Omar Benjelloun (ingeniero del “software” en Google), Nuria Oliver (cofundadora y directora de ELLIS Alicante) y Schahram Dustdar (catedrático de Informática en la TU Wien y director de la División de Investigación en Sistemas Distribuidos de Austria).

Noticia completa: El español

Personal investigador de la Universitat Politècnica de València idea un nuevo sistema de voto electrónico a prueba de ataques

Un equipo de la Universitat Politècnica de València (UPV), perteneciente al Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN), ha ideado un sistema de voto electrónico que no requiere el cifrado del mismo y asegura en todo momento la privacidad de los electores y electoras.

El sistema podría aplicarse en elecciones generales, votaciones privadas, toma de decisiones en entornos distribuidos (por ejemplo, blockchain) o en la realización de encuestas anónimas, entre otros ámbitos.

Según explica Damián López, investigador del Instituto VRAIN de la UPV, habitualmente, la mayoría de sistemas de voto recurren a algunos algoritmos criptográficos para proteger la integridad y privacidad del voto.

Dentro de los sistemas de voto puramente electrónicos, se pueden diferenciar cuatro grandes grupos: los que emplean firmas ciegas para proteger el voto; aquellos que recurren a la criptografía homomórfica para aglutinar votos sin conocer su contenido; los que usan firmas en anillo para proteger la identidad del usuario; y, finalmente, aquellos basados en tecnología blockchain para asegurar que el proceso sea público y descentralizado. Todas estas opciones recurren a la encriptación del voto y, debido a ello, cualquier ataque actual o futuro que pudiera plantearse a los protocolos de cifrado implicaría una debilidad y pondría en riesgo la privacidad del electorado.

“El sistema que hemos desarrollado implica a todos los agentes en una elección como garantes de la votación, recibiendo de los electores fragmentos de las papeletas emitidas, siendo incapaces por sí solos de desvelar el sentido del voto y debiendo colaborar en la reconstrucción de cada papeleta. El protocolo garantiza que todas las personas puedan comprobar, una vez publicado el escrutinio, que los votos fueron contabilizados en el sentido en que fueron emitidos”, explica Damián López.

Además, el sistema del Instituto VRAIN de la UPV cumple con dos propiedades esenciales para el voto electrónico: garantiza que un votante no pueda votar más de una vez y asegura que el resultado de la elección sea justo sin comprometer la privacidad individual de los electores.

“Independientemente de la capacidad computacional disponible, es imposible conjeturar cuál ha sido el voto, incluso en un escenario post-cuántico. Nuestro sistema garantiza en todo momento la seguridad, verificabilidad y auditabilidad de los resultados, sin comprometer en ningún momento al electorado”, incide Damián López.

Sobre su implementación, el investigador de la UPV asegura que el sistema se ha probado ya formalmente y podría desarrollarse ya una solución técnica.

Fuente: Universitat Politècnica de València

Mario Piattini en el Ranking de Stanford 2022

El profesor Mario Piattini, de la Escuela Superior de Informática, aparece de nuevo entre los mejores investigadores de todo el mundo en una nueva edición del Ranking de Stanford (EEUU). El ranking se elabora a partir de las publicaciones de investigación hasta el 1 de septiembre de 2022. Los nombres de los mejores científicos se preseleccionan en función de parámetros estandarizados, como publicaciones, impacto de las revistas, citas y puntuaciones compuestas basadas en el perfil de Scopus. El listado incluye a todos los científicos que se encuentran entre el 2% de los mejores en todos los campos, según el índice compuesto de citas.

La Universidad de Castilla-La Mancha cuenta además con otros 45 investigadores e investigadoras en el citado ranking. Además de Mario Piattini, la relación de investigadores/as de la UCLM en esta clasificación recoge a Octavio Armas, José M. Arroyo, Daniel Balsalobre-Lorente, Luis Baringo, Chris Binns, Miguel Caminero, María Carmen Carnero, Miguel Carrión, Iván Cavero-Redondo, Pablo Cañizares, Jesús Miguel Chacón, Javier Contreras, Antonio De Lucas, Óscar Déniz, Abderrazzak Douhal, Vicente Feliu-Batlle, Fausto Pedro García Márquez, Eustaquio García, Christian Gortázar, Lourdes Gómez-Gómez, Juan José Hernández, Felipe Hernández-Perlines, Ricardo Insausti, Magín Lapuerta, Justo Lobato, Manuel Esteban Lucas-Borja, Rafael Luján, Antoni Margalida, Vicente Martínez-Vizcaíno, Rafael Mateo, Pedro José Núñez, Juan Oliva-Moreno, Victor Manuel Pérez-García, Manuel Andrés Rodrigo, Francisco Ruiz-Fons, Ángel Ríos, Juan C. Sánchez-Hernández, Luz Sánchez-Silva, Javier Solera, Juan R. Trapero, José Luis Valverde, Joaquín Vicente y Celia Álvarez-Bueno. El listado incluye también a los investigadores fallecidos Juan José Berzas Nevado e Isidro Hermosín-Gutiérrez.

Desde aquí trasladamos nuestra felicitación a nuestro compañero Mario Piattini, y al resto de compañeros y compañeras de la UCLM.