Conferencia de Directores y Decanos de Ingeniería Informática

Mensajes etiquetados jose luis hernandez

José Luis Hernández, informático: “Es muy fácil engañar a la inteligencia artificial para que genere un ataque”

José Luis Hernández Ramos (Murcia, 37 años) es investigador Marie Skłodowska-Curie en la Universidad de Murcia, donde estudió la licenciatura, el máster y el doctorado en Informática. “Cuando era niño y jugaba con las maquinitas como la Game Boy, me preguntaba cómo era posible que salieran todas esas imágenes al meter los cartuchos”, confiesa. A lo largo de su trayectoria profesional ha sido oficial científico en la Comisión Europea y ha publicado más de 60 artículos de investigación, además de colaborar durante cinco años con la Agencia de la Unión Europea para la Ciberseguridad (ENISA) y la Organización Europea de Ciberseguridad (ECSO).

Pregunta. ¿Cómo resumiría el objetivo del proyecto Gladiator?

Respuesta. La investigación quiere aplicar o usar un modelo grande de lenguaje, como ChatGPT, Bard, o Llama, para entender cómo podemos utilizarlos para abordar problemas de ciberseguridad. Cuando queremos adaptar uno de estos modelos a un determinado dominio como la ciberseguridad, necesitamos ajustar el modelo a una terminología relacionada con esa disciplina concreta. Queremos entender cómo adaptar esos modelos para detectar un ataque y, al mismo tiempo, adaptarlos con información sobre ciberseguridad para mejorar su rendimiento y que sean capaces de resolver problemas de este tipo. El proyecto durará hasta marzo de 2025.

P. ¿Cómo se van a adaptar los modelos de lenguaje a lo que necesita el proyecto?

R. Se coge información relacionada con ciberseguridad, con bases de datos que contengan información sobre amenazas, y se entrena o se ajusta el modelo con la información. De esta manera va a ser capaz de mejorar su comprensión acerca de lo que es una amenaza de ciberseguridad.

Noticia completa: El País

El investigador de la UMU José Luis Hernández enseña a los dispositivos a reconocer un ciberataque en el proyecto INCENTIVE

Los dispositivos leen, interpretan y almacenan en un ciclo inagotable de datos cómo interactúan sus propietarios con ellos en el proyecto INCENTIVE (contINuous deCentralized lEarNing of ioT devIces’ behaVioural profilEs). El investigador de la Universidad de Murcia (UMU) José Luis Hernández ha sido galardonado con una prestigiosa beca que  tiene como objetivo aumentar la competitividad científica de la Unión Europea promoviendo la excelencia científica. El proyecto es el primero concedido en la Facultad de Informática en el marco de la convocatoria Marie S. Curie Action Postdoctoral Fellowships del Programa Horizonte Europa.

La propuesta se llevará a cabo por el investigador dentro del grupo de investigación Sistemas Inteligentes y Telemática (GSIT) de la UMU, dirigido por el profesor Antonio Skarmeta. Además, el proyecto incluirá colaboraciones con la Universidad de Kent y Teléfonica Research.

Ordenadores, smartwatch, drones o incluso marcapasos y bombas de insulina, todo es vulnerable y susceptible de ser hackeado. La propuesta construirá una arquitectura basada en técnicas recientes de inteligencia artificial, como el aprendizaje federado, donde los dispositivos no comparten datos, sino los resultados del aprendizaje local. Además, utilizará tecnologías blockchain, un sistema descentralizado e inmutable, utilizado más allá de las criptomonedas, para asegurar la confiabilidad de los modelos intercambiados durante el aprendizaje.

Inteligencia Artificial (IA) para mejorar la ciberseguridad

«La complejidad de la ciberseguridad requiere de una investigación cada vez más multidisciplinar que considere la perspectiva social, legal y ética”, sentencia José Luis Hernández. «A pesar de las preocupaciones actuales en torno al desarrollo de la inteligencia artificial, su uso también puede contribuir a fomentar la cultura de la ciberseguridad», como en el proyecto INCENTIVE, donde se transforma en un componente esencial en el aprendizaje de los dispositivos para que sean mucho más ciberseguros. Además, el proyecto será uno de los primeros esfuerzos en analizar el impacto de la interacción humana, desde una perspectiva social, en el comportamiento de los dispositivos

José Luis Hernández es doctor en Ingeniería Informática por la UMU donde también recibió el «Premio Extraordinario de Doctorado» de la Facultad de Informática en 2017. Ha trabajado durante cinco años como oficial científico en la Comisión Europea (DG JRC) donde ha contribuido a algunas de las iniciativas europeas más prominentes en ciberseguridad y ha servido como experto científico en diversos organismos europeos y nacionales. Además, es coautor de más de 60 artículos sobre ciberseguridad y ha participado en diversos proyectos de investigación europeos.

Fuente: Universidad de Murcia