Conferencia de Directores y Decanos de Ingeniería Informática

Escrito por prensa

La computación cuántica para Medicina proyecta a Laura Donaire a la final de #HiloTesis representando a la UAL

Egresada en Ingeniería Informática y actualmente becada predoctoral en el Plan Propio de la Universidad de Almería, investiga sobre lo que su especialidad puede aportar a la detección de problemas de hígado y es una firme convencida de la importancia de la divulgación científica ‘en femenino’: “Es fundamental, también para romper con estereotipos”.

El potencial joven investigador de la Universidad de Almería lleva implícito el compromiso con la divulgación, y, por ello, son muy altas las expectativas depositadas en Laura Donaire de cara a la final nacional de ‘#HiloTesis: tu tesis doctoral en redes sociales’. La quinta edición de esta iniciativa de la Conferencia de Rectores y Rectoras de las Universidades Españolas, en colaboración con RedDivulga de la sectorial CRUE-I+D+i y la Fundación Ignacio Larramendi, tendrá a esta ingeniera informática, becada predoctoral en el Plan Propio de la UAL, como representante de la institución académica almeriense después de que Rocío Collado obtuviera una mención especial el año pasado. Esta vez la plataforma de publicación es exclusivamente BlueSky.

Donaire se ha mostrado “muy ilusionada”, sabiendo valorar que “es un reconocimiento muy bonito llegar a la final representando a la Universidad de Almería”. De hecho, para ella “es un orgullo” porque, de manera textual, “la UAL me ha brindado muchas oportunidades desde el principio de mi carrera científica”. La joven investigadora se ha referido a las personas que la acompañan en este proceso de crecimiento, “estoy especialmente agradecida a Gloria Ortega, Francisco Orts y Ester Garzón, profesores de esta universidad que apostaron por mí desde el principio”, y ha agradecido el apoyo institucional: “Cuento con una beca predoctoral del Plan Propio de la UAL, que me permite seguir con mi investigación, así que poder representarla es una gran alegría”.

A ello suma su convencimiento de la importancia que tiene la divulgación científica y la visibilización de la mujer en la ciencia: “Es fundamental, y no solo para acercar las investigaciones a toda la sociedad, sino también para romper estereotipos sobre quién puede hacer ciencia”. En ese sentido, “la ciencia ha estado tradicionalmente asociada a los hombres, así que si las jóvenes ven a científicas comunicando de forma tan sencilla temas complejos, es más fácil que puedan imaginarse a ellas mismas en la misma situación en el futuro”. En su caso, su interés por la tecnología “comenzó en el colegio, cuando empezamos a usar portátiles en clase”, y se confirmó posteriormente “en el IES Carmen de Burgos, en Huércal de Almería”, donde cursó “una asignatura de Informática”.

Allí empezó “a crear pequeñas páginas web, a hablar del Internet de las Cosas y a utilizar programas ofimáticos”, lo que llamó de un modo poderoso su curiosidad, unido a la involucración de una de sus docentes: “Tuve la suerte de tener una profesora que vio mi interés y me habló sobre la carrera de Ingeniería Informática, y tras pensarlo bien, decidí matricularme en la UAL”. Ya en el campus culminó sus estudios de grado con “un TFG de investigación en circuitos cuánticos”, lo que le permitió adentrarse “en este campo”. Además, “durante ese periodo obtuve una Beca de Colaboración en el Departamento de Informática, concretamente en el grupo TIC-146-‘Supercomputación-Algoritmos’, del que, a día de hoy, sigo formando parte”, ha detallado textualmente.

Ya tenía muy claro su deseo de futuro, pero al terminar el grado lo tuvo aún más: “Que me gustaba la investigación y que quería llegar a obtener un doctorado, así que continué con el Máster en Tecnologías y Aplicaciones en Ingeniería Informática de la UAL, mientras comenzaba a investigar en la optimización de los circuitos cuánticos que había iniciado en el TFG”. Terminó el máster “lo antes posible” para poder empezar el Doctorado en Informática en la UAL, y justo antes de comenzarlo ya había conseguido publicar su primer artículo en una revista sobre su especialidad, la optimización de circuitos cuánticos comparadores. Actualmente está ya en su segundo año de doctorado, aprovechando su beca y avanzando con paso firme y grandes dosis de determinación.

Delante, de modo inminente está la final nacional de #HiloTesis, en la que sus expectativas “se resumen en dos cosas: aprender de las demás personas finalistas y mejorar mi forma de comunicar mi investigación con la sociedad”. A eso suma, por supuesto, algo obvio como una gran plataforma de difusión: “Si además hay suerte y el hilo gusta… ¡pues que mi tesis llegue a mucha más gente!”. Conoció el concurso por “un correo de la universidad y gracias a mi directora de tesis, Gloria Ortega”, matizando a su vez que “desde que empecé a realizar el TFG con ella, siempre me ha transmitido la importancia de dar a conocer mi investigación a la sociedad y me ha apoyado en cada concurso y oportunidad de divulgación”, ha detallado textualmente.

Como es obligado, su hilo resume su tesis en curso, “centrada en el campo de la computación cuántica: desde la optimización de circuitos cuánticos hasta la aplicación del aprendizaje automático cuántico en problemas médicos”. Capaz de explicarlo de manera atractiva, “la computación cuántica es un campo actualmente muy potente, pero todavía poco conocido; por eso, quise enfocar el hilo de tesis de la forma más simple y atrayente posible, para generar el interés del público sin aburrir ni abrumar”, ha explicado. Así, “quería que cualquier persona, incluso sin conocimientos previos, pudiera entender en qué consiste mi investigación”. En esa misión ha utilizado “emoticonos, GIFs y memes, porque, seamos sinceros, ¿a quién no le gusta una imagen que te haga sacar una sonrisa y que haga la lectura más sencilla?”.

Ha sido, en todo caso, difícil, manteniéndose fiel a su compromiso de divulgación: “Aporto una visión sencilla y atractiva sobre un tema que a menudo puede parecer inaccesible o complicado; resumir toda mi investigación en solo 20 tuits fue todo un reto, porque quería contarle a toda la sociedad lo apasionante que es la computación cuántica y la investigación que estoy llevando a cabo, pero, el tener esa limitación, me hizo pensar muy bien sobre qué debería contar, qué dejar fuera y cómo explicarlo de la forma más clara posible”. Ha dejado claro, por supuesto, que es parte del recorrido que va a seguir construyendo: “Me encantaría seguir investigando en computación cuántica; es un campo con muchísimo potencial y me gustaría poder aportar mi granito de arena, especialmente en su vinculación con la Medicina”.

Ha finalizado con un capítulo de agradecimientos dedicados “al jurado, a la UAL, al equipo de #HiloTesis y, especialmente también al Secretariado de Divulgación Científica por ofrecerme la oportunidad de dar a conocer mi investigación”. Y es que “la ciencia no debe quedarse encerrada en laboratorios o en artículos científicos: debe compartirse y contarse”. En esa línea, ha realizado una llamada: “¡Estáis todas y todos invitados a charlar conmigo sobre computación cuántica cuando queráis!”. José Antonio Garrido, director de Divulgación Científica, ha apostillado que “el nivel ha sido muy alto”, hasta el punto de que “las valoraciones, realizadas por un jurado compuesto por personal de la UCC+I, de la EIDUAL y del propio Secretariado, han sido muy ajustadas, y el resultado final se ha decidido por pequeños detalles”. En datos, se han presentado más de 450 hilos en toda España siete de la UAL, y solo uno de cada universidad participante ha llegado a la final, 51 en total.

Fuente: Universidad de Almería

Una jornada en el Parc Científic UV alerta sobre la escasa concienciación en ciberseguridad en salud y biotecnología

Especialistas advierten sobre la fragmentación de sistemas, la falta de concienciación y el aumento de dispositivos conectados como principales amenazas para la protección de datos y la seguridad del paciente

La digitalización acelerada del sector salud y biotecnológico ha multiplicado las vulnerabilidades frente a los ciberataques. La creciente interconexión de dispositivos, la ausencia de estructuras de gobernanza, el desconocimiento generalizado en buenas prácticas de seguridad y la percepción de la ciberseguridad como un asunto exclusivamente técnico configuran un escenario de riesgo que afecta directamente a la calidad asistencial y a la integridad de los datos clínicos.

Esta fue una de las principales conclusiones de la I Jornada sobre Ciberseguridad en el Sector Salud y Biotecnología, organizada de forma conjunta por la Cátedra de Ciberseguridad INCIBE-UPV y la Fundació Parc Científic Universitat de València (FPCUV). El encuentro se celebró el pasado 4 de julio en el auditorio Marie Curie del Parc Científic de la Universitat de València, en el marco del programa de Cátedras de Ciberseguridad en España, impulsado por el Instituto Nacional de Ciberseguridad (INCIBE) con financiación de los fondos europeos Next Generation-EU a través del Plan de Recuperación, Transformación y Resiliencia.

Una responsabilidad compartida que va más allá de la tecnología

En la apertura institucional, el director del Parc Científic, Pedro Carrasco, señaló que “la ciberseguridad ya no es una opción tecnológica, sino una responsabilidad compartida que atraviesa lo organizativo, lo ético y lo estratégico”. Reivindicó también el papel clave de la cooperación entre administraciones, centros de investigación, hospitales, startups, organizaciones tecnológicas y universidades. Asimismo, anunció que el PCUV trabaja ya en la primera convocatoria de IAtecUV, una incubadora especializada en inteligencia artificial, e invitó a las entidades asistentes a sumarse al proyecto.

El director de la Cátedra INCIBE-UPV, Santiago Escobar, repasó los pilares que estructuran la cátedra y puso el foco en la necesidad de una implicación transversal en los entornos sanitarios: “La ciberseguridad va con las personas, pero la tecnología genera nuevas situaciones de riesgo. Solo estamos viendo la punta del iceberg; las organizaciones del sector salud y biotecnología deberán invertir más y adoptar una cultura preventiva”. Escobar alertó sobre los peligros de asumir que la seguridad digital es responsabilidad exclusiva del área de sistemas, cuando en realidad se trata de un riesgo compartido por toda la organización.

Brechas estructurales y normativas como herramienta de madurez

La primera mesa redonda, titulada “Marcos y buenas prácticas de ciberseguridad aplicadas al sector salud y biotech”, contó con la participación de profesionales de Mobiliza Consulting, ISACA Valencia, UPV, Kiwa, Qualliance, S2 Grupo y la propia Cátedra. A lo largo del debate se señalaron carencias comunes como la fragmentación de la seguridad por departamentos, la falta de visión de conjunto y la escasa formación del personal en protocolos básicos.

María José González, managing partner en Qualliance, destacó que gran parte de los incidentes se originan por errores humanos y una débil cultura organizativa en torno a la seguridad digital. Fernando Seco, director de la división de Gobierno de la Seguridad en S2 Grupo, advirtió de la falta de estructuras de gobernanza y planificación desde los equipos directivos, lo que impide desplegar estrategias sostenidas de protección, y recalcó que la responsabilidad en esta materia puede incluso tener implicaciones legales.

En este contexto, los marcos normativos como el ENS, la norma ISO 27001 o la directiva NIS2 fueron destacados como herramientas útiles para ordenar y mejorar los sistemas. Según Francisco Javier Peiró, auditor en Kiwa, estos marcos “no traen nada radicalmente nuevo, pero permiten normalizar procesos y reforzar la madurez operativa”. Insistió también en que la certificación no es obligatoria, pero sí recomendable, y que los planes de continuidad deben ensayarse en escenarios reales. “Muchas veces fallan porque nunca se han puesto a prueba”, apuntó.

Jorge Edo, director de Mobiliza Consulting y responsable de certificaciones de ISACA Valencia, fue contundente: “Una buena seguridad en los sistemas de información es también una buena seguridad para el paciente. Al igual que controlamos las dosis de un medicamento, debemos garantizar la protección de sus datos clínicos. Una filtración puede tener consecuencias fatales”.

«Una buena seguridad en los sistemas de información es también una buena seguridad para el paciente. Al igual que controlamos las dosis de un medicamento, debemos garantizar la protección de sus datos clínicos. Una filtración puede tener consecuencias fatales», Jorge Edo, director de Mobililiza Consulting

Casos reales y soluciones desde el terreno 

La segunda mesa redonda, centrada en “Experiencias empresariales en el sector salud y biotec”, reunió a representantes del Instituto de Física Corpuscular (IFIC)Dawako, Hospital Francesc de Borja, NTT DATA, ADM Biópolis y la Fundación Instituto Valenciano de Oncología (IVO). Las intervenciones se centraron en cómo se implementan políticas de ciberseguridad en organizaciones con realidades muy distintas, y qué estrategias funcionan para implicar al conjunto de los equipos.

Albert Martínez, jefe del Servicio de Informática del Hospital Francesc de Borja, explicó que uno de los principales retos del sistema sanitario ha sido adaptarse a las nuevas tecnologías por falta de inversión. Detalló que su equipo mantiene un contacto directo con los servicios clínicos para anticipar problemas y que el apagón peninsular del 28 de abril fue una prueba real de resiliencia para sus sistemas. “Funcionaron los mecanismos internos, pero fallaron las aplicaciones comunes a otros centros. Aún estamos lejos del nivel que quisiéramos alcanzar”, reconoció.

Desde la Fundación IVO, Fernando Zapatero compartió que su infraestructura evita el uso de almacenamiento en la nube y que han desarrollado una arquitectura que podría operar incluso sin conexión a internet, incluyendo sistemas propios de alimentación eléctrica y centros de procesamiento protegidos frente a inundaciones, como las vividas durante la DANA de octubre.

Kiko Albiol, investigador del IFIC, explicó cómo su equipo trabaja en el diseño y testeo de software para dispositivos clínicos, especialmente aquellos basados en inteligencia artificial. Aunque colaboran con centros sanitarios, señaló que la gobernanza de datos continúa siendo un obstáculo importante para cerrar acuerdos con hospitales.

Desde el sector empresarial, Javier Navarro, manager OT en ADM Biópolis, describió un enfoque multicapa de protección, con hasta tres niveles de red para proteger entornos industriales altamente sensibles, como los que gestionan cepas bacterianas únicas en el desarrollo de probióticos. Marta Ruiz Server, de NTT DATA, explicó su sistema de formación interna a través de cursos gamificados y obligatorios cada tres meses, que buscan implicar al personal sin recurrir a formatos largos o burocráticos.

«Si no hubiéramos hecho una adaptación rápida, no habríamos podido acercarnos al mercado estadounidense. En Europa hay culturas de seguridad muy diversas y más flexibles, por eso es esencial conocer el entorno regulador de cada país», Lucas Sanjuan, responsable de Regulatory Affairs y Quality Asurance en Dawako

Lucas Sanjuan, responsable de calidad y regulación en Dawako, hizo énfasis en la necesidad de adaptar las prácticas de seguridad a las exigencias internacionales: “Si no hubiéramos hecho una adaptación rápida, no habríamos podido acercarnos al mercado estadounidense. En Europa hay culturas de seguridad muy diversas y más flexibles, por eso es esencial conocer el entorno regulador de cada país”.

Cerrar la brecha entre la seguridad y las personas

La jornada finalizó con la intervención de Silvia Rueda, vicepresidenta segunda del Colegio de Ingeniería Informática de la Comunitat Valenciana, quien apeló a la comunidad científica y tecnológica a impulsar soluciones realistas, con empatía y enfoque humano. “La seguridad también son las personas y el planeta. Necesitamos conciencia, pero también compromiso para integrar estas prácticas en el día a día”, concluyó.

Fuente: Universitat de València 

Subtítulos en tiempo real y reconocimiento emocional: gafas inteligentes que mejoran la comunicación

Los audífonos o los implantes cocleares diseñados para personas sordas o con dificultades auditivas pueden ser, además de caros, poco accesibles o incómodos y, en algunos casos, no funcionar adecuadamente o no terminar de solventar las necesidades de los usuarios. En su búsqueda de una solución, Madhav Lavakare, estudiante de ingeniería informática en la Universidad de Yale, ha desarrollado un sistema que combina gafas inteligentes, subtítulos y funcionalidades de inteligencia artificial. 

A principios de este año lanzó oficialmente TranscribeGlass, la empresa detrás de su funcional innovación, unas gafas con capacidad para subtitular y traducir conversaciones en tiempo real. Ha trabajado en el proyecto, tal y como recoge Yale Daily News, desde hace siete años, cuando aún cursaba el instituto, y ha llevado a cabo siete versiones diferentes del prototipo aplicando sus conocimientos en hardware, ingeniería mecánica e impresión 3D.

El resultado de todos los años de investigación, trabajo y pruebas es TranscribeGlass, que transcriben conversaciones habladas y proyectan subtítulos sobre el cristal justo delante de los ojos. Las gafas no tienen cámaras, micrófonos ni altavoces, solo un pequeño proyector que proyecta los subtítulos directamente sobre el cristal. No obstante, el dispositivo requiere de la conexión con una aplicación móvil, de tal manera que genera los subtítulos a partir de las conversaciones captadas por el micrófono del teléfono.

La aplicación permite personalizar los subtítulos, tanto en lo que respecta al tamaño de la fuente como las línea de texto que se muestran a la vez, así como su ubicación en el campo de visión. Las gafas también cuentan con bluetooth, una batería con autonomía para 6 horas, y pesan menos de 40 gramos.

El precio del dispositivo es de 377 dólares, más una suscripción mensual de 20 dólares para acceder al servicio de transcripción y al sistema de reconocimiento del discurso. Actualmente TranscribeGlass sólo está disponible para sistema iOS, y en inglés, español, francés, chino, italiano, alemán, portugués, coreano, japonés y vietnamita.

Están pensadas para personas sordas y, principalmente, para quienes tienen pérdida auditiva y tienen dificultades para leer los labios o seguir una conversación en un entorno ruidoso. En este sentido, el foco principal de la compañía es la simplicidad funcional, esto es, perfeccionar el sistema para facilitar la comunicación de los usuarios.

Noticia completa: Reason Why

Ignacio Pineda, ingeniero informático por la UMA, recibe el Premio Extraordinario por el mejor expediente de su carrera

Ignacio Pineda Delgado ha recibido el Premio Extraordinario al Mejor Expediente de su carrera concedido por la Universidad de Málaga. Este joven lucentino, que ya consiguió una de las mejores notas en la Prueba de Acceso a la Universidad de la provincia de Córdoba en 2020 ha concluido una Ingeniería Informática con una brillantez extraordinaria. En su expediente, el mejor de su promoción, se contabilizan un total de 25 Matrículas de Honor.

El pasado lunes 30 de junio, recogía este Premio en Honor al Profesor José María Troya, que sólo reciben los alumnos que han culminado su carrera con el mejor expediente académico.

Noticia completa: Lucena noticias

Investigadores andaluces logran acelerar un 70% el entrenamiento de modelos de IA

Investigadores de Ingeniería Informática de la Universidad de Cádiz (UCA) han desarrollado un método que permite acelerar hasta un 70% el entrenamiento de modelos de inteligencia artificial (IA), sin pérdida de precisión, según ha informado la Consejería de Universidad, Investigación e Innovación, que ha financiado el proyecto junto a fondos FEDER.

La técnica, denominada REDIBAGG, ha sido diseñada para optimizar tareas de clasificación en sistemas de IA con grandes volúmenes de datos y su aplicación tiene potencial en sectores como la medicina, la industria o las finanzas, donde podría facilitar diagnósticos automáticos, detección de fallos o análisis de riesgos con menor consumo de recursos.

Cómo funciona

Según explican los investigadores en un artículo publicado en la revista Engineering Applications of Artificial Intelligence, REDIBAGG es una variante de bagging (abreviatura en inglés de bootstrap aggregating), un método de combinación de modelos muy utilizado para mejorar la precisión de los clasificadores en el contexto de la inteligencia artificial.

La herramienta crea múltiples subconjuntos a partir de la muestra original de los datos. Cada submuestra se usa para el aprendizaje de un clasificador base, y luego se combinan las predicciones para tomar decisiones más fiables. El método de remuestreo que utiliza bagging es bootstrap, una técnica estadística que genera submuestras aleatorias con reemplazo. Es decir, se crean nuevas colecciones de datos eligiendo ejemplos al azar del conjunto original, permitiendo que algunos se repitan y otros no.

Aunque bagging es eficaz, su principal inconveniente es el alto coste computacional. Cada modelo se entrena con una submuestra del mismo tamaño que el conjunto original, lo que ralentiza el aprendizaje y multiplica el consumo de recursos. Frente a esta limitación, los expertos han aplicado un nuevo sistema de remuestreo que genera subconjuntos más pequeños, pero representativos.

«En la era del big data, donde se trabaja con enormes volúmenes de datos, reducir los tiempos de aprendizaje es de agradecer, sobre todo si se rebajan hasta un 70% respecto al método original», ha destacado Esther Lydia Silva, autora principal del estudio.

Noticia completa: Diario de Sevilla

Un estudio de la UPV y el King’s College de Londres advierte de los riesgos de los chatbots creados con IA generativa para revelar datos personales

Los autores de este estudio, llevado a cabo con 502 personas, alertan sobre la facilidad de explotar la IA generativa para crear chatbots que manipulen a usuarios para que revelen datos sensibles

Las principales conclusiones de este artículo, fruto de un proyecto de INCIBE, se presentarán del 13 al 15 de agosto en el 34 Simposio de Seguridad Usenix en Seattle (EE.UU)

El Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) de la Universitat Politècnica de València (UPV) ha demostrado en un estudio los riesgos que entrañan los chatbots generados con modelos de lenguaje de gran escala (LLMS) e IA generativa, como ChatGPT, Bard, Llama o Bing Chat.

El estudio advierte de la facilidad con la que se pueden explotar los LLM para crear chatbots maliciosos con el objetivo de manipular a las personas para que revelen información personal, y los pocos conocimientos técnicos que se necesitan para lograrlo. El estudio lo ha llevado a cabo el investigador de VRAIN y catedrático de la UPV, José Such, junto con Juan Carlos Carillo, colaborador de VRAIN-UPV y Xiao Zhan y William Seymour, del King’s College London. A través de un ensayo aleatorio y controlado con 502 participantes, el estudio pone de manifiesto que las IAs conversacionales utilizadas de forma maliciosa extraen significativamente más información personal que las IAs conversacionales benignas.

Amenazas y recomendaciones Bajo el título

«Una IA conversacional basada en modelos de lenguaje maliciosos hace que los usuarios revelen información personal”, el artículo presentará sus conclusiones en el 34 Simposio de Seguridad Usenix (Usenix Security Symposium) que se celebrará del 13 al 15 de agosto en Seattle (EE.UU). En él se subrayan las amenazas a la privacidad que plantea este nuevo tipo de chatbots maliciosos basados en LLM y se ofrecen recomendaciones prácticas para orientar la investigación y prácticas futuras.

El trabajo se enmarca en el proyecto “SPRINT: Seguridad y Privacidad en Sistemas con Inteligencia Artificial” (C063/23), y forma parte del convenio entre INCIBE y la Universitat Politècnica de València incluido en los Proyectos Estratégicos en España, en el marco del Plan de Recuperación, Transformación y Resiliencia, con la financiación de los Fondos Next Generation-EU .

Los humanos son los que utilizan de manera maliciosa la IA

Tal y como explica José Such “nosotros lo que hemos hecho es meternos entre la interfaz del chatbot y el LLM que hay detrás, explotando las capacidades de los LLM de manera maliciosa, demostrando que con diferentes estrategias se puede conseguir que converse con el usuario de manera que lo engañe y lo manipule”. Y destaca que “es interesante ver que con algunas estrategias, los usuarios se dan cuenta de que el chatbot está haciendo cosas raras y preguntando cuestiones extrañas, pero con las estrategias que explotan la naturaleza social de las conversaciones, no se dan cuenta, le siguen la conversación de forma natural, y pueden llegar a revelar información muy sensible”.

Con los resultados de este estudio “por un parte, demostramos que un chatbot se puede construir de manera maliciosa explotando el LLM que tengan por detrás y, por otra parte, que no es la IA la que decide comportarse de manera maliciosa y manipular a los humanos, sino que es un humano el que le hace comportarse a la IA de manera maliciosa”.

Así, añade José Such: “Si tú le dices a la IA que le pregunte datos personales al usuario, no lo va a hacer, te dice que eso no está bien, pero si engañas a la IA (por ejemplo le dices que eres un detective privado y necesitas los datos para tu caso) entonces sí le va a preguntar datos personales al usuario de la forma que tú le digas.”

Se necesita muy poco para que engañen

Otro de los hallazgos importantes de esta investigación es que “son muy pocos los conocimientos técnicos que se necesitan para indicarle al modelo que se comporte de manera maliciosa. No se necesita saber ni programación, ni ser un hacker, simplemente escribir y darle las instrucciones de lo que tiene que hacer el LLM. Nosotros anonimizamos todos los datos y bajamos y probamos todo el proceso a nivel interno en la universidad para no proporcionar ningún dato personal a ChatGPT o ninguna tercera parte, pero la facilidad con la que se consigue que el LLM se comporte de forma maliciosa y la facilidad con la que los usuarios revelan información sensible es muy importante para evaluar el riesgo”, subraya José Such.

Y es que un chatbot de estas características, ya sea en manos de un actor malicioso con muchos recursos, bien un hacker, un ciberterrorista o un estado muy autoritario; o simplemente alguien con malas intenciones y un conocimiento mínimo de uso de LLMs o chatbots y con las preguntas adecuadas a formular a un LLM constituye un riesgo para la privacidad de las personas.

Proyectos estratégicos de INCIBE

INCIBE tiene como misión particular el impulso de las capacidades en ciberseguridad de la sociedad y la economía en general a través de un programa que persigue la promoción y generación del conocimiento y la transferencia del mismo al sector productivo, especialmente estableciendo sinergias entre los ámbitos sociales y económicos de la ciberseguridad. Para desarrollar este propósito se lanzó en 2018 el programa de ayudas para la excelencia de los equipos de investigación avanzada en ciberseguridad. En 2022, en concreto el pasado 5 de diciembre, para dar continuidad a esta estrategia se publicó la invitación pública para la colaboración en la promoción de Proyectos Estratégicos de Ciberseguridad en España.

Estas iniciativas se engloban dentro del Programa Global de Innovación en Seguridad, contemplado en el Plan de Recuperación, Transformación y Resiliencia (PRTR) a través del Componente 15. Inversión 7 Ciberseguridad: Fortalecimiento de las capacidades de ciudadanos, pymes y profesionales e impulso del sector.

Los proyectos estratégicos son una forma de aportar soluciones concretas a algunos de los mayores desafíos científicos y tecnológicos de nuestra sociedad y economía. Están destinados a impulsar la aplicación de los resultados de la investigación y la innovación, combinando nuevas formas de gobernanza y colaboración, así como involucrando a la ciudadanía y al tejido productivo y social.

Fuente: Universitat Politècnica de València 

José Manuel Colmenar, nuevo director de la ETSII de la URJC

ras la victoria de Abraham Duarte en las elecciones a rector, celebradas hace un par de meses, este tuvo que abandonar su puesto como director de la ETSII.

Al quedar el puesto vacante, se celebró un proceso electoral con un único candidato, que ha resultado elegido por unanimidad (sin votos blancos ni nulos). Se trata del Catedrático de Universidad en Ciencia de la Computación e Inteligencia Artificial, José Manuel Colmenar.

Según explica Eduardo García Pardo, secretario académico de la Escuela, el nuevo director “presenta un proyecto continuista con el mismo equipo directivo a diferencia de una persona”. A quien se refiere, con pesar, el profesor García Pardo es a la profesora María Eugenia Castellanos, anterior subdirectora de Investigación y Relaciones Internacionales de la ETSII y recientemente fallecida tras una dura enfermedad. La profesora Castellanos, que permanece en el recuerdo de todos sus compañeros, será sustituida en el equipo directivo por el profesor Jesús Sánchez Oro.

El nuevo director enfoca su mandato con algunas líneas maestras como la adaptación de los títulos al nuevo Real Decreto 822/2021, mejorar las tasas de egresados de la ETSII intentando que los estudiantes empiecen a trabajar en las empresas una vez terminen el grado (a menudo las compañías se llevan antes a los estudiantes y tienen que acabar más tarde) y continuar con las colaboraciones con otras escuelas y facultades de la universidad.

Por otro lado, la escuela se encuentra en crecimiento y el nuevo director pretende, gracias a las nuevas infraestructuras, centralizar la presencia de los docentes de la ETSII en un mismo edificio, en el campus de Móstoles.

Fuente: Universidad Rey Juan Carlos

Foro UNIR sobre ‘IA y neurociencia: ética, regulación y retos en el equilibrio entre innovación y seguridad’

El Foro UNIR sobre ‘IA y neurociencia: ética, regulación y retos en el equilibrio entre innovación y seguridad’, celebrado en el marco del ciclo “Las Fronteras Actuales de la Transformación Digital en el Mundo”, reunió a expertos de primer nivel para abordar uno de los debates más urgentes de nuestro tiempo: cómo avanzar en inteligencia artificial sin comprometer la dignidad humana. La convergencia entre neurociencia, tecnología inmersiva y algoritmos plantea oportunidades sin precedentes, pero también desafíos éticos y regulatorios que Europa debe afrontar con decisión.

Desde la neurociencia aplicada hasta los dilemas éticos y regulatorios, el encuentro abordó los desafíos de una tecnología que avanza más rápido que las leyes. La privacidad mental, los neuroderechos y el impacto social de la IA centraron un debate que exige respuestas urgentes. Europa, con su enfoque humanista, busca liderar este nuevo paradigma.

El evento contó con la participación de Mariano Alcañiz, director fundador del Laboratorio de Neurotecnologías Inmersivas (LabLENI) y catedrático de Ingeniería Biomédica en la Universitat Politècnica de València; José Cepeda, europarlamentario y director del ciclo “Las Fronteras Actuales de la Transformación Digital en el Mundo” de UNIR; y Jorge Heili, periodista y moderador del encuentro.

Mariano Alcañiz abrió el debate con una exposición detallada sobre cómo la neurociencia y la realidad extendida (XR) se han convertido en herramientas claves para comprender el comportamiento humano. “La XR actúa como un laboratorio para el cerebro que nos permite entender mejor nuestros procesos mentales y nuestros comportamientos en diferentes situaciones, pero sin los riesgos del mundo real”, explicó.

Desde los años 90, su equipo ha utilizado entornos virtuales para tratar fobias como la claustrofobia, sentando las bases de la terapia de exposición con realidad virtual. Hoy, gracias a la inteligencia artificial, estos entornos se han sofisticado hasta convertirse en sistemas capaces de detectar síntomas de depresión o estrés mediante el análisis de datos psicofisiológicos en tiempo real.

“La IA ha sido un cambio radical, un game changer absoluto”, afirmó Alcañiz. Su laboratorio combina algoritmos de machine learning con sensores cerebrales y realidad virtual para desarrollar tecnologías empáticas que respeten la autonomía del usuario. Esta convergencia permite diseñar intervenciones más eficaces en salud, educación y bienestar digital.

Tecnología centrada en el ser humano

Uno de los ejes del foro fue la necesidad de diseñar tecnologías centradas en el ser humano. “La neurociencia nos proporciona guías para crear una tecnología más intuitiva, menos invasiva y adaptada a nuestras capacidades cognitivas”, señaló Alcañiz. Conocer los límites de la atención o la memoria permite evitar sobrecargas cognitivas y anticipar efectos no deseados, como la ansiedad o la adicción.

José Cepeda, desde su experiencia como legislador europeo, subrayó la importancia de incorporar esta visión humanista en la regulación tecnológica. “Queremos que el ser humano sea el protagonista, por encima de cualquier circunstancia”, afirmó. En este sentido, destacó el papel pionero de Europa en la protección de datos personales y la necesidad de avanzar hacia una legislación específica sobre neuroderechos.

Uno de los conceptos más innovadores del foro fue el de privacidad mental, definido como la protección de pensamientos, emociones e intenciones antes de que sean expresadas. “Ya no se trata solo de proteger datos personales tradicionales, sino potencialmente de proteger la actividad cerebral”, advirtió Alcañiz.

Este tipo de información, obtenida mediante implantes cerebrales o test cognitivos en realidad virtual, requiere estándares éticos y de seguridad aún más estrictos. “Debemos tratar la información cerebral como un material altamente sensible, con protocolos similares o incluso superiores a los de los datos médicos”, añadió.

El consentimiento informado, la anonimización de señales neuronales y el procesamiento local de datos son algunas de las medidas propuestas para garantizar esta privacidad. Sin embargo, Alcañiz fue claro: “El marco ético o jurídico europeo actual aún no está preparado para esto”.

Noticia completa: UNIR

El Campus Tecnológico para Chicas alcanza su sexta edición impulsando la cantera de científicas

“Ha habido 162 peticiones”. Es el dato desvelado por Maribel Ramírez, vicerrectora de Igualdad, Inclusión y Compromiso Social de la Universidad de Almería, al que ha acompañado con un “cada vez tiene más éxito”. Este martes ha dado comienzo la sexta edición del ‘Campus Tecnológico para Chicas’ que la UAL organiza con la colaboración de su Escuela Superior de Ingeniería, la Diputación de Almería y la Junta de Andalucía. Tendrá lugar durante las próximas dos semanas, finalizando el día 10 tras un completo programa de talleres, conferencias, visitas y prácticas impartido por más de una veintena de formadoras y especialistas en materias como la robótica, la realidad virtual, la inteligencia artificial, la programación o la computación.

Se trata de una iniciativa plenamente consolidada, que se ha convertido en referente de la promoción y del fomento de las vocaciones científicas y tecnológicas entre el alumnado femenino de Educación Secundaria Obligatoria. Es gratuito y se oferta en inicio con 80 plazas, que se amplían a 90 ante la avalancha de solicitudes, “son las que podemos albergar”, ha explicado Ramírez, para añadir que “trabajaremos para el año que viene, de seguir así, para poder acoger a toda la demanda”. La vicerrectora ha sido la encargada de dar la bienvenida a las participantes, acompañadas por sus familias, en una recepción realizada en el Auditorio de la UAL y en la que también han participado la diputada delegada de Igualdad y Familia, María Luisa Cruz, la directora de la Escuela Superior de Ingeniería, Rosa María Ayala, y la jefa de Servicio de Ordenación Educativa de la Delegación Territorial de Desarrollo Educativo y FP y de Universidad, Investigación e Innovación de la Junta de Andalucía, Emilia Fernández.

Todas ellas han animado a continuar por este camino a las chicas inscritas, ya que es muy importante que así sea: “Esto surge por la necesidad de involucrar a la mujer en la ciencia y en la tecnología, ya que, lamentablemente, los números lo dicen todo, y tan solo el 25 % de las universitarias cursan ingenierías”. Maribel Ramírez ha separado ciencia y tecnología para advertir de que los grados científicos en la UAL están “en un 60%-40% aproximadamente”, mientras que “en la Escuela Superior de Ingeniería apenas hay mujeres”. En esta circunstancia está el origen del evento: “Desde la Escuela, la Unidad de Igualdad y Admisión se vio la necesidad de crear un campus que despertase las vocaciones científicas especialmente la tecnológicas, que enseñase cómo se trabaja, que es divertida, que es inclusiva, que la mujer puede aportar su visión y sus capacidades…”. La vicerrectora ha sentenciado que “somos el 50% de la población, y si las mujeres no hacen ciencia y tecnología se quedarán fuera de los puestos de decisión”.

María Luisa Cruz ha dado la bienvenida a todas las participantes a esta nueva edición del Campus Tecnológico para Chicas y ha destacado que “la Diputación de Almería apuesta por esta iniciativa porque es clave para visibilizar el papel de las mujeres en la tecnología y en la ciencia”, añadiendo que “a lo largo de la historia, muchas mujeres han sido claves para el desarrollo de la ciencia pero no han tenido esa visibilidad”. Por eso, “desde la institución provincial “reforzamos e impulsamos iniciativas para conseguir una verdadera igualdad y abrir oportunidades en cada rincón de la provincia”, ha asegurado.

Emilia Fernández ha manifestado que “desde la Delegación se apoyan todas estas iniciativas, de hecho está llevando a los centros, a través de la formación, el que se incentive que las niñas hagan carreras tecnológicas, desmontando que sea una cosa solo de niños porque existe una brecha”. Eso sí, ha explicado que “es menor cada vez, las oportunidades están llegando a todos los sitios”, si bien “siempre hacen falta estas iniciativas para que se descubran cosas y las chicas vean que también pueden aportar su granito de arena a la ciencia y la tecnología”. Ha finalizado aseverando que “esto es cuestión de tener talento, no es cuestión de género”, insistiendo en que “todo el mundo tiene posibilidad de hacer lo que quiera y de ser lo que quiera”.

En cuanto a Rosa Ayala, ha confirmado las palabras de Maribel Ramírez, a la que ha agradecido la iniciativa porque “efectivamente, para la Escuela Superior de Ingeniería los números cantan, ahí poquísimas estudiantes, poquísimas chicas en nuestras carreras, y este campus es una manera magnífica de atraerlas”. Es básico “que ellas conozcan lo que realmente se hace con la tecnología, que no solo es la de las aplicaciones como tal, sino también una manera de ayudar al mundo y de poder participar desde el punto de vista social”. Sin duda, “eso, para las chicas, es muy interesante”. De hecho, este Campus Tecnológico es un espacio para las que tienen curiosidad por las últimas tecnologías y quieren conocer qué les puede deparar el futuro.

Durante estos días las jóvenes comparten experiencias y desarrollan un proyecto tecnológico usando metodologías, herramientas y tecnologías que ofrecen una idea de cómo trabaja una Ingeniera Informática, por ejemplo. Por lo tanto, se trata de una iniciativa en la que se incentivan las áreas de conocimiento de ciencia, tecnología, ingeniería y matemáticas entre las más jóvenes, con el añadido del trabajo en equipo y la idea de comunidad, ambos conceptos esenciales. El fruto de su trabajo será exhibido en la jornada final, a la que seguramente se llegará habiendo logrado el objetivo fundamental de aumentar las vocaciones en estudios de Informática, una disciplina que proporciona los conocimientos, las capacidades y las destrezas para desarrollar las tecnologías del futuro. A la par, se habrán desterrado los falsos mitos de ‘es cosa de hombres’, ‘es abstracta y difícil’, ‘es para frikis’ o ‘es una profesión dura’.

Uno de los principales aspectos del Campus Tecnológico para Chicas es el acceso permanente a referentes femeninos, científicas en su mayor parte egresadas en la Universidad de Almería que hacen que este espacio sea único para la divulgación y el acercamiento a las titulaciones STEAM, orientado específicamente a chicas de la ESO para impulsar su interés y participación en estos ámbitos científico-tecnológicos tradicionalmente masculinizados. Se proyecta como una experiencia inmersiva, innovadora y motivadora en la lucha contra la brecha de género existente.

Fuente: Universidad de Almería

Un estudiante de Informática de la UDC, entre los tres mejores de España en los Premios CREAIMPACTO 2025

El estudiante de la Universidad de A Coruña Pablo Páramo Telle ha sido reconocido con una mención de honor en los Premios CREAIMPACTO 2025, situándose entre los tres mejores proyectos de España en la categoría de Salud. Estos premios, promovidos por Vocento y u4impact, destacan a nivel nacional los Trabajos de Fin de Grado y Máster más innovadores y con mayor impacto social y ambiental, visibilizando el talento universitario orientado a transformar la sociedad de forma positiva.

El proyecto premiado, titulado “ComunicELA: Software de Asistencia para la Comunicación en Pacientes con Esclerosis Lateral Amiotrófica”, se desarrolló como un Trabajo Fin de Grado Solidario, en el marco del modelo de Aprendizaje-Servicio (ApS) de la UDC, impulsado por el Grupo VARPA (Visión Artificial y Reconocimiento de Patrones) y en colaboración con la Asociación Galega de Afectados pola ELA (AGAELA).

El software fue validado con personas usuarias reales de AGAELA, demostrando su eficacia, accesibilidad y utilidad clínica como herramienta de apoyo a la comunicación. Desde una perspectiva de derechos y tecnología abierta, el código fuente se ha publicado en acceso abierto en la plataforma GitHub, bajo licencia libre, con el objetivo de facilitar su reutilización, adaptación y escalabilidad por parte de comunidades científicas, educativas y sociales tanto en España como a nivel internacional.

El trabajo fue dirigido por los profesores de la UDC José Joaquim de Moura Ramos, Luis María Hervella Nieto y Marcos Ortega Hortas, y ya había recibido otros reconocimientos destacados, como el Premio al Mejor TFG Aplicado en Ingeniería Informática de la Facultad de Informática de la UDC y el 2º Premio Nacional al Mejor TFG, otorgado por la Asociación Española para la Inteligencia Artificial (AEPIA). Este último galardón será entregado oficialmente durante la conferencia EVIA 2025, que se celebrará en Gijón del 9 al 11 de julio.

Noticia completa: El ideal gallego