Conferencia de Directores y Decanos de Ingeniería Informática

¿Los algoritmos de inteligencia artificial pueden ser engañados?

Advierten que estos sistemas que median cada vez más nuestras vidas codifican los mismos tipos de prejuicios que tienen los humanos.

Autor: Cesar Dergarabedian

Las tecnologías de inteligencia artificial (IA) se desarrollan con rapidez y cada vez son más asequibles, aunque podrían usarse con propósitos malintencionados. Un ejemplo explica los temores en torno a esta tecnología. Un dron de rastreo fabricado por la empresa Skydio cuesta 2.499 dólares. Se armó con piezas de construcción tecnológicas disponibles para cualquiera: cámaras ordinarias, programa de código abierto y procesadores de computadora de bajo costo. Con el tiempo, reunir estos componentes será cada vez más fácil y barato. Estas mismas tecnologías aportan un nuevo nivel de autonomía a los vehículos, los robots en los almacenes, las cámaras de seguridad y una amplia gama de servicios de Internet. Los nuevos sistemas de IA también exhiben comportamientos inesperados y extraños debido a que no se entiende por completo la manera en que aprenden a partir de enormes cantidades de datos. Esto los hace vulnerables a la manipulación; se puede engañar a los algoritmos para que, por ejemplo, vean cosas que no existen.

En un contexto como éste, los delincuentes podrían burlar cámaras de seguridad o afectar a un vehículo autónomo. Josh Saxe, jefe de datos científicos de la empresa de seguridad informática Sophos, explicó a iProfesional cómo los cibercriminales utilizan la inteligencia artificial para sus actividades.

  • -Las tecnologías de inteligencia artificial se desarrollan con rapidez y cada vez son más asequibles. Pero ¿podrían usarse con propósitos malintencionados? –

Sí:

* Deepfakes: el contenido generado por la red neuronal es ahora una realidad y ha sido reconocido como una amenaza importante para el discurso público. Por ejemplo, las fallas profundas pueden hacer que parezca que una celebridad, una figura pública o un ciudadano privado ha dicho y hecho cosas que en realidad no hizo.

* La inteligencia artificial también se puede utilizar para generar URL falsas, publicaciones en redes sociales e incluso perfiles en redes sociales.

* Los investigadores también han experimentado con el uso de inteligencia artificial para generar malware, pero aún no se ha demostrado que estos métodos tengan ventajas significativas sobre las técnicas de generación de malware no basadas en IA como el polimorfismo.

  • – ¿Se puede engañar a los algoritmos de la inteligencia artificial, por ejemplo, para que vean cosas que no existen? –

Sí. Es bien sabido que los algoritmos de inteligencia artificial pueden ser engañados, y todavía no hay una solución robusta para este tipo de ataques. Por ejemplo, los investigadores han demostrado que al poner un sticker en una señal de stop, los delincuentes pueden engañar a un auto que se maneja solo para que no lo vea.

En ciberseguridad, es posible generar malware que evade la detección basada en el aprendizaje automático utilizando técnicas matemáticas. En general, los algoritmos de inteligencia artificial actualmente no son difíciles de engañar.

Este es un problema que se ha convertido en un foco importante de investigación en la comunidad de inteligencia artificial, incluso dentro de nuestro equipo de investigación de ciencia de datos en Sophos.

  • – ¿Estas técnicas automatizadas harán que sea más fácil perpetrar ataques que ahora requieren mucha labor humana, entre ellos phishing o ciberestafa, que involucra reunir y usar los datos personales de las víctimas? –

No creo que la inteligencia artificial cambie la forma en que los atacantes recopilan información sobre las víctimas. Creo que la inteligencia artificial puede ayudar a los atacantes, eventualmente, con la generación de texto en el “estilo” de un objetivo que buscan suplantar, o con la generación de imágenes falsas, audio y video que suplantan a un objetivo.

De esta manera, esperaría que la inteligencia artificial haga que los ataques de ingeniería social sean mucho más sofisticados en el plazo de la próxima década

  • – ¿Qué medidas deben tomar las organizaciones para prevenir estos usos malintencionados? –

Creo que la comunidad técnica en su conjunto necesita comenzar una discusión seria sobre los esquemas de firma digital y la infraestructura de clave pública para firmar contenido multimedia para evitar ataques de falsificación profunda.

También se ha vuelto importante usar inteligencia artificial para detectar contenido que puede deberse a ataques de ingeniería social. Finalmente, los investigadores deben continuar construyendo sistemas de inteligencia artificial que sean robustos en sus intentos de engañar a los atacantes.

Creo que vamos a ver el mismo tipo de juego del gato y el ratón en la ciberseguridad en el futuro, la diferencia es que la inteligencia artificial se convertirá en un nuevo escenario para este juego.

  • – ¿Qué principios deben adoptar las organizaciones al diseñar, desarrollar o utilizar la inteligencia artificial? Por ejemplo, los derechos humanos. –

Es importante que los algoritmos de inteligencia artificial que toman decisiones socialmente impactantes, como decidir qué contenido promover en un sitio de redes sociales, o decidir quién debe ser elegible para un préstamo, se diseñen con el objetivo de minimizar los sesgos en relación con la raza, el género, la orientación sexual, nacionalidad, etc. Tal como está, está bien documentado que los algoritmos de inteligencia artificial que median cada vez más nuestras vidas codifican los mismos tipos de prejuicios que los humanos llevan. Necesitamos continuar trabajando para remediar esto.

Fuente: Iprofesional

Siete equipos de programación competitiva participarán en el certamen Ada Byron en la UAM

Los participantes han sido seleccionados tras la fase local celebrada en el Campus de Móstoles en la que compitieron 14 equipos formados por estudiantes de todos los cursos.

La Universidad Rey Juan Carlos tendrá una importante presencia en el certamen de programación competitiva Ada Byron que celebrará su V edición durante los días 8 y 9 de marzo en la Universidad Autónoma de Madrid, UAM, en el que participan estudiantes de las universidades públicas de la Comunidad de Madrid.

Junto la UAM, sede coordinada por el profesor Luis Lago, las otras sedes de la competición están en la ETSII de la Universidad de Sevilla, coordinada por el profesor Pablo Trinidad, y en la ETSII de la Universitat Politècnica de València, coordinada por el profesor Joan Ánder Gómez.

Cinco equipos de tercero y cuarto, un equipo de segundo y otro de primero intentarán hacer un gran papel en este concurso universitario de programación. Los equipos están formados por tres estudiantes que competirán durante cinco horas intentando resolver entre ocho y doce problemas de distinta complejidad. Los seleccionados acaban de superar la fase local, celebrada en el Campus de Móstoles.

Según Jesús Sánchez Oro, profesor de la Escuela Técnica Superior en Ingeniería Informática (ETSII) y responsable de programación competitiva de la URJC, “el nivel ha estado mejor de lo que esperábamos, de nueve problemas totales, el equipo que más resolvió, ha solucionado siete”. Además, destaca, “dos equipos que no habían participado, resolvieron cinco”. Todos los equipos están formados por estudiantes de la ETSII El objetivo del grupo de programación competitiva era recrear el ambiente que los equipos se encontrarán en la Autónoma, “siguiendo el resultado en tiempo real, viendo como cada equipo resolvía y como se intercambiaban los puestos”, señala Jesús Sánchez-Oro. Con ese mismo objetivo los problemas propuestos, “trataban de abarcar todos los campos, algunos relacionados con cosas que se ven en el curso, otros más avanzados, hasta tuvimos un problema que se podría aplicar para Facebook”, indica el profesor. Todo de cara a conseguir el mejor nivel para afrontar la cita de la Universidad Autónoma ante la que Sánchez-Oro se muestra optimista, “tenemos un equipo muy fuerte y experimentado, otro equipo muy rápido resolviendo problemas que puede dar la sorpresa y dos equipos nuevos que pueden funcionar bien”. La respuesta la tendremos el día 9 de marzo, cuando se conocerán los resultados de este certamen.

El concurso Ada Byron recibe su nombre de la figura de la matemática Ada Lovelace (1815-1852), (nacida Byron), una de las principales figuras de la historia de la computación, considerada la primera programadora de ordenadores.

Fuente: URJC

El grado de Ingeniería Informática de la UEMC organiza la IX Jornada sobre ciberseguridad

El acto ‘Hacking challenge (for beginners)’ va dirigido a los estudiantes de Bachillerato y Ciclos Formativos de Grado Superior con ganas de aprender y superar retos de seguridad informática.

La Universidad Europea Miguel de Cervantes (UEMC) acogerá este jueves, día 28 de febrero, su IX Jornada de Informática y Nuevas Tecnologías, centrada en esta edición en la ciberserguridad. La actividad, titulada ‘Hacking challenge (for beginners)’, está organizada desde el Grado en Ingeniería Informática de la UEMC y se dirige a estudiantes de Bachillerato y Ciclos Formativos de Grado Superior que quieran aprender y superar retos de seguridad informática.

En todos los Congresos de Seguridad de primer nivel, tanto nacionales como internacionales, es habitual que de manera paralela a las ponencias se desarrolle el CTF (Capture the Flag), una serie de pruebas relacionadas con descubrir cierto tipo de vulnerabilidades que permitan la captura de una evidencia o flag. Para ello, el participante deberá descubrir o explotar diversas vulnerabilidades.

En la actualidad, las empresas especializadas en Ciberseguridad valoran de manera muy positiva que en el currículo de sus aspirantes aparezcan los CTFs en los que han participado, ya que es un buen indicador de ganas de aprender, perfil autodidacta con inquietudes, conocimiento de herramientas y tecnología y, lo más interesante, es que muchas de estas pruebas se parecen en gran medida a lo que un auditor o ‘pentester’ profesional se encontrará a lo largo de su carrera.

La Jornada ‘Hacking challenge (for beginners)’ comenzará a las 16.30 horas con a la presentación de las actividades a cargo de Susana Marcos, directora de la Escuela Politécnica Superior de la UEMC. A continuación, se desarrollará el taller ‘Hacking challenge’, dirigido por Amador Aparicio de la Fuente, auditor de Seguridad, profesor de CFGS en Salesianos Villamuriel y en el Máster de Ciberseguridad de la UCLM y mentor del programa ‘Talentum’ de Telefónica y CSE (Chief Security Envoy) en ElevenPaths, junto a Pablo-Abel Criado Lozano, exalumno UEMC e ingeniero de ciberseguridad y hacking ético en Everis Aeroespacial, Defensa y Seguridad.

Fte.: Tribuna de Valladolid

El doctorando de la UPV/EHU Mikel Artetxe recibe una beca Facebook para la realización de su tesis

Mikel Artetxe, graduado en Ingeniería Informática, ha recibido una de las becas que concede Facebook para la realización de la tesis doctoral. Mikel está realizando el doctorado en la UPV/EHU, dentro del grupo de investigación IXA de la Facultad de Informática, tras cursar el máster en Análisis y Procesamiento del Lenguaje y realizar una estancia de unos meses en París en el departamento de Investigación de Inteligencia Artificial de Facebook (Facebook Artificial Intelligence Research).

No es la primera vez que reconocen la excelencia de este graduado de la UPV/EHU. El año pasado obtuvo el primer premio nacional de fin de carrera que concede anualmente el Ministerio de Educación.

“La beca Facebook-explica Mikel Artetxe- supone un reconocimiento al trabajo realizado hasta ahora, así como un apoyo muy importante para continuar avanzando en mi carrera investigadora. A nivel personal estoy muy contento, pero no quiero perder la perspectiva de la precarización que sufre nuestro colectivo más en general. El mismo hecho de que sea una multinacional extranjera quien me va permitir continuar en unas condiciones dignas debería invitarnos a la reflexión.”

La investigación de Mikel Artetxe se centra en el área del Procesamiento del Lenguaje Natural y el Aprendizaje Automático (generalmente conocido como Inteligencia Artificial) y, más concretamente, ha estado trabajando en técnicas no-supervisadas y débilmente supervisadas para el aprendizaje multilingüe.

Entre otros, han conseguido que, por primera vez, una inteligencia artificial aprenda a traducir de un idioma a otro sin intervención humana, basándose únicamente en textos totalmente independientes en dos idiomas.

Este año Facebook ha concedido 21 becas a doctorandos de entre más de 900 solicitantes de todo el mundo. La beca Facebook tiene una duración de dos años y está dotada con un aporte económico de 37.000 dólares anuales y una ayuda complementaria para la asistencia a congresos.

Fte.: Campusa Noticias de la UPV/EHU

Emprendimiento y últimas tecnologías, en las VI Jornadas de Informática

Las Jornadas de Informática de la Universidad de Almería 2019 concluirán el próximo viernes, día 15. Se trata de la sexta edición de estas jornadas organizadas por el Departamento de Informática de la UAL como un espacio de divulgación de temas de actualidad en el que participan empresas, profesionales y estudiantes, ofreciendo una visión de tendencias tecnológicas actuales, nuevos ámbitos de aplicación de las Tecnologías de la Información y las Comunicaciones y oportunidades de empleo y modelos de empresa actuales.

Entre los ponentes que van a mostrar a los participantes su conocimiento a través de charlas y talleres destaca la presencia de Juan Carlos Preciado, vicerrector de Calidad de la Universidad de Extremadura, quien a su vez es profesor de Ingeniería de Sistemas Informáticos y Telemáticos. Estará presente tanto mañana miércoles, 13 de febrero, como el jueves, día 14.

En la primera de sus citas, Preciado ofrecerá la charla ‘Aventuras y desventuras de una SpinOff universitaria: emprender desde la universidad’ donde hablará de las dificultades para crear iniciativas emprendedoras innovadoras por parte de los recién titulados. A través de su conferencia intentará transmitir en primera persona una experiencia de éxito en este ámbito tan complejo y lleno de dificultades, tratando de dar las claves necesarias para conseguirlo.

En su segunda cita será el encargado ofrecer la charla invitada de las Jornadas de Doctorado en Informática, donde presentará un proyecto aplicado sobre analítica predictiva en la gestión inteligente de redes de distribución de agua potable. En la charla ahondará sobre la gran inversión realizada por las ciudades en los últimos años en la implantación de infraestructuras de sensorización, medición y control, ligada a la optimización y eficiencia energética. La cita será a las 11:30 horas en la Sala de Grados de edificio CITE-III (2ª planta).

Las II Jornadas de Doctorado en Informática de la Universidad de Almería (JDI2019@UAL) es un evento que se realiza en el marco del Programa de Doctorado en Informática de la UAL cuyo objetivo principal es la realización del seguimiento de la investigación anual de los estudiantes de doctorado, y que sirve, a la vez, como punto de encuentro anual para estudiantes, tutores, directores y miembros de la comunidad universitaria con intereses en la investigación científica en el ámbito de la Informática. Así mismo, estas jornadas pretenden servir como foro para la difusión y divulgación de los resultados de investigación de la Informática que se están desarrollando en las tesis doctorales soportadas por los actuales proyectos de I+D de los Grupos de Investigación del Departamento de Informática. Estas jornadas son en abierto, y la entrada es gratuita, pudiendo asistir a las mismas cualquier persona interesada por la investigación científica y técnica en el ámbito de la Informática.

Fte.: Noticiasdealmeria.com

CODDII participa en “Informatics4all Workshop” en Bruselas

El presidente de CODDII, Ernesto Pimentel asisitirá al grupo de trabajo de Informatics for All Coalition, el próximo 20 de febrero en Bruselas, para debatir sobre el papel clave de la informática en la educación primaria y secundaria.

El próximo 20 de febrero se celebra en Bruselas una sesión de trabajo de Informatics for All Coalition:Informatics4all Workshop

El encuentro está liderado por Informatics Europe, ACM Europe y CEPIS y en él participarán representantes de Dinamarca, Francia, Alemania, Israel, Polonia, Portugal, Reino Unido Estados Unidos y España, entre otros países.

El presidente de la Conferencia de Directores y Decanos de Ingeniería Informática, Ernesto Pimentel, acude como uno de los representantes nacionales de Informatics Europe.

El motivo de la jornada es buscar acciones conjuntas en Europa que permitan promover la enseñanza de la informática en educación primaria y secundaria. El objetivo es ayudar a promover un cambio en el modelo educativo acorde a los desarrollos digitales.

Durante la jornada los participantes se reunirán por grupos para identificar los principales retos a los que hay que hacer frente y posteriormente extraerán conclusiones que serán debatidas y propuestas como parte del plan de acción.

La iniciativa se basa en las recomendaciones a largo plazo del informe “Educación en informática en Europa: ¿Estamos todos en el mismo barco?”. Sus conclusiones resaltaron la necesidad de una iniciativa para asegurar que la informática se reconozca adecuadamente dentro de los sistemas educativos, de modo que Europa esté bien posicionada para competir globalmente en obtener los beneficios que se derivan de la informática.

Como punto de partida de la sesión de trabajo está el documento: Informatics for All The strategy, que destaca la necesidad de una estrategia para la educación informática en todos los niveles. Tanto como una especialización, es decir, una asignatura escolar fundamental e independiente, como en la integración de la informática con otras asignaturas escolares. Para lograr este objetivo, es necesario previamente determinar en ambos niveles qué abordar y cómo enseñar (currículo, métodos y herramientas) y cómo formar al profesorado.

Informatics for All es una iniciativa diseñada conjuntamente por Informatics Europe y ACM Europe. Su propósito es dar el debido reconocimiento a la informática como una disciplina fundamental para la educación en el siglo XXI, dado que esta ciencia sustenta el desarrollo del mundo digital y está teniendo un efecto profundo en todos los aspectos de la sociedad moderna.

Informatics Europe representa a la comunidad docente e investigadora de la informática en Europa, con más de 120 instituciones miembro en 30 países. La entidad promueve de manera conjunta acciones y establece prioridades en torno a la ingeniería informática.

Por su parte ACM Europe Council tiene como objeto aumentar la visibilidad de la Associacion for Computing Machinery -ACM- con actividades a en toda Europa. Asimismo CEPIS es The Council of European Professional Informatics Societies, organización que busca mejorar y promover un alto nivel entre los profesionales de la informática en reconocimiento del impacto que la informática tiene en el empleo, las empresas y la sociedad. CEPIS representa a 30 sociedades miembros en 29 países de toda Europa.