El investigador del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) de la Universitat Politècnica de València (UPV) y miembro de la Unidad Mixta de Investigación de la Escuela Valenciana de Posgrado y Red de Investigación en Inteligencia Artificial (ValgrAI), José Hernández Orallo, ha sido seleccionado para formar parte del Comité Científico que asesorará a la Oficina de Inteligencia Artificial, creado por la Comisión Europea e integrado por 60 personas expertas internacionales.
Este Comité Científico asesorará en la aplicación de la Ley de IA Europea y la evaluación de los impactos y riesgos de los modelos de IA de propósito general (IAPG).
Líder en evaluación de la IA
José Hernández Orallo es investigador de VRAIN de la UPV y catedrático de la Universitat Politècnica de Valencia, impulsor del AI Evaluation Program de la Fundación ValgrAI y en la actualidad, además, director de investigación del Leverhulme Centre for the Future of Intelligence de la Universidad de Cambridge (Reino Unido).
Su actividad académica y de investigación abarca diversos ámbitos de la inteligencia artificial, el aprendizaje automático, la ciencia de datos y la medición de la inteligencia y se centra en un análisis más profundo de las capacidades, la generalidad, el progreso, el impacto y los riesgos de la inteligencia artificial.
Desde 2017, ha liderado la agenda científica de la evaluación de la IA a través de nuevos paradigmas de medición y marcos evaluativos publicados en Nature, Science y las principales conferencias técnicas sobre IA. Es el fundador de aievaluation.substack.com y ai-evaluation.org.
Entre las principales responsabilidades del Comité Científico de la Ley de IA se incluyen alertar a la Oficina de IA sobre los riesgos sistémicos, asesorar sobre las metodologías de clasificación y evaluación de la IAPG, así como apoyar las actividades de vigilancia del despliegue de la IA en la UE.
Este Comité Científico complementa al Foro Consultivo, que proporciona a la Comisión y al Consejo de IA aportaciones más amplias de las partes interesadas procedentes de la industria, la sociedad civil y el mundo académico.
En la selección de personal experto se ha tenido en cuenta el equilibrio geográfico y de paridad de género. José Hernández Orallo, ha sido seleccionado junto a dos expertos más por parte de España: Javier Del Ser y Asunción Gómez Pérez. Y serán nombrados para formar parte del panel por un mandato de 24 meses, renovable, a título personal.
IA de propósito general
En concreto, el investigador de VRAIN de la UPV, José Hernández Orallo , explica que “el panel se centrará fundamentalmente en la IA de propósito general con riesgos sistémicos, aquella que por sus altas capacidades, alcance o novedad pueda suponer un riesgo sistémico, es decir una amenaza que puede afectar a sociedades o economías globales o a gran escala”.
En este sentido, el panel tendrá una función de asesoramiento mediante grupos de trabajo a corto, medio y largo plazo, pero también de vigilancia constante con la posibilidad de comunicar alertas a la Oficina Europea de la IA sobre el riesgo de nuevos modelos o fenómenos preocupantes por el uso masivo de los mismos.
José Hernández-Orallo señala además que, en su caso, “intentaré aportar rigor científico en la evaluación de capacidades y propensiones de la IA, basculando el trabajo del panel más hacia la anticipación de los riesgos de los sistemas frontera y de la superinteligencia futura, para complementar el trabajo de información y mitigación”.
