Conferencia de Directores y Decanos de Ingeniería Informática

Mensajes etiquetados José Hernández-Orallo

José Hernández-Orallo: «Me preocupa que la inteligencia artificial esté en manos de unos pocos

Si usted acude ahora a un banco para solicitar un crédito, es posible que la decisión final sobre si se le concede o no el préstamo no la tome un humano. Los algoritmos y la inteligencia artificial se están imbricando cada vez más en la vida diaria, dictando desde la música que escuchamos en Spotify o las series que vemos en Netflix hasta aspectos tan cruciales como el conseguir o no un empleo.

José Hernández-Orallo, catedrático de la Universidad Politécnica de Valencia y miembro del Instituto Valenciano de Investigación para la Inteligencia Artificial, no cree que dejar ciertas cuestiones al criterio de estos procesos automatizados suponga dar ventaja a una parte de la sociedad sobre otra. «Una cosa es la desigualdad y otra que se tomen decisiones injustas», asegura durante una entrevista con EL MUNDO. «Emplear algoritmos, si están bien evaluados y diseñados, puede llevar a decisiones mucho mejores que las que realizan los seres humanos en multitud de ámbitos. Y eso va a ir a mejor, porque va a estar más vigilado y regulado».

Otra cuestión, añade, «es la desigualdad económica. Me preocupa que la inteligencia artificial esté en las manos de unos pocos en estos momentos. Sobre todo en el tipo de sociedad en que vivimos, donde el que gana se lo lleva todo. Como no regulemos -y en la situación actual es difícil hacerlo- para que este tipo de gigantes por lo menos paguen sus impuestos, tendremos un problema».

La creciente importancia de los algoritmos y la irrupción de dispositivos como los teléfonos móviles, que actúan como extensiones del propio ser humano, obligan a redefinir el concepto de ‘inteligencia’. Para Hernández-Orallo, cuyo libro más reciente es The Measure of All Minds (La medida de todas las mentes), «el espacio se hace más grande, porque empezamos a ver máquinas que llevan a cabo tareas que nosotros no somos capaces de hacer, o que hacemos de forma distinta. Por otra parte, la inteligencia natural está cambiando por la interacción con la artificial. Se trata de un proceso que siempre ha existido, porque la inteligencia humana se ha ido adaptando, y ahora estamos en un momento en el que se puede hablar de inteligencia híbrida o extendida».

El ejemplo más claro es nuestra dependencia de los gadgets para saber qué ruta tomar durante un viaje. «El futuro no estará tanto en reemplazar las funciones que ya realizamos nosotros por dispositivos que hagan lo mismo, sino en permitir hacer cosas que hasta ahora no habíamos sido capaces de conseguir, como lo de llegar a una ciudad nueva y orientarnos perfectamente», señala.

Al apoyarnos en esa muleta tecnológica, sostiene, no dejamos de ser menos humanos. «Lo que hace es darnos más poder. Eso sí, siempre surgen conflictos cuando algo es nuevo y no se sabe qué efectos secundarios puede tener. Uno de los problemas que provoca depender de la tecnología es el momento en que esa tecnología falla. Nos acostumbramos a vivir con ella y cuando no funciona no somos capaces de volver a la situación que teníamos antes», apunta Hernández-Orallo. De todas formas, recuerda, esto es algo que ha sucedido en todas las épocas: «Si ahora tuviéramos que retroceder 200 años estaríamos acabados, porque no sabríamos ni buscarnos la comida. Es algo que forma parte de la evolución natural de la cultura y de la tecnología humana».

La inteligencia artificial tampoco se crea en un vacío. Es fruto de una sociedad con unos valores y carga ideológica particular, como demuestra el caso del algoritmo de Google Photos que clasificaba como ‘gorilas’ a la gente de color. Para el catedrático valenciano es «completamente evitable» que la inteligencia artificial refleje los prejuicios sociales, aunque destaca dos factores importantes: «El primero es que la mayoría de los que desarrollan inteligencia artificial son hombres blancos que, consciente o inconscientemente, tienen una serie de sesgos. El segundo es que esa inteligencia artificial se nutre de algoritmos de aprendizaje automático que absorben datos. Si esos datos son parciales, el algoritmo aprenderá ese sesgo».

Sin embargo, afirma, «la manera en que se evalúan los resultados de estos modelos es mucho mejor de lo que se hacía quince años atrás. Antes, si un juez sesgaba había que analizar las sentencias una a una. Ahora, al crear un asistente para decisiones judiciales o médicas, se pueden analizar los datos en conjunto porque existen métricas».

Una de las últimas revoluciones copernicanas -comparable quizá al momento en que la Tierra deja de ser el centro del universo- ha sido entender que la inteligencia humana «no es el final del camino o de una escala natural, sino tan sólo un punto más en un espacio inmenso de inteligencias que podemos crear, del mismo modo que nuestro planeta es otro puntito en el universo», explica. «Y la inteligencia humana no es más que un tipo particular de inteligencia animal. Como lo más cercano a nosotros son los bonobos o los chimpancés, nos parece que hay un mundo, pero desde el punto de vista evolutivo es muy poquito».

El catedrático norteamericano Shawn Rosenberg lanzó hace meses una idea provocativa: El cerebro humano no está equipado cognitivamente para manejarse en democracia, y por esa razón han surgido autocracias en distintos países europeos y Donald Trump se ha hecho con la presidencia de Estados Unidos. ¿Realmente nos falta inteligencia para gobernarnos a nosotros mismos? «Ahora mismo todas las personas tienen el mismo peso, estén o no informadas», asegura Hernández-Orallo. «Si no respetamos eso se acabaría en situaciones muy peligrosas. La democracia funciona cuando tienes una sociedad bien educada que es capaz de pensar por sí misma, y quizá en algunos momentos de la historia eso no haya sucedido».

Otra cosa, añade, «es decir que una sociedad no está preparada para la democracia, algo de lo que estoy completamente en contra. Es más un tema de educación, porque es lo que potencia la inteligencia y permite que un grupo funcione mejor. Pero las sociedades son muy complejas y el ser humano, por mucho que lo eduquemos, posee un bagaje evolutivo y puede que no esté preparado para la sociedad del siglo XXI desde el punto de vista genético. Porque por mucha educación que tenga, al final hay costuras que se rompen por algún sitio».

Fuente: El Mundo