La capacidad de ciertos algoritmos para transformar la realidad y la adaptación –casi obsesiva– del comportamiento humano a sus requerimientos profundizan y complejizan la relación entre las nuevas aplicaciones de inteligencia artificial y la producción y propagación de contenidos desinformativos.

En 2016, dos investigadores de la Universidad de Shanghai publicaron un polémico estudio en el que afirmaban haber construido un algoritmo capaz de predecir la conducta criminal a partir de la forma de la cara de los individuos. Para ello, entrenaron al algoritmo con miles de fotografías de personas de origen chino. Las imágenes de los sujetos no delincuentes procedían de los servicios online de búsqueda de empleo, mientras que las fotografías de los convictos fueron extraídas de los registros policiales y procedían de documentos oficiales de identidad. De acuerdo con este trabajo, existirían rasgos faciales que caracterizan a los delincuentes frente a aquellos que no lo son. El algoritmo detectó diferencias entre los rostros de ambos tipos de personas en aspectos como la distancia entre los vértices interiores de los ojos, el ángulo entre la nariz y el labio superior y la curvatura del labio superior.

Años más tarde, los profesores de la Universidad de Washington Carl Bergstrom y Jevin West demostraron que ese algoritmo fallaba con mucha frecuencia y que el origen de sus errores se encontraba en la validez de los datos con que fue entrenado. En las fotografías de los sujetos no delincuentes utilizadas para entrenar al sistema aparecían individuos sonrientes porque esas imágenes iban a estar incluidas en el curriculum de estas personas. Por el contrario, las fotos de los delincuentes mostraban rostros totalmente serios porque tales imágenes se tomaron en contextos muy distintos: servirían para estar identificados en registros policiales. Lo que hizo el algoritmo fue detectar patrones de las caras en ambos tipos de personas y vincularlos (erróneamente) con características reales del rostro. El algoritmo detector de conductas delincuentes resultó ser, por tanto, un fiasco.

Noticia completa: Telos