El sesgo de la Inteligencia Artificial que pasa desapercibido: el especismo

Los sesgos son humanos y la inteligencia artificial los hereda, como ejemplo te dejamos este. De todas las aves vivas, el 70 por ciento son pollos y otras aves de corral, y al menos cinco millones de las restantes son especies silvestres traficadas ilegalmente.

¿Por qué es sorprendente, además de que la cría intensiva de animales a menudo se oculta a la vista del público? La respuesta podría estar en las herramientas que utilizamos para obtener información en línea.

Una rápida búsqueda de imágenes de la palabra “pájaros” mostrará criaturas volando libremente en sus hábitats naturales, mientras que solo una fracción de los resultados de búsqueda apunta a las industrias avícolas o al comercio ilegal de vida silvestre.

Una nueva investigación realizada por expertos en ética digital descubre por qué esto podría ser así y por qué los modelos de aprendizaje automático utilizados para entrenar sistemas de inteligencia artificial pueden estar en el centro del problema. Resulta que los modelos informáticos que enseñan diferentes tipos de inteligencia artificial para proporcionar imágenes y respuestas de chatbot no son neutrales. De hecho, las investigaciones encontraron que estos modelos refuerzan los sesgos existentes sobre los animales de granja o ocultan por completo la conexión con la cría intensiva de animales. De cualquier manera, el resultado es el mismo: nosotros, la especie humana transmitimos nuestros prejuicios a estos diferentes sistemas de inteligencia artificial, que a su vez propagan estos sesgos a nuestro inconsciente colectivo como un virus.

Thilo Hagendorff, investigador en inteligencia artificial de la Universidad de Stuttgart y autor del nuevo estudio, utilizó un “algoritmo de incrustación de palabras”, que es una forma de analizar cuán estrechamente se asocian un conjunto de palabras con otras. El algoritmo examina la forma en que ciertas palabras aparecen juntas en el texto, lo que ayuda a las computadoras a comprender las relaciones y el significado entre las palabras.

Él y sus coautores encontraron que los términos utilizados para denotar animales de granja, como “vacas”, “cerdos” y “pollo”, generaron resultados de búsqueda con ciertas suposiciones integradas. Por ejemplo, las búsquedas de imágenes de cerdos mostraron asociaciones con las palabras “cerdo”, “marrano” y “ganado”.

“Esto, por supuesto, tiene efectos secundarios”, dice Hagendorff, que vemos manifestarse en las interacciones humanas con los chatbots. “Cuando los usuarios conversan con estos modelos de inteligencia artificial sobre animales, tienden a perpetuar nuestras opiniones habituales [despectivas] sobre cerdos, vacas y pollos, en lugar de perros, gatos y loros”, agrega Hagendorff a Sentient Media. Esto, a su vez, entrena a la inteligencia artificial para pensar en los animales de granja de la misma manera que la mayoría de los humanos.

Y este sesgo pasa en gran medida desapercibido. “Los modelos de lenguaje de hoy pueden haberse vuelto más justos con los animales, principalmente debido al aprendizaje por refuerzo a partir de la retroalimentación humana, pero las medidas de mitigación del sesgo siguen siendo puramente antropocéntricas, por lo que nadie está mirando específicamente a los animales”, dice Hagendorff. En otras palabras, los reguladores de inteligencia artificial están mirando cuestiones importantes centradas en el ser humano como el racismo o el sexismo, pero el bienestar animal sigue siendo un punto ciego evidente.

Efectos lejanos, pero tangibles

Hasta hace poco, no existían trabajos de investigación revisados por pares que examinaran la discriminación contra los animales en la inteligencia artificial. Esta falta de conocimientos empíricos y de herramientas para garantizar que los sistemas de inteligencia artificial traten a las y los animales éticamente representa una amenaza seria para el bienestar animal, tanto hoy como en el futuro.

Además, la investigación sugiere que dejar en los modelos los sesgos anti-animales puede tener otras consecuencias más allá del bienestar animal. A lo largo de más de una década, la investigación ha demostrado consistentemente una correlación entre los patrones de pensamiento que devalúan a los animales y la presencia de actitudes sexistas o racistas, incluso en niñas y niños.

Sin embargo, la mayor ramificación que la inteligencia artificial tiene hacia el bienestar animal podría ser impulsar la intensificación de la agricultura animal, es decir, las granjas industriales, dice Christine Parker, investigadora principal en el Centro de Excelencia para la Toma de Decisiones Automatizada y la Sociedad en Melbourne.

La agricultura de precisión habilitada por la inteligencia artificial se está utilizando ahora para facilitar la expansión de la industria de granjas industriales, según Parker. Pero esto puede que sólo comience a arañar la superficie de las crecientes formas en que la IA puede causar daño a los animales, añade Simon Coghlan, investigador principal del Centro de IA y Ética Digital. Coghlan y Parker fueron recientemente coautores de un marco sistémico para evaluar los daños de la IA a los animales.

Algunos investigadores están preocupados de que la forma en que los sistemas de inteligencia artificial retratan a los animales podría fomentar la percepción de los animales de granja como algo que solo se consume, en lugar de reconocerlos como individuos que tienen personalidad y sienten dolor.

¿El mundo como debería ser o como es?

En cuanto al desarrollo de la inteligencia artificial, los reguladores de la inteligencia artificial están de alguna manera entre la espada y la pared. En un extremo, utilizan “mecanismos de distanciamiento” para proteger a los usuarios de resultados de búsqueda demasiado gráficos. “Si las personas vieran lo que sucede en los mataderos cada vez que buscan ‘agricultura’, se traumatizarían de inmediato. Así que es necesario tener muchos mecanismos de distanciamiento para que las personas [estén en el estado mental correcto] para tomar decisiones éticas sólidas”, dice Hagendorff. Pero estos “mecanismos de distanciamiento” pueden terminar ocultando la realidad de las granjas industriales, perpetuando el mito de que la mayoría de los animales de granja deambulan libremente por prados verdes.

El otro extremo es cuando los sistemas de inteligencia artificial “aprenden” y, por lo tanto, perpetúan todos los problemas actuales del mundo, incluida la percepción de que los animales deben ser valorados principalmente por su valor agrícola.

Actualmente, el racismo, el sexismo y otras formas de discriminación centradas en el ser humano se eliminan activamente de los modelos de inteligencia artificial porque los desarrolladores quieren representar el mundo tal como debería ser, no en la gloria de todos sus problemas actuales. “Pero en el caso del especismo, el mundo tal como debería ser se está utilizando para alejar información importante sobre el mundo tal como es”, dice él.

El proceso de entrenar a los modelos para producir menos sesgos especistas es la parte fácil, están de acuerdo estos expertos. La parte difícil es motivar a los desarrolladores de inteligencia artificial a hacerlo en primer lugar y lograr que las personas reconozcan que la inteligencia artificial puede hacer daño potencialmente a los animales.

Actualmente, no existe un organismo regulador global para guiar los aciertos y errores del desarrollo de la inteligencia artificial, pero incluso los propios desarrolladores de inteligencia artificial están haciendo el llamado para uno. “La UE está liderando actualmente este camino… pero en última instancia, los gobiernos y las grandes empresas generalmente no hacen nada a menos que la gente común haga ruido sobre lo que encontramos problemático”, dice Parker.

Como cualquier otra tecnología, la inteligencia artificial puede ser utilizada para fines muy diferentes dependiendo de quién tiene el poder para usarla o desarrollarla. En este momento, la inteligencia artificial se está desarrollando y utilizando principalmente por empresas muy grandes con sede en Estados Unidos para impulsar el consumo.

“Eso significa que la inteligencia artificial probablemente se utilizará en contra de los intereses de los humanos y no humanos marginados o vulnerables… y [eso] muchas de las formas en que la inteligencia artificial actualmente obtiene beneficios provienen de hacer daño a los animales en lugar de empoderarlos”, dice Parker.

Cómo abordamos los sesgos sobre los animales en la sociedad es un problema mucho más espinoso, pero es uno del que Parker se pregunta. “Si realmente queremos preocuparnos por los animales y el medio ambiente, ¿es mejor pasar tiempo mirando una computadora que escupe muchos modelos, o pasamos más tiempo sentados cerca de un arbusto mirando a los pájaros? No tiene que ser uno u otro, pero eso es en lo que he estado pensando”, dice Parker.

Pese a esto, hay un lado bueno, la empresa IBM y están trabajando para que la IA ayude a eliminar los experimentos en animales para los fármacos. Para conocer más proyectos y cómo usarla en pro de los animales ingresa aquí.

Artículo traducido al español de su original publicado en Sentient Media.