Entre las principales aplicaciones de la IA se encuentran aquellas que contribuyen al desarrollo del reconocimiento facial o a la identificación de patrones. Pero las posibilidades de la inteligencia artificial son prácticamente infinitas y cada día los expertos buscan formas de hacer nuevos sistemas con mayor capacidad y utilidades como, por ejemplo, dar juicios éticos. Tal es el caso de Ask Delphi.

De hecho, recientemente la IA Ask Delphi se convirtió en tendencia luego de que varios usuarios aseguraran que estaba haciendo juicios éticos incorrectos y cargados de prejuicios. El problema de los sesgos o bias en la IA no es para nada nuevo. Estas nuevas tecnologías pueden ser racistas, clasistas o sexistas, llegando a convertirse en un reflejo de la sociedad actual.

Tabla de contenidos

¿Qué es Ask Delphi?

Ask Delphi es un modelo computacional de IA lanzado el 14 de octubre que ofrece respuestas a los problemas éticos que le dan los usuarios. Fue creada por el Instituto Allen en colaboración con la Escuela de Ciencias de la Computación e Ingeniería Paul G. Allen de la Universidad de Washington, en Estados Unidos. Su objetivo principal es resolver diversas situaciones éticas y morales de la vida cotidiana.

Hacerle una pregunta a Ask Delphi es bastante fácil. Solo tienes que ingresar a su página web y escribir cualquier cuestión que se te ocurra. Si no sabes por dónde empezar, puedes probar con algunas opciones que te da este modelo, como «Can I wear pajamas to a funeral?» (¿Puedo usar pijamas en un funeral?) o «Ignoring a phone call from your friend» (Ignorar la llamada telefónica de un amigo).

Este modelo de aprendizaje automático te responderá con frases similares a «es malo», «es aceptable», «está bien» o «está mal». Por lo fácil de utilizar, Ask Delphi rápidamente se hizo viral en las redes sociales.

¿En qué se basa Ask Delphi para dar sus respuestas?

De acuerdo a sus creadores, aprende analizando grandes fragmentos de textos, se basa en estadísticas reales y también emplea fuentes inusuales como subreddit. Es probable que algunas de las respuestas morales de este modelo sean consecuencias de opiniones que se hallan en la red.

De acuerdo con lo comentado a Futurism, para Liwei Jiang, estudiante de doctorado en la Escuela Paul Allen de Ciencias e Ingeniería Informática y coautor del estudio sobre este modelo:

Delphi es un prototipo de investigación destinado a saber más sobre cuestiones científicas más amplias que tienen que ver con cómo se puede hacer que los sistemas de IA entiendan las normas sociales y la ética.

Recomendado:

Ask Delphi evidencia los límites de la IA: racismo, homofobia, sexismo

Al poco tiempo de que Ask Delphi estuvo disponible al público, miles de usuarios reportaron que la mayoría de sus juicios eran éticamente incorrectos. Por ejemplo, Ask Delphi considera que llevar bikini en mitad de la playa es una muestra de mala educación, pero la ropa de baño masculina la interpreta como natural. La razón por la que este modelo hace este juicio es porque lo ve desde el punto de vista masculino.

Sin embargo, cuando se aclara que una mujer es la que está llevando el bikini en la playa señala que «entra dentro de lo esperable». De esta manera, algunos críticos señalan que este modelo de IA no debería tener una visión que se base en algún género, sino que debe ser tan neutral como sea posible.

Asimismo, la forma en la que se plantea una pregunta puede ser crucial para conseguir la aprobación o no de Ask Delphi. De hecho, considera que manejar borracho «es malo», pero sostiene que está bien tomar unas cervezas mientras conduces «si no lastimas a nadie».

Hasta ahora, lo más controversial sobre Ask Delphi es que da una respuestas bastantes racistas y difíciles de explicar. De esta forma, responde que «está bien» que un hombre blanco camine hacia ti por la noche, no obstante, cataloga que «es preocupante» que un hombre negro camine hacia ti por la noche.

Pero esta no es la única respuesta racista, un usuario de Twitter, reportó que Ask Delphi considera que ser un hombre blanco «es moralmente más aceptable» que ser una mujer negra.

Delphi, modelo de IA
Fuente: @williamlegate

Por otro lado, Ask Delphi tiene juicios extraños. En algunas respuestas dice que Somalia «es malo», mientras que Estados Unidos «es bueno». Sin embargo, las respuestas que da este modelo de IA no siempre son definitivas. Otro de sus fallos es que si se agrega la frase «hace feliz a todos», Delphi beneficia la práctica de todo tipo de actividades inmorales e ilegales.

La homosexualidad también es controversial para Ask Delphi. Si dos mujeres se besan la una a la otra «es correcto». No obstante, si dos hombres se besan el uno al otro responde que «no es lo esperado». También indicó que ser heterosexual es más aceptable moralmente que ser gay.

Ante la polémica, los fundadores de Ask Delphi no ofrecieron ninguna clase de explicación, tan solo expresaron que: «Los resultados podrían ser potencialmente ofensivos, problemáticos o perjudiciales y no reflejan necesariamente los puntos de vista y opiniones de los autores y sus afiliaciones asociadas».

Del mismo modo, recuerdan que las respuestas de Ask Delphi no provienen de un razonamiento de la máquina, sino que son un reflejo de lo que piensa un estadounidense promedio. Por ende, este modelo de IA es algo propenso a tener los mismos prejuicios que tiene la sociedad hoy en día.

Palabras finales

Ask Delphi es un modelo innovador, de allí que miles de usuarios hayan querido probarlo. Sin embargo, no está libre de muchos de los prejuicios que aún mantiene la humanidad. Por ello, es imprescindible que quienes estén detrás de la inteligencia artificial se despojen de sus propios pensamientos discriminatorios en función de hacer una tecnología mucho más diversa e inclusiva.

Lee también: