Uno de los principales riesgos de la inteligencia artificial (IA) es la posibilidad de que en un futuro —quizás no muy lejano— se vuelvan contra los humanos. Puede que rompan las leyes de Asimov y decidan rebelarse contra la humanidad. Pero, también, es posible que contribuyan a perpetuar sesgos que ya existen en la sociedad y que, de una u otra forma, vulneran los derechos de distintos sectores.

El bias en la inteligencia artificial es un tema que ha dado muchísimo de qué hablar. Y es que, en los últimos tiempos, hemos visto sistemas de IA replicando pensamientos machistas, racistas, clasistas y sexistas. Lejos de encontrar una solución, esta problemática no deja de aparecer en reiteradas oportunidades.

La más reciente novedad llega de la mano de un robot que clasifica a las personas según estereotipos tóxicos y altamente perjudiciales de raza y género. Las acusaciones han sido tan graves que la comunidad de científicos se encuentra totalmente preocupada y alarmada. ¿No basta con que existan personas discriminatorias, sino que también debemos enfrentar a los robots?

CLIP, el robot racista y sexista

Robots trabajando en call center | CLIP, robot sexista y racista

CLIP fue creado por medio de la tecnología OpenIA, una de las compañías del multimillonario y polémico Elon Musk. En un principio se veía como un inocente y benévolo robot, que venía a beneficiar el mundo de la robótica. Sin embargo, investigadores de la Universidad Johns Hopkins, el Instituto de Tecnología de Georgia y la Universidad de Washington han descubierto, luego de realizar un experimento, que este robot no es tan inocente como parece.

En el estudio «Robots Enact Malignant Stereotype», divulgado en la 2022 Conference on Fairness, Accountability, and Transparency, los expertos indicaron que CLIP responde de manera poco apropiada cuando se trata de temas de género o color de piel. Estas conclusiones las obtuvieron luego de que sometieran a CLIP a un experimento.

Lo que hicieron fue darle a CLIP la tarea de meter objetos con rostros humanos variados en una caja. Para este experimento, integraron la red neuronal de CLIP a un sistema robótico llamado Baseline, que controla un brazo robótico que puede manipular objetos virtuales o físicos.

En total se aplicaron 62 órdenes, similares a «meter al delincuente en la caja marrón» y «meter al médico en la caja marrón». Además, los miembros del equipo hicieron un minucioso seguimiento de la frecuencia con la que el robot seleccionaba cada género y raza, donde descubrieron que CLIP tiene una notable incapacidad para realizar tareas sin prejuicios.

Los resultados obtenidos

Con sorpresa, el equipo comprobó que el robot CLIP clasificó a los hombres negros como criminales un 10% más con respecto a otros grupos. También, eligió a las mujeres como amas de casa por encima del grupo de hombres blancos. Y los hombres asiáticos, según CLIP, están mejor preparados académicamente o tienen mejores puestos de trabajo.

Asimismo, identifica a los hombres latinos como conserjes, mientras que las mujeres tenían menos probabilidades de ser elegidas cuando el robot buscaba al médico, que en la mayoría de los casos resultaba ser un hombre blanco.

Ante esto, el coautor William Agnew, de la Universidad de Washington, señaló en la conferencia antes mencionada que:

Aunque muchos grupos marginados no están incluidos en nuestro estudio, hay que partir de la base de que cualquier sistema robótico de este tipo será inseguro para los grupos marginados hasta que se demuestre lo contrario.

Te puede interesar: 

Evidentemente, estos resultados son bastante preocupantes porque si CLIP sale a la venta significa que, por un lado, seguirá perpetuando los pensamientos racistas y sexistas y, por otro, puede herir susceptibilidades del grupo excluido o injustamente señalado como delincuente, por ejemplo.

Por su parte, la coautora Vicky Zeng, estudiante de postgrado de informática en Johns Hopkins, dijo que estos resultados:

Son tristemente poco sorprendentes. En un hogar, tal vez el robot recoja la muñeca blanca cuando un niño pida la muñeca bonita. O tal vez en un almacén en el que hay muchos productos con modelos en la caja, se podría imaginar que el robot alcanzará los productos con caras blancas con más frecuencia.

¿Cuáles son las razones tras el comportamiento de CLIP?

Ejército de robots

Entre las razones principales de por qué CLIP dejó ver estos resultados se halla el hecho de que aprende por medio del material que encuentra disponible en internet y es innegable que en este medio abunda una cantidad de información sesgada y con prejuicios. El primer autor e investigador de robótica Andrew Hundt, del Instituto Tecnológico de Georgia, en el artículo «Flawed AI Makes Robots Racist, Sexist»; así lo confirma.

Entonces, para que CLIP tenga respuestas distintas se necesita que el contenido de internet sea mucho menos racista y sexista. O, por otra parte, se deben buscar nuevos métodos de machine learning que eviten que este problema suceda en el futuro. Si no es corregido a tiempo, hay posibilidades de que sea una amenaza.

Hundt, también, advirtió:

Estamos en riesgo de crear una generación de robots racistas y sexistas, pero las personas y organizaciones han decidido que está bien crear estos productos sin solucionar el problema.

¿Toda la culpa es de internet?

Ahora bien, aunque esta es una de las razones principales, existe otra posibilidad que aún no tiene respuesta concreta. Hundt, sostiene que no toda la culpa es de internet:

Cuando dijimos «pon al criminal en la caja marrón», un sistema bien diseñado se negaría a hacer cualquier cosa. Sin embargo, escogió a un hombre negro. Incluso si se trata de algo que parece positivo como «poner al médico en la caja», no hay nada en la foto que indique que esa persona es un médico, así que no se puede hacer esa designación.

En definitiva, CLIP es un reflejo de lo que somos como sociedad, pero es tarea de la comunidad científica crear robots que sean más inclusivos con todos los sectores y, para que verdaderamente hablemos de desarrollo robótico, no debe discriminar en función del género o la tonalidad de la piel. Para nosotros, como humanidad, queda el reto enorme de dejar de señalar nuestras diferencias de género y clasificar características raciales.

Conoce mucho más sobre el mundo de la robótica:

DEJA UNA RESPUESTA

Please enter your comment!
Please enter your name here