Sí, hoy en día los avances de la inteligencia artificial nos sorprenden en diferentes niveles de la industria, en la medicina, en la educación e, incluso, en las labores más cotidianas y domésticas. Y aunque para muchos de nosotros la IA supone uno de los grandes desarrollos de la última década, la verdad es que sus beneficios vienen acompañados de riesgos importantes que no siempre sabemos cómo manejar. Esa es la razón por la que en este artículo de Futuro Eléctrico te hablaremos sobre la caja negra de la inteligencia artificial y el porqué supone una amenaza de alto nivel.
Tabla de contenidos
¿Qué es la caja negra de la inteligencia artificial?
Para nadie es un secreto que la inteligencia artificial es una de las tecnologías más revolucionarias de los últimos tiempos; sin embargo, su rápido avance y la cada vez más profunda inserción de la IA en diferentes áreas han aumentado la preocupación de aquellos expertos que aseguran que no todos los desarrollos vinculados a esta tecnología traen consigo beneficios; muchos de ellos son riesgos, como sucede con la caja negra de la inteligencia artificial.
En términos generales, el problema de la caja negra en la IA está vinculado a la existencia de modelos de inteligencia artificial que no explican o muestran cómo llegaron a un resultado o tomaron una decisión.
Esta es, entonces, una metáfora implementada para, paradójicamente, revelar aquellas cosas ocultas en los modelos de aprendizaje automático. Para el ser humano supone aquella dificultad para descifrar el funcionamiento interno de los sistemas de IA, especialmente en los modelos de aprendizaje profundo ─como las redes neuronales─.
¿Por qué la caja negra de la IA preocupa a los expertos?
La principal razón por la que la caja negra de la IA preocupa a los expertos es, como se mencionó anteriormente, la enorme dificultad para rastrear la lógica de la que parten los resultados. Esto necesariamente conlleva a una falta de transparencia en la manera en la que los modelos de IA actúan y que puede perjudicar la toma de decisiones en diferentes contextos, como el diagnóstico médico y el panorama financiero.
En el primer caso, es la confianza en los diagnósticos la que más se vería afectada, ya que al no saber cómo se analizaron los datos médicos y se llegó a una recomendación de tratamiento, los usuarios pueden cuestionar plenamente la fiabilidad y validez de lo que se les ha dicho, obstaculizando a su vez la relación entre médico y paciente y la atención personalizada.
Lo mismo pasa con el ámbito financiero; la incertidumbre sobre la imparcialidad y la exactitud en los procesos de detección de fraude o calificación crediticia afectan completamente el panorama. Además, al carecer los sistemas de IA de transparencia e interpretabilidad no crean una conexión estable y duradera con todos los preceptos de los activos digitales y la tecnología blockchain, lo cual pone en alto riesgo a la industria cripto.
Por otro lado, la caja negra hace cada vez más difícil la regulación y el desarrollo de nuevos marcos de acción para la IA. Tampoco facilita la identificación de vulnerabilidades y salvaguardas.
Avances recientes en la descodificación de la caja negra de la inteligencia artificial
Seguramente te estarás preguntando: ¿qué se ha hecho para solventar el problema de la caja negra en la inteligencia artificial? Aunque, por el momento, la caja negra de los sistemas más complejos está fuera del alcance de la comprensión humana, aún encontramos un camino de salida mediante la implementación de enfoques que promuevan transparencia e interpretabilidad.
Entre dichos enfoques vale mencionar a la IA explicable (XAI) y a los modelos de código abierto.
En lo que se refiere a la XAI, se debe decir que este campo investigativo busca desarrollar técnicas y algoritmos que puedan dar explicaciones comprensibles sobre sus decisiones. Aquí entran en juego conceptos y procesos de alta relevancia, como los modelos sustitutos y los análisis de sensibilidad.
De la mano con lo anterior, la adopción de modelos de código abierto permiten acceder de forma plena a los diferentes algoritmos y datos que conforman los modelos de IA. Esto hace que sea mucho más sencillo para desarrolladores y usuarios el comprender los diferentes procesos de los sistemas de inteligencia artificial.
Y entonces, ¿qué pasa con la caja blanca de la inteligencia artificial?
Así como en el mundo hay blancos y negros, la caja negra de la inteligencia artificial también tiene su opuesto: la caja blanca. Este precepto implica la creación de programas en los que las líneas de código introducidas se reflejen de manera clara y precisa en el resultado arrojado por los softwares.
Teniendo en cuenta lo anterior, los algoritmos que hacen parte de la caja blanca van más allá de solamente mostrar un resultado, por el contrario, generan reglas claramente legibles que le permitan al usuario realizar un desglose de todo el proceso que se realizó para llegar a determinada conclusión.
Los modelos de caja blanca son bastante útiles porque permiten tener un panorama mucho más amplio del funcionamiento interno de los modelos de Machine Learning, a través de diversas herramientas, como los árboles de decisión.
¿En qué se diferencia el modelo de la caja negra de la inteligencia artificial con el modelo de caja blanca?
Aunque ambos modelos pueden ser implementados en los diferentes procesos del Machine Learning, vale destacar que las diferencias entre estos deben ser consideradas.
En primer lugar, el modelo de la caja negra de la inteligencia artificial es opaco y no da explicación de los procesos internos. Es un modelo que puede trabajar sin supervisión, pero por ello mismo no se puede configurar ni adaptar, lo que limita el control de los humanos, permitiéndoles únicamente la visualización de resultados. Sus procesos son más rápidos, pero menos precisos, respondiendo solamente al ¿qué?
En segundo lugar y en cambio del anterior, la caja blanca es un modelo adaptable y transparente que no solo proporciona visualizaciones del proceso, sino que se permite probar, ajustar y configurar. Aunque requiere de mayor participación humana y puede ser un poco más lento, la caja blanca otorga a los usuarios un control total sobre los resultados obtenidos. Responde tanto al qué como al por qué.
Palabras finales
No es complejo el vislumbrar cómo el problema de la caja negra de la inteligencia artificial puede afectar la inclusión de esta tecnología y los posteriores desarrollos de la misma. Sin embargo, tampoco quiere decir que se deba tirar por la borda todo el esfuerzo hecho; hace falta una regulación más certera, el poner adecuadamente en práctica todos los lineamientos éticos de la IA e implementar a consciencia y con responsabilidad las soluciones/avances existentes al día de hoy.