Cada vez son más las cosas que consideramos «inteligentes», desde relojes a celulares, pasando por supercomputadores y la misma inteligencia artificial. Las máquinas cada vez son más avanzadas y capaces de lograr nuevos hitos. Y a veces, abrumados por todos sus avances, decimos que son más inteligentes que nosotros mismos. Pero ¿pueden las máquinas realmente pensar? La Habitación China es un experimento que busca afrontar esta pregunta.
Más que responder si las máquinas pueden pensar, el experimento rebate la validez del Test de Turing mientras plantea la incapacidad de las máquinas de pensar o de tener algún tipo de consciencia. El planteamiento se mantiene en el tiempo y 40 años después sigue vigente. ¿Las máquinas piensan o son solo un mecanismo? ¿Se pueden considerar más inteligentes que nosotros? ¿Hay alguna inteligencia que sea más válida que otra?
La única manera que tendría un ordenador de pensar sería que fuera consciente. Y no sabemos hacer ordenadores conscientes.
John Searle, en entrevista por Tercera Cultura
Tabla de contenidos
En qué consiste el experimento de la Habitación China
Más que un experimento técnico, la Habitación China entra en el campo filosófico. Fue ideado por John Searle, filósofo de la Universidad de Berkeley, en 1980 y publicado en el escrito «Minds, Brains and Programs». Este experimento se ha convertido en uno de los argumentos más conocidos de la filosofía reciente. Plantea lo siguiente:
En una habitación cerrada se encuentra un individuo. Esta persona habla un idioma, por ejemplo, el inglés. Afuera de la habitación hay una persona que solo habla chino y no sabe qué hay dentro de la habitación cerrada. Esta persona ingresa a través de una rendija una tarjeta con un símbolo chino. La persona adentro, debe entregar una respuesta también en chino. Lo hace según un manual que le indica las respuestas que debe dar según los símbolos que reciba. De esta forma, aunque no entienda nada de chino, al seguir el manual produce una serie de respuestas apropiadas en grafías chinas que hacen que el interlocutor crea que ha tenido una conversación con alguien que domina su idioma.
El primer objetivo de la Habitación China era demostrar la invalidez del famoso Test de Turing. El objetivo era argumentar que el test era insuficiente para probar si las máquinas podían pensar. Ello es así dado que la programación de una máquina puede hacer que parezca que se entiende el lenguaje, cuando realmente no hay una comprensión real.
Según argumenta Searle, el poder acumular una enorme base de datos que permita dar respuestas que emulen a los humanos no dota de sentido ni de consciencia a las máquinas. El ordenador puede traducir o hablar chino sin comprender lo que dice, justo como hace el hombre del interior de la habitación.
Para Searle, la Habitación China demuestra cómo las máquinas usan solo reglas sintácticas que pueden responder sin comprender lo que dicen. De esta forma, también busca refutar la teoría de que la mente humana es un sistema computacional.
Te podría interesar: Inteligencia aumentada o cómo la IA puede hacer a los humanos más inteligentes
Más allá de la sintaxis: cuestiones de semántica
Cabe destacar que John Searle plantea este experimento para hablar de la imposibilidad de crear inteligencia artificial fuerte. Y es que el filósofo distingue dos tipos de inteligencia artificial. La débil simula el entendimiento sin estados intencionales; es decir, es una herramienta de estudio y explicación de la cognición humana.
Por su parte, la fuerte hace referencia a que la máquina tenga estados mentales. Esto quiere decir que pretende ser más que una simulación; es decir, sería duplicar la mente humana. Bajo esta idea, un ordenador que se programa para imitar la inteligencia humana no es una simulación, sino que es inteligente.
Este segundo concepto es lo que pretende refutar Searle. A partir del ejemplo de la Habitación China, extrae la siguiente conclusión general:
Lo dicho para el chino vale igual para otras formas de cognición. La mera manipulación de símbolos no basta, por sí misma, para garantizar cognición, percepción, comprensión, pensamiento, y así sucesivamente. Y dado que los ordenadores, en su cualidad de tales, son dispositivos de manipulación de símbolos, la mera ejecución del programa no basta para garantizar la cognición.
Al contrario de las máquinas, afirma el filósofo, nuestros estados mentales tienen contenido semántico (que comprenden el significado de la oración). La sintaxis (las reglas de oraciones bien formadas) resulta insuficiente sin la semántica. Y, para él, las computadoras carecen por completo de semántica.
Adicionalmente, Searle agrega el componente de la intencionalidad. Afirma que los estados mentales humanos tienen una intencionalidad, que permiten tener una relación con la realidad. Es decir, que los estados mentales pueden ser sobre algo distinto a sí mismos. Los pensamientos se dirigen, refieren o representan a algo en el mundo real. ¿Cómo es un pensamiento sin intención? Es imposible imaginarlo. Sin embargo, las máquinas no parecen tener ningún tipo de estado intencional.
Contenido recomendado: Con la tecnología actual no somos capaces de controlar una IA superinteligente | Esto dicen los científicos
La Habitación China: críticas
El experimento de la Habitación China abre la puerta a una multitud de cuestiones sobre el ser humano, la inteligencia, la consciencia, las ventajas y desventajas de la inteligencia artificial y el futuro. Los defensores de la inteligencia artificial fuerte insisten en que nuestra mente funciona como un programa de computador. En este sentido, se basan en el argumento expuesto por Hillary Putman, quien entendía la mente como una «máquina de Turing». De esta forma, el cuerpo funcionaría como el hardware y nuestro cerebro como el software. Además, la inteligencia sería un sistema compuesto por infinitud de conexiones neuronales.
Putman posteriormente se retractó de este pensamiento. Sin embargo, la idea fue replicada por pensadores como Daniel Dennet, filósofo de la Universidad de Tufts. Dennet aseguró que en el sistema de la Habitación China y la inteligencia artificial se crea una comprensión similar a la de la mente humana. De esta forma, un ordenador programado para imitar la inteligencia humana no estaría simulando, sino que tendría inteligencia.
Otro argumento en contra del experimento asegura que, aunque la persona no comprenda chino, puede ser que en el conjunto de elementos sí haya una comprensión del chino. No obstante, Searle rebate este argumento señalando que si la persona memorizara todos los manuales para manipular símbolos chinos, todavía seguiría sin comprender el idioma. Al igual que un procesador.
De igual forma, los críticos abordan la semántica. Para Searle, las computadoras carecen por completo de semántica. Sin embargo, sus críticos afirman que un ordenador es un sistema más complejo que solo lógica. Aseguran que las computadoras incorporan semántica al ser diseñadas y construidas. Esto se interpreta en las secuencias de voltajes (uno y cero), que digitaliza para convertir en un código binario de elementos discretos. Esto sería la interpretación y la semántica para estos críticos.
¿Pueden las máquinas pensar?
Una de las críticas más fuertes al experimento de la Habitación China reside en que tiene una visión meramente antropocéntrica. Esto implica que se limita la inteligencia a la versión humana y se piensa en la inteligencia artificial solo para solucionar un problema humano.
De esta forma surgen nuevas preguntas: ¿es más valida la inteligencia humana que la computacional cuando esta última saca conclusiones de millones de datos?, ¿se descartan de esta forma otros tipos de inteligencia, como la animal?, ¿en qué consiste realmente la inteligencia humana?
¿Es nuestra mente nuestro cerebro, como un órgano biológico explicable en términos físicos? ¿Se puede comprender como algo plenamente materialista? Algunos científicos abogan por eliminar la mente y postular un materialismo pleno. Otros hablan de negarla con distintos grados y matices.
Bajo esta perspectiva, las máquinas, constituidas con su software y su hardware, podrían pensar como nosotros. Y, al hacer lo mismo que una persona —recopilar datos, analizarlos, comunicar conclusiones y demás—, puede también tener consciencia. No obstante, si se entiende la consciencia e inteligencia bajo la perspectiva de Searle, se podría decir que las máquinas no comprenden nada en ningún grado.
Palabras finales
El experimento de la Habitación China es un debate que genera múltiples aristas y nos lleva a las bases mismas de la inteligencia. Es por esto que, 40 años después, todavía no pierde su vigencia. Tras conocer un poco sobre los argumentos y los de sus detractores, queremos conocer tu opinión. ¿Crees que las máquinas piensan o solo procesan una serie de códigos? ¿Podrán algún día pensar como nosotros? ¿Hay alguna inteligencia superior a la otra?
Lecturas sugeridas: