En los últimos días se ha conocido una de las noticias más interesantes en lo que se refiere a avances en inteligencia artificial: el posible surgimiento de una nueva manera de desarrollar sistemas de IA a través de Q* modelo de OpenAI. Además de que esta novedad sería capaz de desarrollar operaciones matemáticas a nivel escolar, se consolidaría como un paso importante en la búsqueda de la compañía por alcanzar la construcción de la inteligencia artificial general, es decir, aquella que supera la inteligencia de los humanos.
Aunque la compañía no ha revelado muchos detalles al respecto, en este artículo de Futuro Eléctrico queremos presentarte la información más relevante sobre este nuevo modelo y las preocupaciones que desde ya embargan a expertos en el campo.
Tabla de contenidos
¿Qué es Q*, el modelo de OpenAI?
Como se mencionó en la introducción de este artículo, aún no se tiene mucha información sobre Q* modelo de OpenAI; los pocos datos que se tienen son exclusivos de Reuters y algunos comentarios en foros de la compañía. Sin embargo, las suspicacias y pistas al respecto existen y cobran relevancia.
En primer lugar, se cree que Q* podría estar relacionado con el Q-Learning, el cual es una técnica de aprendizaje por refuerzo que le enseña acciones a tomar a una IA con el fin de alcanzar una determinada recompensa, es decir, mediante retroalimentación positiva y negativa. Según Subbarao Kambhampati —profesor de la Universidad Estatal de Arizona— Q* podrá implicar el uso de grandes cantidades de datos sintéticos que, al ser combinados con el aprendizaje por refuerzo, puedan entrenar LLM en tareas específicas, como la aritmética de primaria.
También se cree que Q* modelo de OpenAI hace parte de un proyecto de supervisión de procesos, centrado en reducir los errores lógicos cometidos por grandes modelos de lenguaje. De esta manera, sería indispensable para entrenar a los modelos de IA para desglosar los pasos de resolución de un problema y aumentar así las posibilidades de que un algoritmo logre una respuesta correcta.
Si este sistema de IAG es capaz de resolver de resolver problemas matemáticos de forma fiable, requeriría el nacimiento de un sistema de planificación en varios pasos que, sin duda, llevaría a OpenAI hacia la cima de avances en el campo.
Q* modelo de OpenAI y otros modelos de inteligencia artificial
Para nadie es un secreto que puede resultar muy difícil el comparar un modelo del que no se conoce mucho con otros modelos de IA de los que ya se ha comprobado su funcionamiento. Empero, hay algunos puntos de partida que es importante tener en cuenta.
Es importante destacar que la resolución de problemas matemáticos es uno de los campos sobre los que más se ha trabajado en los últimos años. Ejemplo de ello es la integración de esta función a modelos lingüísticos como ChatGPT Y GPT-4. Aunque en estos casos, el aprendizaje por refuerzo fue fundamental para crear respuestas más coherentes, las operaciones que logran estos sistemas no son tan acertadas o fiables, debido especialmente a que aún no se cuenta con los algoritmos y estructuras adecuadas para lograrlo, lo que se esperaría que sí tenga Q* modelo de OpenAI, partiendo de una capacidad de razonamiento mucho más eficiente.
Lo mismo sucede con modelos como GATO, una IA multipropósito desarrollada por DeepMind. Este modelo de IA se desarrolló para permitirle jugar videojuegos de Atari, subtitular, chatear, analizar imágenes o guiar un brazo robótico. Aunque en su momento los profesionales aseguraron que este era un modelo generalista, la verdad es que los resultados aún no han demostrado este alcance, ya que en muy pocas ocasiones ha superado la inteligencia humana.
A pesar de las diferencias en capacidad con los modelos anteriores, no se puede dejar de mencionar que Q* sería un paso importante para dar lugar a nuevos modelos que logren una compresión más profunda de las matemáticas que, además, ayuden a la investigación en el campo científico y de la ingeniería, lo que, eventualmente, supondría transformaciones importantes en modelos ya existentes, como los mencionados anteriormente.
Q* y la Inteligencia Artificial General
Ahora bien, ¿cómo podría Q* modelo de OpenAI acercarnos al desarrollo de la IAG? En primer lugar, vale resaltar que los modelos de IAG deberán ser capaces de generar textos, imágenes y audio mediante una alta predicción estadística. Cuando estas búsquedas están relacionadas con cálculos matemáticos, se espera que estos sean ejecutados con igual o mayor exactitud y eficiencia que como la haría la mente humana, permitiendo el razonamiento y el aprendizaje del entorno.
De esta manera y a diferencia de como lo haría una calculadora, se esperaría que Q* no solo pueda resolver un número ilimitado de operaciones, sino que sea capaz de aprender y aplicar el conocimiento obtenido en operaciones futuras. De ser así, la IA podría aprender a realizar diversas tareas a partir información ya existente, incluso logrando definiciones concretas de conceptos o problemas abstractos, partiendo de los sistemas de planificación anteriormente mencionados. La capacidad de generar respuestas matemáticas sería indispensable, entre otras cosas, para resolver problemas mucho más complicados o desarrollar tutorías más personalizadas.
Frente a este desarrollo, las opiniones no se han hecho esperar. Para muchos expertos en el campo, el acercamiento a un modelo como Q* supondría la apertura de un ciclo de grandes descubrimientos que superarían los límites creados por la misma área. Otros, en cambio, consideran que el potencial del avance podría distraer a los usuarios de los daños de la IA que se desglosan de la falta de regulación y el mal manejo de la misma.
Preocupaciones y debates éticos
Los rumores acerca del desarrollo de Q* modelo de OpenAI han desencadenado diferentes preocupaciones y debates éticos.
En primer lugar y teniendo en cuenta que el informe supondría la creación de un modelo que habría ganado habilidades de razonamiento similares a las de los humanos, los investigadores enviaron un documento al consejo informando que la posible destreza del sistema conllevaría hacia una amenaza preocupante para la humanidad, debido especialmente a la falta de salvaguardias y regulaciones que moderen la comercialización de los modelos de IA más avanzados. Esto teniendo en cuenta que la empresa afirma el querer buscar que la IAG sea beneficios para la humanidad y se desarrolle de manera segura bajo todos los lineamientos éticos.
Además, según lo mencionado en Reuters, los empleados temen que la carta que comunicó las decisiones sobre Q* precipitará las decisiones de la junta para despedir a Sam Altam, aunque la junta lo desmiente, asegurando que nunca se recibió una carta donde se pusiera en entredicho los beneficios de la IA y que, por tanto, tampoco jugaron un papel en el despido de Altam.
En segundo lugar, es importante mencionar que, de acuerdo con las pistas dadas sobre el modelo, para algunas personas esto no supondría un peligro potencial, ya que el camino aún es largo y muchos de los modelos anteriores prometieron el superar las capacidades humanas sin aún haberlo logrado. Esto de la mano con que OpenAI se ha negado a dar comentarios al respecto, lo que dificulta aún más el debate.
Palabras finales
El Q* modelo de OpenAI es, por ahora, un paso más hacia un objetivo que tiene la empresa desde hace ya mucho tiempo: el alcanzar el desarrollo de una IAG que responda a las exigencias esperadas de ella. Sin embargo, aún queda un trecho importante para afrontar los problemas éticos que se están debatiendo.
Sabiendo que queda mucho por conocer al respeto, queremos preguntarte: ¿habías escuchado sobre este avance? ¿crees que un riesgo real? ¡Te leemos!