OpenAI o1

El viernes de la semana pasada OpenAI anunció,sin previo aviso, el lanzamiento de un nuevo modelo de inteligencia artificial llamado o1, el cual tiene un funcionamiento muy diferente respecto a los modelos anteriores y puede sentar las bases de una nueva generación de IAs.

Este nuevo Modelo de Lenguaje Grande(LLM) ha sido entrenado con aprendizaje de refuerzo y ha sido diseñado para resolver problemas de mayor complejidad en el terreno de las ciencias, las matemáticas y la programación.

A diferencia de los modelos actuales, o1 priorizará dar la mejor respuesta posible en detrimento del tiempo de respuesta. Para ello se ha dotado al modelo o1 de un proceso de razonamiento mejorado, el cual permite resolver problemas de mayor complejidad eliminando sesgos y alucinaciones.

La tecnología bajo la que se realiza este proceso de razonamiento consiste en la estimulación de la Cadena de Pensamientos (CoT). Aunque OpenAI no ha mostrado su funcionamiento concreto, debido a su intención de mantener su ventaja competitiva, procedemos a explicar brevemente su funcionamiento:

Funcionamiento de los Modelos de Lenguaje Grandes (LLM) y la tecnología detrás de OpenAI o1

Los LLM, como o1, son modelos de inteligencia artificial entrenados con una gran cantidad de datos textuales. Estos modelos tienen la capacidad de generar contenido coherente gracias al Procesamiento de LenguajeNatural (PLN) y son capaces de abordar una amplia gama de tareas relacionadas con el procesamiento del lenguaje, como redacción, traducción y respuestas a diferentes preguntas. El funcionamiento de estos modelos se basa principalmente en la arquitectura Transformer.

1. Arquitectura Transformer

Los Transformers son la estructura fundamental detrás de losLLM. Esta arquitectura se diferencia de modelos anteriores como las Redes NeuronalesRecurrentes (RNN) y las Redes de Memoria a Largo Plazo (LSTM) en que no procesa el texto de manera secuencial. En su lugar, los Transformers emplean una técnica llamada self-attention que le permite enfocarse en diferentes partes del texto simultáneamente, permitiendo obtener una visión global del contexto en cada paso, lo cual no sucedía en los anteriores modelos y conllevó una gran revolución dada la enorme importancia que tiene en el lenguaje humano el entender el contexto.

El proceso self-attention permite al modelo identificar las relaciones y dependencias entre las palabras o frases, sin importar cuán alejadas estén dentro de la secuencia. Esto es crucial para mejorar la comprensión del contexto en tareas tales como la traducción o la generación de texto, permitiendo que el modelo mantenga una coherencia a lo largo de textos largos.

2. Pre-entrenamiento y Ajuste (Fine-tuning)

Los LLM, como o1, pasan por dos fases clave en su desarrollo:

• Pre-entrenamiento: En esta etapa, el modelo es expuesto a grandes cantidades de texto sin etiquetar, lo que le permite aprender los patrones generales del lenguaje,     incluyendo gramática, semántica y relaciones contextuales. Este entrenamiento es no supervisado, lo que significa que el modelo aprende a predecir la siguiente palabra en una secuencia basándose en las palabras anteriores.

• Ajuste  (Fine-tuning): Después del pre-entrenamiento, el modelo puede ser ajustado para tareas específicas. Durante este proceso, se expone al modelo a datos más centrados en una tarea concreta (como resolver problemas matemáticos o responder preguntas técnicas), con el fin de mejorar su precisión en ese dominio.

3. Redes Neuronales Profundas (Deep Learning) y gran número de parámetros

Los LLM, como o1, están formados por millones (y en algunos casos, miles de millones) de parámetros. Los parámetros son los pesos y sesgos que la red neuronal ajusta durante el entrenamiento para aprender patrones y generar predicciones. Cuantos más parámetros tenga un modelo, mayor es su capacidad de capturar información compleja, lo que le permite manejar tareas más variadas y desafiantes.

En el caso de o1, se espera que el número de parámetros sea muy elevado, dado que el modelo está diseñado para abordar problemas más complejos, lo que requiere una capacidad de aprendizaje y razonamiento mucho más avanzada.

4. Proceso de razonamiento mediante Cadena de Pensamientos(Chain of Thought - CoT)

La característica diferencial del modelo o1 respecto a sus antecesores es su capacidad para emplear el razonamiento secuencial mediante la técnica de Cadena de Pensamientos (CoT). Este enfoque es lo que permite a o1abordar problemas más complejos de una manera estructurada y lógica.

En lugar de proporcionar una respuesta inmediata y directa, el modelo o1 descompone un problema complejo en subproblemas más simples y manejables. Cada uno de estos subproblemas se aborda de forma secuencial, creando un "hilo" de razonamiento. Esta descomposición le permite generar una respuesta más precisa y detallada.

Por ejemplo, en un problema matemático, o1 primero descompondrá en problema, realizará una serie de cálculos intermedios, identificará patrones en los datos o evaluará diversas opciones antes de llegar a la respuesta final.Este proceso ayuda a evitar errores comunes que se producen cuando un modelo trata de dar una respuesta rápida sin considerar todos los pasos lógicos necesarios.

Al dividir las tareas en pasos, CoT permite que o1 mantenga una mayor coherencia a lo largo del razonamiento, lo que reduce las probabilidades de perder el hilo de la lógica y como se consecuencia dar una respuesta errónea o que contenga alucinaciones. Esto es especialmente útil en problemas que requieren inferencias complejas o decisiones que dependen de múltiples factores interrelacionados.

Aunque este proceso puede tomar más tiempo que los modelos convencionales que priorizan la velocidad de respuesta, la calidad y precisión de las respuestas se ven significativamente mejoradas. Esta es una de las principales diferencias de o1 respecto a sus predecesores: prioriza la precisión sobre la rapidez.

En resumen, o1 se diferencia de otros modelos anteriores por su enfoque en la exactitud del razonamiento gracias a la técnica de Cadena dePensamientos (CoT). Este enfoque permite que el modelo descomponga problemas en pasos secuenciales, manteniendo la coherencia y optimizando su capacidad para resolver tareas complejas, especialmente en los campos de la ciencia y la programación. A pesar de priorizar la precisión por encima del tiempo, esta característica marca un avance significativo en el desarrollo de la próxima generación de IAs.

Prueba de todo esto los resultados mostrados por OpenAI:

Fuente: OpenAI

‍

Artículo de Ignacio Muñoz Casquero, Senior Legal Counsel en Legal Army.

‍