Deep Cogito ha lanzado su nueva serie de modelos de inteligencia artificial de código abierto, denominada Cogito v2, que perfecciona sus habilidades de razonamiento. Este lanzamiento, realizado bajo una licencia de código abierto, incluye cuatro modelos de inteligencia artificial híbridos, dos de tamaño mediano con 70B y 109B parámetros, y dos versiones a gran escala que cuentan con 405B y 671B parámetros. El modelo más grande, un modelo de Mixture-of-Experts (MoE) de 671B, ya se considera uno de los más potentes en el ámbito de la inteligencia artificial de código abierto a nivel mundial.

La compañía afirma que este nuevo modelo compite con los últimos desarrollos de DeepSeek y se acerca a sistemas propietarios como O3 y Claude 4 Opus. Sin embargo, lo más relevante no radica únicamente en su tamaño o potencia, sino en un cambio fundamental en la forma en que la inteligencia artificial aprende. En lugar de simplemente 'pensar' más tiempo durante el proceso de inferencia para encontrar una respuesta, Cogito v2 está diseñado para internalizar sus propios procesos de razonamiento.

Este razonamiento internalizado se logra mediante una técnica conocida como Iterated Distillation and Amplification (IDA), que destila los descubrimientos de una búsqueda y los incorpora a los parámetros centrales del modelo. El objetivo es construir una 'intuición' más robusta, permitiendo que el modelo anticipe el resultado de su propio razonamiento sin necesidad de realizar toda la búsqueda.

Gracias a que los modelos de inteligencia artificial de código abierto poseen un mejor 'presentimiento' sobre el enfoque correcto, sus cadenas de razonamiento son un 60% más cortas en comparación con las de competidores como Deepseek R1. Esta eficiencia también se refleja en el presupuesto, ya que Deep Cogito reporta haber desarrollado todos sus modelos, desde experimentos hasta el entrenamiento final, por un total combinado de menos de $3.5 millones. Aunque sigue siendo una suma considerable, es mínima en comparación con los gastos de muchos de los laboratorios de inteligencia artificial más destacados.

El modelo insignia de 671B recibió una atención especial, siendo entrenado no solo para mejorar sus respuestas finales, sino también para refinar el proceso de pensamiento en sí. Este enfoque desalienta al modelo de 'divagar' y premia un camino más directo hacia la solución. Los datos de rendimiento sugieren que esta metodología es efectiva, ya que el modelo de inteligencia artificial de código abierto de Deep Cogito se iguala o supera a las últimas versiones de DeepSeek en métricas clave, mientras que se aproxima a alternativas propietarias.

Uno de los resultados más sorprendentes es la capacidad de los modelos para razonar sobre imágenes, una habilidad para la cual nunca recibieron entrenamiento explícito. El equipo compartió un ejemplo donde el modelo de inteligencia artificial de código abierto de Deep Cogito comparó dos imágenes de un pato y un león, demostrando un proceso de pensamiento profundo sobre sus hábitats, colores y composición, todo a través del aprendizaje por transferencia.

Deep Cogito considera que esta propiedad emergente podría ser una forma poderosa de generar datos de entrenamiento para futuros sistemas de razonamiento multimodal. De cara al futuro, el equipo de Deep Cogito planea 'escalar las ganancias del auto-mejoramiento iterativo' en su búsqueda por construir una superinteligencia. Además, reafirmaron su compromiso de que todos los modelos de inteligencia artificial que desarrollen serán de código abierto.