Underdog, el asistente que funciona en el propio dispositivo desarrollado por Conway Research, publicó el 9 de octubre de 2026 Saluki 27B, un modelo de lenguaje con licencia Apache 2.0 pensado para ejecutar agentes de inteligencia artificial en ordenadores personales. Según MarkTechPost, se trata de una versión comprimida a 2 bits de Qwen3.8-27B que ocupa 7,89 GB, frente a los 54 GB que necesita el modelo completo en su formato original de 16 bits.
La propuesta llega pocos días después de que Underdog se presentara como alternativa centrada en la privacidad frente a asistentes como Muse de Meta. Ahora la empresa da un paso más y publica uno de los modelos que pueden sostener ese tipo de asistentes sin depender de la nube. La clave, según la compañía, es que la compresión se ajustó para proteger las llamadas a herramientas, la habilidad que convierte un modelo de conversación en un agente capaz de consultar servicios, ejecutar funciones y encadenar acciones.
Para entender la novedad conviene explicar qué es la cuantización. Los modelos almacenan miles de millones de números, llamados pesos, que normalmente ocupan 16 bits cada uno. Reducir esa precisión a unos pocos bits permite que el modelo quepa en mucha menos memoria y funcione en equipos domésticos, pero suele costar calidad. El reto es decidir qué partes del modelo pueden comprimirse más sin perder las capacidades que importan.
Saluki se construye en tres capas. La base es Qwen3.8-27B, un modelo denso de 27.000 millones de parámetros del equipo Qwen, con 64 capas, una arquitectura que mezcla atención lineal Gated DeltaNet con atención con compuertas y un contexto nativo de 262.144 tokens. La segunda capa es una versión cuantizada publicada por ISTA-DASLab, el grupo del Instituto de Ciencia y Tecnología de Austria, cuyo archivo más pequeño ocupaba 8,4 GB a 2,5 bits por peso.
La tercera capa es el trabajo propio de Underdog, que redujo el archivo hasta 7,89 GB y orientó la compresión a las llamadas a herramientas. El archivo se distribuye con el nombre IQ2-mix y, según MarkTechPost, la empresa no ha publicado la receta completa de esa última fase. El modelo funciona con la versión estándar de llama.cpp, una de las herramientas más usadas para ejecutar modelos en local, y con las aplicaciones construidas sobre ella; incluye además un complemento opcional de visión de 629 MB o 928 MB.
Los resultados se dividen en dos grupos. En las pruebas ejecutadas por Underdog con el mismo entorno para ambos modelos, Saluki obtuvo 88 puntos en Underdog Bench, un conjunto de 120 tareas tomadas de BFCL v4 y congeladas antes de las pruebas, frente a 84 del modelo completo y 70 de Bonsai 2, de PrismML. En llamadas a herramientas en paralelo, con 100 tareas de BFCL v4 y su verificador oficial, Saluki logró 42 frente a 35 del original.
No todo mejora. En SWE-bench Verified, con 50 incidencias de software reales, Saluki resolvió 30 frente a 33 del modelo completo. Y en la comparación con las puntuaciones públicas del modelo completo, la caída es clara en razonamiento y matemáticas: 79,2 frente a 96,7 en AIME 2025, 80,0 frente a 94,6 en AIME 2026, 67,5 frente a 79,6 en MuSR y 78,0 frente a 83,9 en MBPP+. En cambio, mejora ligeramente en seguimiento de instrucciones, con 93,5 frente a 91,5 en IFEval y 72,7 frente a 71,0 en IFBench.
Underdog resume el balance con una retención media del 96 % en nueve pruebas respecto a Qwen3.8-27B completo. El mejor resultado relativo está en las llamadas paralelas, con un 120 % de retención, y el peor en AIME 2025, con alrededor del 82 %. MarkTechPost lo sintetiza así: el modelo supera al original de 54 GB en llamadas a herramientas desde un archivo de menos de 8 GB, pero las matemáticas de competición y el razonamiento de varios pasos caen entre 12 y 18 puntos.
La comparación con otras compresiones del mismo modelo ayuda a situarlo. Bonsai 2 27B, de PrismML, es más pequeño, con 5,95 GB y 1,75 bits por peso, y declara un 98,2 % de retención en 14 pruebas, con mejores resultados en matemáticas, incluido un 95,00 en AIME25. Sin embargo, necesita una bifurcación de llama.cpp propia de PrismML, porque la versión estándar no acepta su formato. Saluki, en cambio, funciona con llama.cpp sin modificaciones.
Hay una advertencia metodológica importante: cada empresa usa su propio entorno de pruebas, por lo que las puntuaciones entre proveedores no son directamente comparables. Además, Underdog Bench es una prueba diseñada por la propia empresa, aunque basada en tareas de un conjunto público. Hasta que evaluadores independientes repliquen los resultados, conviene tratar las cifras como datos comunicados por el desarrollador.
¿Por qué importa? Los agentes de IA consumen muchas llamadas al modelo y, si funcionan en la nube, cada una tiene coste y supone enviar datos a un tercero. Un modelo de clase 27B que cabe en menos de 8 GB permite ejecutar agentes en equipos con tarjetas gráficas de consumo, con descarga completa en la GPU, y mantener los datos en el dispositivo. Para desarrolladores y usuarios preocupados por la privacidad, es una alternativa tangible.
La elección de priorizar las llamadas a herramientas por encima de las matemáticas refleja también un cambio en lo que se espera de los modelos pequeños. Para un agente que organiza archivos, consulta un calendario o rellena formularios, invocar correctamente una función es más importante que resolver un problema de olimpiada. Underdog apuesta a que esa especialización compensa la pérdida en razonamiento para la mayoría de los usos cotidianos.
El lanzamiento se suma a una corriente de modelos abiertos que compiten por eficiencia más que por tamaño. La licencia Apache 2.0, compartida por el modelo base y por las compresiones comparadas, permite el uso comercial y la modificación, lo que facilita que otros equipos integren Saluki en sus productos o construyan versiones propias a partir de él.
En resumen, Saluki 27B demuestra que es posible comprimir un modelo de 27.000 millones de parámetros a menos de una séptima parte de su tamaño y conservar, e incluso mejorar, la habilidad clave para los agentes. El precio es una caída notable en matemáticas y razonamiento complejo. Para quien quiera un agente local que use herramientas con fiabilidad, la propuesta resulta atractiva; para tareas de razonamiento exigente, el modelo completo sigue teniendo ventaja.
