Modelo abierto de visión y lenguaje de tipo mezcla de expertos, en versiones Instruct y de razonamiento.
¿Por qué importa? Según Moonshot, su versión de razonamiento logra resultados altos en matemáticas visuales con solo 3.000 millones de parámetros activos.
Pesos abiertos en Hugging Face.
16.000 millones de parámetros (3.000 millones activos). Contexto de 128.000 tokens.