Primer modelo de lenguaje de pesos abiertos de Xiaomi: un modelo de 7.000 millones de parámetros especializado en razonamiento matemático y programación.
Según Xiaomi, su versión entrenada con aprendizaje por refuerzo supera en matemáticas y código a modelos mucho mayores, de la clase de 32.000 millones de parámetros.
Pesos abiertos en Hugging Face con licencia MIT, en variantes base, SFT, RL-Zero y RL; sin API en el lanzamiento.
7.000 millones de parámetros, modelo denso preentrenado con predicción de varios tokens (MTP).
-
16:00
Nueva versión de pesos MiMo-7B-RL-0530, con más datos de entrenamiento y ventana de RL ampliada