Modelo de lenguaje de 2.700 millones de parámetros de Microsoft Research.
¿Por qué importa? Según Microsoft, superaba a modelos de 7.000 y 13.000 millones de parámetros, demostrando el potencial de los modelos pequeños entrenados con datos de calidad.