Meta lanza un modelo de IA para programación

Meta lanza un modelo de IA para programación con 816 mil millones de parámetros. El Muse Spark Open está optimizado para funcionar en dos Mac Studio M5 Ultra con 512 GB de memoria. El modelo se distribuye con una licencia de términos comerciales limitados.

El Muse Spark Open tiene 42 mil millones de parámetros activos y un contexto de 1 millón de tokens. Es nativamente multimodal y ofrece capacidades para tareas complejas. El modelo se distribuye bajo la Muse Model License, con términos comerciales limitados. La alianza con Apple incluye soporte para la arquitectura de memoria unificada y el uso del framework MLX. El Muse Spark Open está disponible mediante API en plataformas como Baseten, Fireworks AI y Hugging Face. Puede funcionar en GPU de NVIDIA, AMD e Intel. Es gratuito, con una licencia de uso comercial limitado.

Curva de Pareto del rendimiento de Meta Muse Spark Open por GPU frente a la interactividad por usuario en NVIDIA GB300 NVL72 con aceptación — Imagen: developer.nvidia.com

La plataforma optimizada consta de dos Mac Studio M5 Ultra con 512 GB de memoria, lo que permite que el modelo ejecute tareas pesadas sin sobrecargar el sistema. La licencia comercial limitada exige que los usuarios utilicen API en plataformas como Baseten, Fireworks AI y Hugging Face. Esto puede dificultar el acceso directo para algunos desarrolladores, pero garantiza que el modelo se use de forma controlada. No se informó la fecha de lanzamiento en Brasil, pero el modelo ya está disponible en otros mercados.

Antes, los modelos de IA para programación tenían menos parámetros y un contexto limitado, lo que dificultaba las tareas complejas. El Muse Spark Open, con 816B parámetros totales y 42B activos, puede manejar códigos más largos y mantener conversaciones más extensas durante la programación. La versión anterior de Meta, como Llama 3, tenía menos capacidad y era menos eficiente en tareas de software.

Diagrama de flujo del enrutamiento MoE disperso de Muse Spark Open, que activa 42B de los 816B parámetros por token. — Imagen: developer.nvidia.com

La nueva versión también es compatible con plataformas como Amazon SageMaker JumpStart y Hugging Face, lo que amplía su uso. La licencia comercial limitada puede perjudicar a los equipos que necesitan flexibilidad, pero ofrece seguridad para el uso corporativo. La novedad está vinculada al trabajo de NVIDIA para acelerar UDF de Spark con GPU, ya publicado en el sitio. No se ha confirmado la disponibilidad en Brasil, pero el modelo está disponible mediante API.

El Muse Spark Open cambia la forma en que los modelos de IA abordan la programación al usar 816B de parámetros en una arquitectura MoE. Esto permite que el modelo procese información a escala masiva y optimice el uso de recursos en tareas complejas. La optimización para ejecutarse en dos Mac Studio M5 Ultra con 512GB de memoria muestra que Meta pensó en hardware de gama alta, reduciendo la carga computacional.

La disponibilidad mediante API en plataformas como Baseten, Fireworks AI y Hugging Face es un paso importante para integrar el modelo en los flujos de trabajo existentes. La alianza con Apple y la optimización para Apple Silicon refuerzan la versatilidad de Muse Spark Open. La falta de fecha de lanzamiento en Brasil y el precio no informado son lagunas que deben cubrirse.