NVIDIA lanza un modelo multimodal de 120 mil millones de…

NVIDIA lanza un modelo multimodal de 120 mil millones de parámetros en Amazon SageMaker JumpStart. El modelo admite entrada de imagen, vídeo y texto.

El Nemotron 3.5 Super VL admite entrada de imagen, vídeo y texto. Incluye MTP head y se utiliza en document intelligence, comprensión de GUI, video question answering y agente multimodal. Puede implementarse en Amazon EKS y SageMaker HyperPod EKS. El modelo forma parte del ecosistema de IA de NVIDIA, que también incluye Nemotron 3.5 Transcribe, un modelo de reconocimiento de voz con 30 mil millones de parámetros. Nemotron 3.5 Transcribe combina transcripción, traducción y reconocimiento de hablantes en hasta 40 idiomas. El modelo de lenguaje multimodal es una evolución de la serie Nemotron, que ya cuenta con modelos de 100 mil millones de parámetros.

La arquitectura del Nemotron 3.5 Super VL es híbrida, con Mamba-2, MoE y atención. Además, usa el codificador de visión RADIO y los formatos de checkpoint BF16 y NVFP4. NVIDIA presentó el modelo en colaboración con Amazon SageMaker JumpStart, una plataforma que ofrece acceso a modelos preentrenados. La disponibilidad en Brasil aún no se ha confirmado, pero el modelo puede ser utilizado por desarrolladores que necesiten comprensión de texto, imagen, documento y vídeo en aplicaciones complejas.

NVIDIA Nemotron 3.5 Super VL es un modelo de lenguaje multimodal con 120 mil millones de parámetros, capaz de procesar entrada de imagen, vídeo y texto. La cantidad de parámetros afecta a la capacidad del modelo para entender contextos complejos y realizar tareas como la comprensión de documentos, el análisis de interfaces gráficas y la respuesta a preguntas sobre vídeos. Por otro lado, los 12 mil millones de parámetros activos por token definen la eficiencia del modelo durante la ejecución.

Ficha del modelo BF16 de NVIDIA Nemotron 3.5 Super VL en SageMaker JumpStart — Imagen: aws.amazon.com

Esto significa que, incluso con un número alto de parámetros totales, el modelo logra mantener un rendimiento optimizado en tiempo real. La combinación de razonamiento y uso de herramientas permite que el modelo no solo comprenda, sino también ejecute acciones basadas en datos multimodales. La disponibilidad en Brasil aún no se ha confirmado, pero el modelo puede implementarse en Amazon EKS y SageMaker HyperPod EKS, lo que facilita su integración en entornos de desarrollo.

Super VL, por su parte, amplía esa capacidad con 120 mil millones de parámetros, activando 12 mil millones por token. Su arquitectura híbrida, que combina Mamba-2, MoE y atención, permite procesar texto, imagen, documento y vídeo de forma integrada. Eso lo convierte en una herramienta versátil para tareas como la inteligencia de documentos y la respuesta a preguntas sobre vídeos.

La versión del modelo en Amazon SageMaker JumpStart también puede desplegarse en Amazon EKS, lo que amplía su escalabilidad. NVIDIA ya cuenta con un ecosistema de modelos de IA en la nube, con especial atención a la estrategia de codiseño para optimizar el uso de memoria.

Despliegue del endpoint de SageMaker en curso antes de que el estado llegue a InService — Imagen: aws.amazon.com

Ficha técnica

Ficha técnica
Elemento	Especificación
Parámetros totales	120B
Parámetros activos por token	12B
Tamaño del contexto	Hasta 1 millón de tokens
Cuantización	NVFP4
Codificador de visión	RADIO
Formato de punto de control	BF16 y NVFP4

Arquitectura multimodal amplía la capacidad de comprensión contextual

NVIDIA Nemotron 3.5 Super VL sustituye el enfoque tradicional de procesamiento de texto por una arquitectura multimodal que maneja imagen, vídeo y texto de forma simultánea. La inclusión del MTP head permite que el modelo procese múltiples modalidades de entrada de manera integrada, lo que facilita tareas como la comprensión de GUI y la respuesta a preguntas sobre vídeos. Los desarrolladores pueden construir soluciones más versátiles, sin necesidad de integrar varios modelos.

Página de detalles y capacidades del modelo Nemotron 3.5 Super VL antes de la implementación — Imagen: aws.amazon.com

La disponibilidad en SageMaker JumpStart simplifica el acceso al modelo y permite que los equipos técnicos implementen soluciones avanzadas de IA sin infraestructura propia. La falta de disponibilidad en Brasil sigue siendo un obstáculo, pero la versatilidad del modelo puede atraer a usuarios de regiones con acceso a los servicios de AWS.

Con información de the-decoder.com, huggingface.co y technews.tw.