NVIDIA cambia la forma de compartir GPU en Kubernetes

NVIDIA cambia la forma en que se comparten las GPU en Kubernetes. Los primeros portátiles con RTX Spark llegaron al mercado el 16 de octubre de 2024.

La empresa presentó la tecnología Memory-Enforced GPU Sharing en Kubernetes, que utiliza NVIDIA CUDA 13.4 para optimizar el uso de recursos. La tecnología permite que las cargas de trabajo de IA utilicen una fracción de una GPU, lo que aumenta la eficiencia. NVIDIA CUDA Tile automatiza el uso de funciones avanzadas de hardware. El RTX Spark es un superchip para portátiles y equipos de escritorio compactos con GPU Blackwell y hasta 128 GB de RAM unificada. El chip integra una CPU ARM de hasta 20 núcleos, una GPU Blackwell con hasta 6.144 CUDA Cores y hasta 128 GB de memoria RAM unificada. El RTX Spark usa la tecnología NVLink C2C para la comunicación entre CPU y GPU, con un ancho de banda de hasta 600 GB/s. Ofrece hasta 1 petaflop de rendimiento en operaciones de IA con precisión NVFP4.

Comparación de los modos de compartición de cómputo de la GPU. W1 y W2 se alternan en una fila a lo largo de un eje de tiempo. SM-sharing: una cuadrícula donde las cargas de trabajo A — Imagen: developer.nvidia.com

NVIDIA presenta la tecnología Memory-Enforced GPU Sharing en Kubernetes, que permite que las cargas de trabajo de IA utilicen solo una fracción de una GPU. La tecnología depende de una configuración específica para Kubernetes y exige el uso de CUDA 13.4, lo que puede limitar su adopción en entornos menos preparados. Los usuarios pueden configurar la distribución de memoria entre CPU y GPU, lo que aumenta la flexibilidad para tareas específicas.

Ficha técnica

Ficha técnica
Elemento	Especificación
Tecnología	Memory-Enforced GPU Sharing; otra fuente: CUDA Tile (cuTile)
Procesador	GPU Blackwell con hasta 6.144 núcleos CUDA; otra fuente: CPU ARM de hasta 20 núcleos
Conectividad	NVLink C2C con un ancho de banda de hasta 600 GB/s

Una nueva tecnología optimiza el uso de GPU en Kubernetes

El modelo está orientado a usuarios que necesitan rendimiento en IA y eficiencia energética. La plataforma RTX Spark está disponible en portátiles y equipos de sobremesa compactos, con precios desde US$ 2.599. La tecnología Memory-Enforced GPU Sharing aún no tiene fecha de lanzamiento en Brasil, pero NVIDIA ya confirmó que el RTX Spark está en el mercado desde el 16 de octubre de 2024. La nueva funcionalidad complementa la cobertura sobre la plataforma Kumo y la biblioteca CUDA-X, que también buscan optimizar el uso de GPU en entornos de computación en la nube.

NVIDIA cambia la forma en que se comparten las GPU en Kubernetes y permite que las cargas de trabajo de IA se ejecuten con eficiencia en fracciones de recursos. Esto redefine cómo se organiza la computación paralela y hace el uso de las GPU más flexible. El RTX Spark, integrado en esta tecnología, ejecuta NVLink C2C con un ancho de banda de 600 GB/s, lo que permite una comunicación más rápida entre CPU y GPU, esencial para cargas de trabajo de IA intensivas.

Con información de developer.nvidia.com y canaltech.com.br.