Qualcomm adaptó el modelo StepEdge-Omni 30B-MoE para que funcione en smartphones. La técnica MoE reduce la demanda de memoria en más de un 50 %. El modelo permite la ejecución sin usar la nube.
El prellenado previo al token es de 330 tokens/s y la decodificación, de 28 tokens/s. Qualcomm destacó que el modelo puede realizar tareas como la comprensión de correos electrónicos, la planificación de viajes y sugerencias de alojamiento. La alianza con StepEdge, Wulanghuo y Jiangbolong se anunció para adaptar el modelo al Snapdragon 8 Ultra. Huawei también presentó nuevas tecnologías de IA en Shanghái, como la arquitectura SuperPoD y la tecnología UnifiedBus.
La alianza incluye adaptaciones para el Snapdragon 8 Ultra, que admite la ejecución del modelo en smartphones. Huawei, por su parte, presentó en Shanghái su arquitectura SuperPoD y la tecnología UnifiedBus, que conectan hasta 4.000 procesadores con conexiones ópticas rápidas y eficientes. Estas innovaciones reflejan la carrera por la eficiencia en inteligencia artificial, con empresas como Darktrace que ofrecen soluciones de seguridad para supervisar el uso corporativo de la tecnología.
Velocidad y eficiencia en el procesamiento de texto
La velocidad de decodificación también ayuda a responder preguntas con menos retraso. La reducción de memoria permite que el modelo funcione en dispositivos con menos capacidad. La alianza con Jieyu, Wulanghuo y Jiangbolong permitió ajustar el modelo para el Snapdragon 8 Ultra, lo que garantiza rendimiento en dispositivos móviles. Esta adaptación abre espacio para nuevas aplicaciones sin depender de la nube.
Qualcomm está desarrollando modelos de IA para dispositivos móviles en alianza con empresas como StepEdge, Wulanghuo y Jiangbolong. Huawei también está lanzando nuevas tecnologías de IA para reducir la dependencia de los componentes de Nvidia. La alianza entre Qualcomm y StepEdge muestra cómo la industria avanza hacia la integración eficiente de la IA en dispositivos móviles.
La alianza entre Qualcomm y StepEdge forma parte de una tendencia mayor de integrar la IA en dispositivos móviles, en la que también participan empresas como Wulanghuo y Jiangbolong. La expansión de la IA a los dispositivos móviles se está acelerando, con soluciones de seguridad como SECURE AI de Darktrace que ayudan a supervisar el uso corporativo de esta tecnología.
La IA ayuda a predecir amenazas inesperadas
McCall McIntyre, de OpenAI, dijo que trabajar con socios como Darktrace es "crítico para transformar los avances en IA en defensas más sólidas y prácticas" (traducción libre).
La colaboración ayuda a traducir innovaciones en herramientas reales contra amenazas. Darktrace desarrolla capacidades bajo el programa SECURE AI, disponible desde febrero. Qualcomm adapta un modelo de IA de 300 mil millones de parámetros para funcionar en smartphones sin nube, usando una técnica MoE que reduce la demanda de memoria en más de un 50%. La tecnología puede transformar la forma en que se usa la IA en dispositivos móviles, sin depender de internet.
La alianza con StepEdge, Wulanghuo y Jiangbolong acelera esta evolución. Esta tecnología reduce el consumo energético, lo que permite que el modelo opere en chips de bajo consumo.
Sin confirmar
- No se informaron detalles sobre el modelo de IA, sus recursos y costos
- No hay información sobre el anuncio de HighTech en fuentes primarias o especializadas
Con información de phone.cnmo.com, ithome.com y scmp.com.
Fuentes
- phone.cnmo.com
- ithome.com
- Huawei unveils latest tech boost ai power push break chinas nvidia reliancescmp.com
- Exclusive darktrace makes secure ai generally available to monitor enterprise ai usesiliconangle.com
- medium.com
- Codenbuild technologies building the future with ai software practical technology educationmedium.com
Texto escrito con IA a partir de las fuentes citadas y revisado por las reglas automáticas de la redacción. Cómo trabajamos
¿Quieres ver resumer primero en las búsquedas de Google?
Añadir a las fuentes preferidas de Google
