Las normas CAFE III entran en vigor： los fabricantes de componentes automotrices

Mon, 01 Jan 0001 00:00:00 +0000

¿Esto no es solo un juego de números de consumo de combustible, sino una transferencia de poder en la cadena de valor?

Sí, es un cambio de paradigma del “valor mecánico” al “valor electrónico y de software”. En el pasado, el valor central y las ganancias de un vehículo se concentraban en componentes mecánicos como el motor y la transmisión. CAFE III, junto con ciclos de prueba WLTP más estrictos, reduce drásticamente los beneficios marginales de simplemente optimizar el motor de combustión interna. La respuesta al cumplimiento apunta cada vez más a soluciones electrónicas a nivel de sistema: sistemas híbridos leves de 48V, gestión térmica inteligente, neumáticos de baja resistencia a la rodadura, rejillas activas e incluso estrategias de gestión de energía optimizadas por software. Esto lleva directamente a que la proporción del valor del contenido “electrónico y de electrificación” por vehículo se dispare, y el enfoque de fondos e I+D migra naturalmente.

PowerInfer: Inferencia LLM de Alta Velocidad en GPUs de Consumo con Diseño Híbrido CPU-GPU

Mon, 01 Jan 0001 00:00:00 +0000

Ejecutar modelos de lenguaje grandes localmente siempre ha estado limitado por una barrera infranqueable: la memoria GPU. Un modelo de 175 mil millones de parámetros en FP16 requiere aproximadamente 350GB de VRAM, muy por encima de los 24GB disponibles en GPUs de consumo como la RTX 4090. Existen soluciones de nivel de servidor (A100, H100), pero cuestan decenas de miles de dólares. PowerInfer, desarrollado por Tiiny-AI (anteriormente de la Universidad Jiao Tong de Shanghái), rompe esta barrera con una idea inteligente que explota una propiedad fundamental de cómo las redes neuronales realmente computan.

La idea se llama localidad de activación: para cualquier token de entrada dado, solo una pequeña fracción de las neuronas de un modelo están activas. El resto están esencialmente inactivas. PowerInfer explota esto preanalizando el modelo para identificar qué neuronas son “calientes” (activadas frecuentemente) y cuáles son “frías” (raramente activadas). Las neuronas calientes se mantienen en la GPU para acceso rápido; las neuronas frías permanecen en la memoria de la CPU y solo se cargan cuando es necesario.

Híbrido on SoloSoft

Las normas CAFE III entran en vigor： los fabricantes de componentes automotrices

¿Esto no es solo un juego de números de consumo de combustible, sino una transferencia de poder en la cadena de valor?

PowerInfer: Inferencia LLM de Alta Velocidad en GPUs de Consumo con Diseño Híbrido CPU-GPU