GPU De Consumo
- AI
Auditoría de Strata: un modelo de 125.000 millones en una tarjeta de 12 GB, 62 GB/s de RAM y una contradicción de 5,3× en la documentación
Strata promete un modelo de 125.000 millones de parámetros en una tarjeta gráfica de 12 GB. Medí el repositorio, la física y la documentación: la cifra se sostiene, pero …
- IA
PowerInfer: Inferencia LLM de Alta Velocidad en GPUs de Consumo con Diseño Híbrido CPU-GPU
Ejecutar modelos de lenguaje grandes localmente siempre ha estado limitado por una barrera infranqueable: la memoria GPU. Un modelo de 175 mil...