Bitsandbytes
- IA
bitsandbytes: Biblioteca Esencial de Cuantización k-bit para Entrenamiento e Inferencia de LLM
Los modelos de lenguaje grandes han superado con creces la capacidad de memoria del hardware de consumo. Un modelo de 70 mil millones de parámetros...