QLoRA
- Código Abierto
Unsloth: Ajuste Fino de LLMs 2x mas Rapido con Memoria Reducida
Fine-tuning large language models on consumer hardware has been a game of memory optimization Tetris. Every byte of GPU memory is precious — model...
- IA
LlamaFactory: Framework de Codigo Abierto para Ajuste Fino de LLMs
El ajuste fino de modelos de lenguaje grandes alguna vez fue un proceso complejo y con uso intensivo de recursos, reservado para organizaciones con...
- IA
bitsandbytes: Biblioteca Esencial de Cuantización k-bit para Entrenamiento e Inferencia de LLM
Los modelos de lenguaje grandes han superado con creces la capacidad de memoria del hardware de consumo. Un modelo de 70 mil millones de parámetros...