MLX-VLM: Inferencia y Ajuste Fino de Modelos de Lenguaje de Visión en Apple Silicon

Mon, 01 Jan 0001 00:00:00 +0000

Ejecutar Modelos de Lenguaje de Visión – sistemas de IA que pueden entender imágenes y texto simultáneamente – ha requerido tradicionalmente GPU NVIDIA costosas con VRAM sustancial. Los usuarios de Apple Silicon quedaron en gran medida fuera de la revolución de la IA multimodal, forzados a depender de APIs en la nube o configuraciones de doble máquina. MLX-VLM, del desarrollador Blaizzy, cambia esta ecuación por completo.

MLX-VLM es un paquete de Python de código abierto que lleva la inferencia y el ajuste fino de Modelos de Lenguaje de Visión directamente al hardware Apple Silicon utilizando el framework MLX de Apple. Al aprovechar la arquitectura de memoria unificada de los chips M-series, permite a los usuarios de Mac ejecutar modelos multimodales sofisticados – incluyendo LLaVA, Qwen-VL, InternVL2 y PaliGemma2 – completamente en el dispositivo, con un rendimiento que a menudo sorprende incluso a profesionales experimentados.

Modelo De Lenguaje De Visión on SoloSoft

MLX-VLM: Inferencia y Ajuste Fino de Modelos de Lenguaje de Visión en Apple Silicon