El Mac Mini M2 como servidor de IA local: la opción silenciosa que la mayoría ignora
Cuando pensamos en montar un servidor de IA local, la primera imagen suele ser una torre con GPU dedicada, cables por todas partes y una factura de luz que asusta. Pero hay otra opción que muchos pasan por alto: el Mac Mini M2.
Memoria unificada: el secreto mejor guardado
La mayoría de los LLMs actuales (Llama 3, Mistral, Qwen) corren perfectamente en 8-16GB de VRAM. El problema es que las GPUs dedicadas con esa cantidad de memoria cuestan lo mismo o más que un Mac Mini M2 completo. Y aquí entra el truco de Apple: la memoria unificada.
En un Mac Mini M2 de 16GB, toda esa memoria está disponible tanto para la CPU como para la GPU. No hay barreras, no hay transferencias lentas entre CPU y GPU. Para modelos de 7B-13B parámetros, esto es suficiente y la latencia es sorprendentemente baja.
Consumo eléctrico: el factor olvidado
Un setup con GPU dedicada consume fácilmente 300-500W en reposo. El Mac Mini M2: 6-7W en reposo, 25-30W a plena carga. Si vas a tenerlo encendido 24/7, la diferencia en la factura eléctrica anual es de varios cientos de euros.
Proxmox? No, gracias
Aquí está el inconveniente que hace que muchos descarten el Mac: Proxmox no corre en ARM. Si tu infraestructura depende de virtualización con Proxmox, el Mac Mini M2 no es para ti. Pero si lo que buscas es un servidor de IA dedicado que corra Ollama o llama.cpp, no necesitas Proxmox. Docker funciona perfectamente en macOS, y para la mayoría de los casos de uso de IA local, es suficiente.
¿Cuándo NO elegir el Mac Mini M2?
- Si necesitas modelos de 70B+ parámetros (necesitarías 40GB+ de memoria)
- Si tu workflow depende de CUDA específicamente
- Si necesitas Proxmox o virtualización pesada
- Si el precio por GB de memoria te parece excesivo (Apple cobra premium)
Veredicto
Para el 90% de los usuarios de IA local —asistentes personales, automatización del hogar, experimentación con modelos de 7B-13B— el Mac Mini M2 de 16GB es una opción subestimada. Silencioso, eficiente, y con una relación rendimiento/vatio que los setups x86 no pueden igualar.
El futuro de la IA local no pasa necesariamente por más potencia bruta, sino por eficiencia. Y en eso, Apple lleva ventaja.