IA
De Ollama a Producción: Lecciones de un Año Corriendo LLMs en Casa
Hace exactamente un año desplegué mi primer modelo local con Ollama en un servidor casero. Era una prueba: Llama 2 7B, cuatro núcleos de un i5-10400, sin GPU, y la sensación de que esto no pasaba de experimento. Doce meses después, esa misma máquina (ya con una RTX 3060 12GB