i5-10400 vs Pentium Gold: IA local sin GPU — benchmark real

Cuando la herramienta se convierte en obstáculo

Imagina que estás programando, encuentras un error que no entiendes y le preguntas al modelo. El modelo tarda 17 minutos en responderte. Para cuando llega la respuesta ya perdiste el hilo, ya abriste Stack Overflow, ya hiciste otra cosa. La herramienta dejó de ser útil.

Eso era mi servidor de IA hace unas semanas. Un Pentium Gold corriendo Ollama bajo Debian sin GPU. Y sí: funcionaba. Pero “funcionar” y “ser útil” no son lo mismo cuando estás esperando 34 minutos por una respuesta.

Así que hice una pregunta simple: ¿qué pasa si solo cambio el procesador? Misma placa. Misma RAM. Mismo SSD. Mismo Ollama. Solo un Intel Core i5-10400 en lugar del Pentium Gold.

Esta entrada resume los resultados. Si quieres el contexto completo de dónde venimos — los cinco modelos que probé en el Pentium, por qué elegí Gemma y qué pasó con Qwen — puedes leerlo en el artículo anterior: ¿Puede un Pentium ejecutar IA local en 2026?

El punto de partida: qué tan lento era el Pentium

En el experimento anterior ejecuté Gemma 4 en sus dos variantes más ligeras sobre un Pentium Gold de 10th Gen — 2 núcleos, 4 hilos, 4 MB de caché L3 — con 24 GB de RAM DDR4 y Debian headless. Sin GPU. Sin optimizaciones extrañas.

Los tiempos hablaron por sí solos:

• Gemma 4 E2B generando un juego en C++: 12 minutos 34 segundos.
• Gemma 4 E4B respondiendo una historia corta: 33 minutos 58 segundos.

Técnicamente funciona. Pero hay una diferencia entre demostrar que algo es posible y tener algo con lo que realmente trabajar.

El Intel Core i5-10400: mismo socket, otra categoría

El i5-10400 es décima generación, mismo socket LGA1200 que el Pentium Gold. Eso significa que el upgrade fue físicamente sencillo: retirar disipador, cambiar procesador, pasta térmica, encender. Debian reconoció los 12 hilos sin instalar nada adicional.

La diferencia en papel:

Dicho esto: tener tres veces más núcleos no garantiza automáticamente tres veces más velocidad en inferencia LLM. La distribución del trabajo entre núcleos depende del modelo, de la cuantización, del ancho de banda de memoria y de otros factores. Por eso no hice predicciones. Medí.

Si te interesa el proceso de montar este tipo de servidor desde cero — sistema operativo, red, acceso remoto — tienes la guía completa en cómo convertir una PC vieja en servidor casero con Debian, que cubre exactamente ese proceso paso a paso.

Prueba 1: Gemma 4 E2B — el modelo ligero

Gemma 4 E2B es el modelo más pequeño de los dos: 7.2 GB en disco, diseñado para dispositivos de borde, con soporte multimodal y ventana de 128K tokens. La métrica fue la misma que en el experimento del Pentium: cronómetro desde que envío el prompt hasta que termina la respuesta completa.

Las tres tareas

Con E2B ya tienes respuestas en menos de dos minutos para la mayoría de las tareas. Sigue siendo más lento que una GPU o una API, pero ya puedes quedarte esperando. Ya cabe dentro del flujo de trabajo.

Prueba 2: Gemma 4 E4B — el modelo pesado

Gemma 4 E4B tiene el doble de parámetros efectivos que el E2B. Más capacidad, más peso: 9.6 GB. En el Pentium fue donde los tiempos se volvieron imposibles. Era el candidato más interesante para ver si el i5 realmente cambiaba las cosas.

La prueba de los 33 minutos

En el Pentium, pedirle al modelo E4B que escribiera una historia corta sobre un programador tardó 33 minutos y 58 segundos. Un tiempo en el que puedes ir a por un café, volver, preparar el siguiente prompt, y todavía estarías esperando.

Con el i5-10400, la misma tarea tardó 3 minutos y 2 segundos.

Para mí fue el momento en que el upgrade dejó de ser un número en una tabla y se convirtió en algo real.

Resultados totales: las 6 pruebas juntas

Una hora cuarenta y cuatro minutos con el Pentium. Dieciocho minutos con el i5. El mismo hardware, la misma placa, el mismo Ollama.

Algo que no esperaba: el problema del contexto desapareció

En el experimento del Pentium tuve un problema con Ollama: después de la primera prueba, el siguiente prompt se mezclaba con la conversación anterior. Le pedía una explicación de Docker y el modelo respondía sobre el juego de C++ que había pedido antes. Tuve que recargar el modelo entre cada prueba.

Esta vez no pasó. Cargué el modelo una sola vez y ejecuté las tres pruebas seguidas sin interrupciones. Los contextos se mantuvieron separados.

Quiero ser claro: no sé si fue el procesador, la configuración o la sesión. Pero el proceso fue considerablemente más cómodo.

Por cierto: si quieres entender Docker antes de integrarlo en un setup de este tipo, tengo un artículo que explica qué es Docker y para qué sirve en un servidor doméstico — uno de los más leídos del blog.

¿Vale la pena el upgrade? Pros y contras reales

¿A quién le recomendaría este upgrade?

Depende de para qué uses la IA local.

Si solo trabajas con modelos de 1B a 3B parámetros — como TinyLlama o Phi-3 Mini — el Pentium todavía aguanta. El upgrade tiene más sentido cuando quieres trabajar con modelos de 7B en adelante, o cuando los tiempos del Pentium ya empiezan a sacarte del flujo de trabajo.

Y si estás explorando montar este tipo de servidor desde cero con una PC que ya tienes en casa, el artículo ¿vale la pena usar una PC vieja como servidor casero? es un buen punto de partida para evaluar si el hardware que tienes es suficiente antes de gastar en nada.

Una advertencia honesta: una vez que mejoras el procesador, aparece el siguiente cuello de botella. En mi caso ya empiezo a pensar en una tarjeta gráfica y en modelos más grandes. Gemma 4 no termina en E4B — existen versiones con muchos más parámetros, y quiero descubrir hasta dónde puede llegar este servidor.

Conclusión: de demostración a herramienta real

Cambiar el Pentium por el i5-10400 no convirtió esto en una supercomputadora. Pero convirtió una máquina que apenas podía demostrar que la IA local era posible en una máquina con la que realmente puedo trabajar.

Empecé con un Pentium. Lo llevé hasta donde pudo llegar. Encontré el límite, cambié solo la pieza que necesitaba cambiar. Ese es el enfoque: no comprar el hardware más potente desde el principio, sino entender los límites reales y actualizarlos en el momento exacto en que dejan de ser aceptables.

El siguiente paso es conectar este servidor con mis herramientas reales y usarlo dentro de mi red. Eso lo veremos en próximos videos.

Si quieres seguir el experimento desde el principio, el punto de partida está en el artículo anterior: ¿puede un Pentium ejecutar IA local en 2026? — y si te interesa la IA offline con otro enfoque, el proyecto Strix Reader muestra cómo usar Ollama para traducir PDFs completamente sin internet.