RAG vs Fine-tuning: cuál elegir para tu caso de uso
RAG es más rápido, más barato y más transparente que fine-tuning en 80% de los casos. Pero hay un 20% donde fine-tuning es la única opción correcta.
Cuando un LLM necesita conocimiento específico de tu empresa — manuales, procesos, productos, políticas — tienes dos caminos principales: RAG (Retrieval-Augmented Generation) o fine-tuning. Elegir mal cuesta tiempo, dinero y precisión.
Qué es RAG, en una frase
RAG busca los fragmentos más relevantes de tu base de conocimiento en el momento de la consulta y los inyecta al prompt. El LLM no aprende tu información — la consulta cada vez, como un humano con el manual en la mano.
Qué es fine-tuning, en una frase
Fine-tuning modifica los pesos del modelo entrenándolo con tus ejemplos. El conocimiento queda "grabado" en el modelo — no necesita consultarlo en tiempo real.
Comparativa práctica
| Dimensión | RAG | Fine-tuning |
|---|---|---|
| Costo inicial | Bajo ($5k-$30k) | Alto ($20k-$200k+) |
| Costo por consulta | Medio (tokens + retrieval) | Bajo (solo inferencia) |
| Tiempo de implementación | 2-6 semanas | 8-20 semanas |
| Actualizar información | Inmediato (re-indexar) | Reentrenar modelo (costoso) |
| Trazabilidad de fuentes | Alta (cita documentos) | Baja (opaca) |
| Manejo de contradicciones | Complejo si hay múltiples fuentes | Modelo promedia implícitamente |
| Cambios de estilo/tono | Limitado | Excelente |
| Razonamiento sobre datos privados | Bueno | Excelente |
Cuándo usar RAG
RAG es la respuesta correcta en la mayoría de casos empresariales. Elige RAG cuando:
- Tu información cambia con frecuencia (productos, precios, políticas, manuales versionados)
- Necesitas citar la fuente de cada respuesta (compliance, legal, soporte técnico)
- Tu base de conocimiento es grande (>10MB de texto) pero heterogénea
- El presupuesto es limitado o el timeline es corto
- Diferentes usuarios tienen acceso a diferentes subsets de información (permisos)
Cuándo usar fine-tuning
Fine-tuning gana en casos específicos donde RAG no puede competir:
- Necesitas un estilo de respuesta muy específico (tono de marca, formato estructurado consistente)
- Tareas altamente repetitivas con formato de salida rígido (clasificación, extracción estructurada)
- Dominios muy técnicos donde el vocabulario requiere comprensión profunda (diagnóstico médico, legal especializado)
- Latencia crítica sub-200ms donde el retrieval añade overhead inaceptable
- Volúmenes muy altos donde el ahorro por consulta justifica el costo inicial
El híbrido: RAG + fine-tuning
En casos empresariales avanzados, la respuesta correcta suele ser ambos. Se hace fine-tuning ligero para estilo/formato/manejo de instrucciones específicas, y se usa RAG para conocimiento factual actualizable. Este patrón es común en asistentes de marca con estilo estricto pero catálogo de productos dinámico.
El error más común: elegir fine-tuning por FOMO
Muchos directivos piden fine-tuning porque suena más sofisticado y porque "otros lo hacen". En práctica, la mayoría de esos proyectos son casos de RAG disfrazados. Los síntomas de elección equivocada:
- El proyecto lleva 6+ meses y sigue recolectando datos de entrenamiento
- Cada vez que cambian un precio o un producto, hay que reentrenar
- El equipo no sabe por qué el modelo dio una respuesta específica
- El costo del proyecto supera 5x lo que costaría un RAG equivalente
Si reconoces estos síntomas, pausa el proyecto, haz un piloto RAG de 4 semanas y compara resultados. En el 70% de los casos el piloto gana.
Stack recomendado por escenario
RAG básico (empresas 10-200 personas)
OpenAI/Anthropic + pgvector o Pinecone + LangChain/LlamaIndex. Costo típico: $8k-$25k MXN/mes operativo después de implementación.
RAG enterprise (empresas >200 personas)
Azure OpenAI o AWS Bedrock + Weaviate o Vespa + pipeline propio con re-ranking y query rewriting. Observabilidad con LangSmith o Arize. Costo típico: $40k-$150k MXN/mes.
Fine-tuning
OpenAI fine-tuning API (GPT-4o-mini), Anthropic con Claude, o auto-hospedado con Llama/Mistral + LoRA. Requiere 500-5,000 ejemplos de alta calidad etiquetados.
Checklist antes de decidir
- 1¿Mi información cambia más de una vez por trimestre? → RAG
- 2¿Necesito citar la fuente de cada respuesta? → RAG
- 3¿Tengo >1,000 ejemplos de entrenamiento de alta calidad? → Considera fine-tuning
- 4¿La latencia crítica es <500ms? → Considera fine-tuning
- 5¿Mi presupuesto inicial es <$30k MXN? → RAG primero
- 6¿Puedo pagar $50k+ MXN/mes en operación sostenida? → Fine-tuning viable
Lo que también te preguntas
¿Puedo cambiar de RAG a fine-tuning después?
Sí. De hecho es el camino más común: empezar con RAG para validar el caso de uso y migrar (o combinar) con fine-tuning cuando las limitaciones del RAG sean claras y el volumen justifique el costo.
¿Fine-tuning protege mejor mis datos?
Depende. Si usas fine-tuning en un provider (OpenAI, Anthropic) con acuerdo enterprise, los datos no se usan para entrenar el modelo base. Si auto-hosteas, los datos no salen de tu infra. RAG sin fine-tuning también puede mantener datos privados si el provider tiene políticas adecuadas.
¿Cuánto dura un proyecto RAG típico?
MVP funcional: 3-5 semanas. Sistema productivo con evaluaciones, monitoreo de calidad, re-ranking y chunking optimizado: 8-12 semanas.