3 arquitecturas RAG para el mismo caso de uso
El punto de partida Cuando empecé a hacer proyectos de RAG con Amazon Bedrock, pude ver las ventajas de usar una Knowledge Base gestionada, ya que te resuelve casi todo, como la ingesta, el chunking, los embeddings y la base vectorial. Pero para entender bien la arquitectura, quería ver qué pasaba por dentro. Así que en vez de quedarme solo con lo gestionado, armé el mismo proyecto de tres formas…
En la investigación de tres arquitecturas RAG para el mismo caso de uso, se exploraron diferentes enfoques para comprender mejor el proceso subyacente. En la primera fase, se utilizó la Knowledge Base gestionada de Amazon Bedrock para la ingesta, fragmentación, embeddings y almacenamiento vectorial. Se obtuvo información relevante sobre las especificaciones de seguridad del modelo Alpha con un score de similitud de 0.59, sin necesidad de invocar ningún LLM.
Sin embargo, se encontraron obstáculos como permisos de sandbox, límites de tokens y problemas de throttling. En la segunda fase, se construyó directamente el ciclo RAG usando Amazon Titan Embeddings, ChromaDB y Amazon Nova Lite. Se identificaron nuevos obstáculos como el envío de la misma ficha técnica a todos los modelos y la mezcla de información por parte del modelo.
Se implementó un guardrail para almacenar y responder solo información relevante al vehículo consultado. En la tercera fase, se probó la portabilidad multi-cloud migrando la orquestación a LangChain y cambiando el stack de AWS por Google Gemini API. Esto validó el objetivo de cambiar de proveedor sin reescribir la lógica de negocio.
Las tres fases subrayan que no existe una arquitectura RAG superior, sino diferentes niveles de control y portabilidad. Los tres proyectos se pueden encontrar en el repositorio de GitHub del autor.
Written by urgent.news from Dev.to's reporting — not their text. Machine-written — may contain errors; check the original before relying on it.
