Señales de que el RAG tradicional ya no es suficiente
Si una tarea requiere más de un paso de recuperación de información o debe decidir qué fuente consultar a continuación en función de los resultados obtenidos previamente, el patrón estático de recuperar y luego generar comienza a mostrar sus límites. En estos casos, un modelo capaz de planificar, utilizar herramientas y adaptar su comportamiento durante la ejecución suele ofrecer mejores resultados.
Cuándo los agentes generan más valor
Los agentes destacan cuando el resultado de cada paso determina el siguiente. Algunos ejemplos son:
- Clasificación y análisis de solicitudes en procesos de evaluación de riesgos.
- Investigaciones que requieren consultar múltiples bases de datos o fuentes de información.
- Flujos de atención al cliente que involucran varios sistemas y aplicaciones.
Este enfoque también introduce nuevos desafíos. Es necesario definir herramientas y sus interfaces, evaluar comportamientos que evolucionan continuamente y contar con mecanismos de observabilidad que permitan comprender no solo la respuesta final, sino también el proceso de decisión y las acciones ejecutadas.
La regla es simple: utiliza un agente cuando la recuperación de información sea solo una de las decisiones que tu sistema debe tomar, y no toda la solución.