Una tarea documental, una conversación con un cliente y un flujo de trabajo de razonamiento pueden necesitar características de modelo diferentes. Orientamos la selección del modelo en función del contexto, la calidad de las respuestas, la latencia, el coste y los requisitos de implementación.
La evaluación y la supervisión operativa permiten revisar esa elección a lo largo del tiempo. El enrutamiento puede conectar las tareas con los modelos adecuados, conservando la recuperación de información, las herramientas y los controles en torno a la aplicación.
Lo que podemos definir juntos
- Selección de modelos según la carga de trabajo
- Evaluación de resultados
- Enrutamiento de modelos
- Monitoreo de calidad y costos