Eine Dokumentenaufgabe, ein Kundengespräch und ein Arbeitsablauf für Schlussfolgerungen können unterschiedliche Modelleigenschaften erfordern. Wir richten die Modellauswahl an Kontext, Antwortqualität, Latenz, Kosten und Bereitstellungsanforderungen aus.
Durch Bewertung und operative Überwachung lässt sich diese Entscheidung im Laufe der Zeit überprüfen. Die Weiterleitung kann Aufgaben mit geeigneten Modellen verbinden und dabei die Suche, Werkzeuge und Kontrollen rund um die Anwendung beibehalten.
Was wir gemeinsam gestalten können
- Auswahl des Modells auf Basis der Arbeitslast
- Ausgabebewertung
- Modellrouting
- Qualitäts- und Kostenüberwachung