KI-Agenten
Welches KI-Modell zu Ihrem Contact Center passt
Das Modell ist der Teil eines KI-Agenten, der die Frage des Kunden versteht und die Antwort formuliert. Davon hängt ab, wie viele Anfragen die KI ohne Agenten löst, ob ein Kunde wegen einer Pause auflegt und was jedes Gespräch kostet. Wir binden Cloud-Modelle an, aber auch offene Modelle, die wir auf Ihren Servern installieren – manche davon kostenlos. Ausgewählt wird danach, wie ein Modell die echten Fragen Ihrer Kunden beantwortet: Genauigkeit, Tempo und Kosten. Kommt ein besseres Modell heraus, tauschen wir es aus, ohne den Agenten neu zu bauen.
AufgabeKI-Berater im ChatVertriebSpracheDeutsch, Ihre BegriffeSchlüsselDatenpersonenbezogene Daten – bleiben bei IhnenerforderlichKandidaten3 Modellezum VergleichErfahrung
Was wir vor der Wahl eines Modells testen
Ein falsch gewähltes Modell kostet Geld: falsche Antworten, abgebrochene Anrufe, unnötige Ausgaben.
Aufgaben
Unterschiedliche Aufgaben, unterschiedliche Modelle
Aufgaben im Contact Center sind unterschiedlich anspruchsvoll. Ein einziges starkes Modell für alles bedeutet meist, zu viel zu bezahlen.
Anrufe und Chats: Genauigkeit und Tempo zählen
Ein Live-Gespräch braucht ein Modell, das die Sprache Ihrer Kunden und Ihre Regeln gut versteht und ohne Verzögerung antwortet. Am Telefon arbeiten drei Modelle nacheinander: Das erste wandelt die Sprache des Kunden in Text um, das zweite – das Sprachmodell – erfasst die Frage und formuliert die Antwort, das dritte liest sie vor. Jedes wählen wir einzeln aus: Die Spracherkennung kann zum Beispiel On-Premises laufen und die Sprachsynthese in der Cloud. Je höher die Genauigkeit, desto mehr Gespräche führt die KI bis zum Ende, ohne an einen Mitarbeiter zu übergeben.
- Genaue Antworten
- Keine Pausen am Telefon
- Erkennung und Synthese einzeln gewählt
1. ErkennungKundensprache in TextIhr Server2. Spracheversteht und antwortetCloud3. Stimmegesprochene AntwortCloudPausefür den Kunden unbemerktverifiziertUnterstützung für Mitarbeiter: schnell und günstig
Ein Antwortvorschlag während des Gesprächs und eine Zusammenfassung danach sind einfacher als ein Live-Gespräch. Hier genügt ein leichteres Modell: Es reagiert schneller und kostet weniger. Mitarbeiter suchen und tippen weniger und schaffen mehr Gespräche pro Schicht.
- Antwortvorschläge im Gespräch
- Gesprächszusammenfassung
- Ein leichteres Modell
Vorschlagim Gesprächleichteres ModellZusammenfassungnach dem Anrufleichteres ModellQualitätmit denselben ReferenzenverifiziertPersonalmehr Gesprächediese SchichtAnalyse: Menge zählt mehr als Tempo
Qualitätsprüfung von Gesprächen und Erkennung von Anfragethemen verarbeiten Tausende Gespräche, brauchen aber keine Antwort in Sekunden. Für solche Aufgaben lohnt sich ein eigener GPU-Server: Es fallen keine Minutenpreise an, Sie können also jedes Gespräch auswerten, auch außerhalb der Geschäftszeiten.
- Tausende Gespräche
- Keine Abrechnung pro Minute
- Nachts, wenn die Leitungen ruhig sind
Anrufealle 4.120 des Tageszur PrüfungModellOpen Source, auf dem ServereigeneZeit22:00 bis 6:00 UhrLeitung freiZahlungkeine Minutengebühr0 €Verschiedene KI-Agenten auf der Plattform können gleichzeitig mit unterschiedlichen Modellen arbeiten.
Betrieb
Wo das Modell läuft
Cloud
Das Modell läuft in der Cloud des Anbieters – ohne eigene Hardware
Die Antworten des Modells erreichen den KI-Agenten über das Internet, Sie müssen also keinen Server kaufen. Ihr System verlässt nur, was für die Antwort nötig ist: der Gesprächstext und die ausgewählten Informationen. Personenbezogene Daten lassen sich vor dem Senden maskieren. Müssen Daten in einem bestimmten Land verarbeitet werden, wählen wir Anbieter, die sie dort verarbeiten.
- Kein eigener Server
- Anbieter im gewünschten Land
- Abrechnung nach Volumen
AnbieterEU oder internationalIhre WahlServernicht nötigCloudVersendetFrage und Auszüge aus der Wissensdatenbankkeine TischtelefoneZahlungnach VerbrauchPreislisteOn-Premises
Ein offenes Modell in Ihrem Serverraum
Wir installieren ein offenes Modell auf einem GPU-Server. Manchmal reicht freie Kapazität auf dem Analyseserver. Die Gespräche werden innerhalb Ihres Unternehmens verarbeitet, Minutenpreise gibt es nicht – Kosten entstehen nur für die Hardware.
- Daten bleiben im Haus
- Keine Abrechnung pro Minute
- GPU erforderlich
Servermit einer GPUIhr NetzAnrufeverlassen nie das UnternehmeninternMinutengebührenkeine0 €Kostennur HardwareIhresModellwechsel
Das Modell wechselt, der KI-Agent bleibt
Kommt ein besseres oder günstigeres Modell heraus, binden wir es anstelle des alten an und testen es an denselben Referenzantworten. Die Wissensdatenbank bleibt unverändert. Antwortet das neue Modell anders, passen wir die Anweisungen an. So senken Sie Kosten, ohne den ganzen Agenten neu zu bauen – und können in der Cloud starten und später auf eigene Server umziehen.
- Geprüft an Referenzantworten
- Dieselbe Wissensdatenbank
- Start in der Cloud, später im eigenen Haus
VorherCloud-ModellChatsDanachoffenes Modell auf Ihrem ServergünstigerPrüfungdieselben 312 BeispielebestandenKI-Agentdieselben Anweisungen und Wissensdatenbankkeine NacharbeitStart
So wählen wir ein Modell aus
- 01AnforderungenWir klären, welche Daten Ihre Systeme verlassen dürfen und was die KI leisten soll.
- 02StichprobenWir sammeln Kundenfragen mit Antworten, die Ihre Fachperson geprüft hat.
- 03KandidatenWir nehmen zwei oder drei Modelle in die engere Wahl, die zu Sprache, Aufgabe und Budget passen.
- 04VergleichWir vergleichen Genauigkeit, Tempo und Kosten aller Kandidaten an derselben Liste.
- 05AnbindungWir starten das gewählte Modell und gehen in den ersten Tagen die Gespräche mit Ihrem Team durch.
- 06ÜberprüfungKommen neue Modelle oder Updates heraus, wiederholen wir den Vergleich.
Voraussetzungen
Was das Modell braucht
- Cloud-Modell
- Internetzugang, Abrechnung nach Volumen
- Eigenes Modell
- Ein GPU-Server bei Ihnen vor Ort
- Telefonie
- Spracherkennung und Sprachsynthese – in der Cloud oder bei Ihnen
- Stichproben
- Eine Liste von Fragen mit korrekten Antworten einer Fachperson
- Kosten des eigenen Modells
- Nur der Server, Minuten sind kostenlos
- Auswahl und Vergleich
- Aus Ihren Supportstunden
Vorbereitung
Was vor der Auswahl zu entscheiden ist
Fragen und Antworten
Häufige Fragen
Welches Modell ist das beste?
Eine allgemeingültige Antwort gibt es nicht: Das eine ist stärker im logischen Denken, das andere schneller und günstiger, ein drittes schreibt besser in der Sprache Ihrer Kunden. Deshalb vergleichen wir die Kandidaten an Ihren Fragen und entscheiden nach Zahlen.
Können wir ganz auf Cloud-Modelle von Drittanbietern verzichten?
Sie können offene Modelle auf Ihrer eigenen Hardware betreiben. Ihre Qualität testen wir genauso wie bei jedem anderen Modell.
Wie gut verstehen Modelle die Sprache unserer Kunden?
Aktuelle Modelle beherrschen Deutsch flüssig, unterscheiden sich aber darin, wie sie mit Ihren Fachbegriffen und der Umgangssprache Ihrer Kunden umgehen. Genau das testen wir an den Stichproben.
Sind kostenlose Modelle schlechter als kostenpflichtige?
Nicht immer. Für Antwortvorschläge, Zusammenfassungen und Gesprächsauswertung sind kostenlose offene Modelle oft genauso gut, für ein anspruchsvolles Kundengespräch kann ein kostenpflichtiges nötig sein.
Was genau erhält ein Cloud-Modell?
Den Text der Wortwechsel, die für die Antwort nötig sind, und die ausgewählten Artikel der Wissensdatenbank, außerdem den Ton, wenn die Spracherkennung in der Cloud läuft. Telefonnummern und Ausweisdaten werden maskiert. Für vollständige Abschottung läuft das Modell auf Ihren Servern.
Was passiert, wenn der Anbieter des Cloud-Modells ausfällt?
Der KI-Agent wechselt auf ein Ersatzmodell, das vorab an Ihren Fragen getestet wurde, und der Kunde spricht weiter, ohne etwas zu merken.
Ist die Cloud günstiger als ein eigener Server oder umgekehrt?
Das hängt von Ihren Aufgaben und Datenanforderungen ab. Wir rechnen beide Varianten für Ihren Fall durch: die Cloud nach Volumen, den eigenen Server nach Hardwarekosten.
Woran erkennen wir, dass sich das Modell lohnt?
An drei Kennzahlen: dem Anteil der Anfragen, die die KI ohne Mitarbeiter gelöst hat, dem Anteil abgebrochener Anrufe und den durchschnittlichen Kosten eines KI-Gesprächs.
Welche Hardware brauchen wir, um ein Modell selbst zu betreiben?
Sie brauchen eine GPU. Oft eignet sich auch der Analyseserver der Plattform, wenn er nicht ausgelastet ist – das prüfen wir bei der Auswahl.
Können wir das Modell später wechseln?
Jederzeit, ohne den Agenten neu zu bauen. Wir prüfen das neue Modell zuerst an den Referenzantworten und passen bei Bedarf die Anweisungen an.
Müssen wir das Modell per Fine-Tuning an unser Unternehmen anpassen?
Meist nicht: Der KI-Agent kommt mit Anweisungen und Ihrer Wissensdatenbank gut aus. Fine-Tuning lohnt sich bei einem engen Fachgebiet oder einem besonderen Sprachstil.
Wer entscheidet über das Modell?
Wir geben auf Basis des Vergleichs eine Empfehlung und zeigen Ihnen die Zahlen, die Entscheidung treffen Sie.
Was kostet die Auswahl eines Modells?
Vergleich und Anbindung werden in Supportstunden abgerechnet, Lizenzgebühren gibt es nicht. Cloud-Modelle werden nach Volumen abgerechnet.
Glossar
Begriffe auf dieser Seite
- Cloud-Betrieb
- Die Plattform läuft auf den Servern des Anbieters, Agenten verbinden sich übers Internet. Mehr erfahren →
- On-Premises-Betrieb
- Das System läuft auf den eigenen Servern des Unternehmens, nicht in der Cloud des Anbieters. Mehr erfahren →
- Wissensdatenbank
- Alle Antworten, Regeln und Preise an einem Ort – für Agents und KI. Mehr erfahren →
- Spracherkennung (Speech-to-Text)
- Wandelt gesprochene Sprache in Text um. Mehr erfahren →
- Abbruchquote
- Wie viele Anrufer auflegen, bevor ein Agent abnimmt. Mehr erfahren →
- Sprachsynthese (Text-to-Speech)
- Liest Text mit menschlich klingender Stimme vor. Mehr erfahren →
- Personenbezogene Daten
- Alles, was auf eine bestimmte Person verweist: Name, Rufnummer, Stimme. Mehr erfahren →
- Fine-Tuning von Modellen
- Ein bestehendes Modell wird mit Unternehmensmaterial weitertrainiert und spricht danach die Sprache des Unternehmens. Mehr erfahren →
- Großes Sprachmodell (LLM)
- Ein neuronales Netz, das Fragen in Alltagssprache versteht und ebenso antwortet. Mehr erfahren →
Aktualisiert: