Zum Inhalt springen
DE

KI-Agenten

Welches KI-Modell zu Ihrem Contact Center passt

Das Modell ist der Teil eines KI-Agenten, der die Frage des Kunden versteht und die Antwort formuliert. Davon hängt ab, wie viele Anfragen die KI ohne Agenten löst, ob ein Kunde wegen einer Pause auflegt und was jedes Gespräch kostet. Wir binden Cloud-Modelle an, aber auch offene Modelle, die wir auf Ihren Servern installieren – manche davon kostenlos. Ausgewählt wird danach, wie ein Modell die echten Fragen Ihrer Kunden beantwortet: Genauigkeit, Tempo und Kosten. Kommt ein besseres Modell heraus, tauschen wir es aus, ohne den Agenten neu zu bauen.

Cloudoder eigener ServerSie entscheiden
Kostenpflichtigeund kostenlose offene ModellePassend zu Aufgabe und Budget
2-3Modelle im VergleichVor der Auswahl getestet
0 €pro Minute, wenn das Modell auf Ihren Servern läuftSie bezahlen den Server, nicht die Gespräche

Erfahrung

Was wir vor der Wahl eines Modells testen

Ein falsch gewähltes Modell kostet Geld: falsche Antworten, abgebrochene Anrufe, unnötige Ausgaben.

Ihre FachbegriffeWie das Modell mit den Namen Ihrer Tarife und Produkte und mit Ihren Abkürzungen zurechtkommt – nicht nur mit Alltagssprache.
AntwortzeitDie Zeit von der Frage des Kunden bis zum ersten Wort der Antwort – am Telefon fällt eine Verzögerung am stärksten auf.
Lange GesprächeOb das Modell den Faden verliert, wenn es viele Wortwechsel gibt und Inhalte aus der Wissensdatenbank hinzukommen.
Ein ehrliches „Weiß ich nicht“Ob das Modell zugibt, keine Antwort zu haben, oder eine plausible, aber falsche Erklärung erfindet.
Kosten bei Ihrem VolumenWas ein Monat Betrieb bei Ihrer Zahl an Gesprächen und Nachrichten kostet – nicht ein einzelner Testdialog.
Updates des AnbietersAktualisiert ein Anbieter sein Modell, ändern sich die Antworten – wir prüfen sie erneut an den Referenzantworten.

Aufgaben

Unterschiedliche Aufgaben, unterschiedliche Modelle

Aufgaben im Contact Center sind unterschiedlich anspruchsvoll. Ein einziges starkes Modell für alles bedeutet meist, zu viel zu bezahlen.

Anrufe und Chats: Genauigkeit und Tempo zählen

Ein Live-Gespräch braucht ein Modell, das die Sprache Ihrer Kunden und Ihre Regeln gut versteht und ohne Verzögerung antwortet. Am Telefon arbeiten drei Modelle nacheinander: Das erste wandelt die Sprache des Kunden in Text um, das zweite – das Sprachmodell – erfasst die Frage und formuliert die Antwort, das dritte liest sie vor. Jedes wählen wir einzeln aus: Die Spracherkennung kann zum Beispiel On-Premises laufen und die Sprachsynthese in der Cloud. Je höher die Genauigkeit, desto mehr Gespräche führt die KI bis zum Ende, ohne an einen Mitarbeiter zu übergeben.

  • Genaue Antworten
  • Keine Pausen am Telefon
  • Erkennung und Synthese einzeln gewählt
Aufgabe 1 von 3

Verschiedene KI-Agenten auf der Plattform können gleichzeitig mit unterschiedlichen Modellen arbeiten.

Betrieb

Wo das Modell läuft

Cloud

Das Modell läuft in der Cloud des Anbieters – ohne eigene Hardware

Die Antworten des Modells erreichen den KI-Agenten über das Internet, Sie müssen also keinen Server kaufen. Ihr System verlässt nur, was für die Antwort nötig ist: der Gesprächstext und die ausgewählten Informationen. Personenbezogene Daten lassen sich vor dem Senden maskieren. Müssen Daten in einem bestimmten Land verarbeitet werden, wählen wir Anbieter, die sie dort verarbeiten.

  • Kein eigener Server
  • Anbieter im gewünschten Land
  • Abrechnung nach Volumen

On-Premises

Ein offenes Modell in Ihrem Serverraum

Wir installieren ein offenes Modell auf einem GPU-Server. Manchmal reicht freie Kapazität auf dem Analyseserver. Die Gespräche werden innerhalb Ihres Unternehmens verarbeitet, Minutenpreise gibt es nicht – Kosten entstehen nur für die Hardware.

  • Daten bleiben im Haus
  • Keine Abrechnung pro Minute
  • GPU erforderlich

Modellwechsel

Das Modell wechselt, der KI-Agent bleibt

Kommt ein besseres oder günstigeres Modell heraus, binden wir es anstelle des alten an und testen es an denselben Referenzantworten. Die Wissensdatenbank bleibt unverändert. Antwortet das neue Modell anders, passen wir die Anweisungen an. So senken Sie Kosten, ohne den ganzen Agenten neu zu bauen – und können in der Cloud starten und später auf eigene Server umziehen.

  • Geprüft an Referenzantworten
  • Dieselbe Wissensdatenbank
  • Start in der Cloud, später im eigenen Haus
Mehr Fragen ohne Mitarbeiter gelöstJe genauer ein Modell Ihre Fragen beantwortet, desto mehr Anfragen löst die KI und desto weniger Personal brauchen Sie.
Weniger abgebrochene AnrufeEin schnelles Modell antwortet ohne spürbare Pause – Kunden legen nicht auf und wandern nicht zur Konkurrenz ab.
Geringere Kosten pro GesprächEinfache Aufgaben laufen auf einem günstigen Modell, komplexe auf einem starken – so zahlen Sie für Antwortvorschläge und Gesprächsnotizen nicht zu viel.
Daten bleiben dort, wo Ihre Regeln es verlangenPersonenbezogene Daten werden in der Cloud des Anbieters oder auf Ihren Servern verarbeitet – so, wie es die DSGVO und Ihre Sicherheitsrichtlinien vorgeben.

Start

So wählen wir ein Modell aus

  1. 01AnforderungenWir klären, welche Daten Ihre Systeme verlassen dürfen und was die KI leisten soll.
  2. 02StichprobenWir sammeln Kundenfragen mit Antworten, die Ihre Fachperson geprüft hat.
  3. 03KandidatenWir nehmen zwei oder drei Modelle in die engere Wahl, die zu Sprache, Aufgabe und Budget passen.
  4. 04VergleichWir vergleichen Genauigkeit, Tempo und Kosten aller Kandidaten an derselben Liste.
  5. 05AnbindungWir starten das gewählte Modell und gehen in den ersten Tagen die Gespräche mit Ihrem Team durch.
  6. 06ÜberprüfungKommen neue Modelle oder Updates heraus, wiederholen wir den Vergleich.

Voraussetzungen

Was das Modell braucht

Cloud-Modell
Internetzugang, Abrechnung nach Volumen
Eigenes Modell
Ein GPU-Server bei Ihnen vor Ort
Telefonie
Spracherkennung und Sprachsynthese – in der Cloud oder bei Ihnen
Stichproben
Eine Liste von Fragen mit korrekten Antworten einer Fachperson
Kosten des eigenen Modells
Nur der Server, Minuten sind kostenlos
Auswahl und Vergleich
Aus Ihren Supportstunden

Vorbereitung

Was vor der Auswahl zu entscheiden ist

Dürfen Daten Ihre Systeme verlassen?Wenn nicht, brauchen Sie ein selbst betriebenes Modell.
Was soll die KI tun?Gespräche führen, Antworten vorschlagen, Gespräche auswerten.
Haben Sie einen GPU-Server?Manchmal reicht der Analyseserver.
Soll die KI telefonieren?Dann kommen Modelle für Spracherkennung und Sprachsynthese dazu.
Wer prüft die Stichproben?Eine Fachperson, die die korrekten Antworten kennt.
Müssen Daten in einem Land bleiben?Ein Anbieter in diesem Land oder Ihr eigener Server.

Fragen und Antworten

Häufige Fragen

Welches Modell ist das beste?

Eine allgemeingültige Antwort gibt es nicht: Das eine ist stärker im logischen Denken, das andere schneller und günstiger, ein drittes schreibt besser in der Sprache Ihrer Kunden. Deshalb vergleichen wir die Kandidaten an Ihren Fragen und entscheiden nach Zahlen.

Können wir ganz auf Cloud-Modelle von Drittanbietern verzichten?

Sie können offene Modelle auf Ihrer eigenen Hardware betreiben. Ihre Qualität testen wir genauso wie bei jedem anderen Modell.

Wie gut verstehen Modelle die Sprache unserer Kunden?

Aktuelle Modelle beherrschen Deutsch flüssig, unterscheiden sich aber darin, wie sie mit Ihren Fachbegriffen und der Umgangssprache Ihrer Kunden umgehen. Genau das testen wir an den Stichproben.

Sind kostenlose Modelle schlechter als kostenpflichtige?

Nicht immer. Für Antwortvorschläge, Zusammenfassungen und Gesprächsauswertung sind kostenlose offene Modelle oft genauso gut, für ein anspruchsvolles Kundengespräch kann ein kostenpflichtiges nötig sein.

Was genau erhält ein Cloud-Modell?

Den Text der Wortwechsel, die für die Antwort nötig sind, und die ausgewählten Artikel der Wissensdatenbank, außerdem den Ton, wenn die Spracherkennung in der Cloud läuft. Telefonnummern und Ausweisdaten werden maskiert. Für vollständige Abschottung läuft das Modell auf Ihren Servern.

Was passiert, wenn der Anbieter des Cloud-Modells ausfällt?

Der KI-Agent wechselt auf ein Ersatzmodell, das vorab an Ihren Fragen getestet wurde, und der Kunde spricht weiter, ohne etwas zu merken.

Ist die Cloud günstiger als ein eigener Server oder umgekehrt?

Das hängt von Ihren Aufgaben und Datenanforderungen ab. Wir rechnen beide Varianten für Ihren Fall durch: die Cloud nach Volumen, den eigenen Server nach Hardwarekosten.

Woran erkennen wir, dass sich das Modell lohnt?

An drei Kennzahlen: dem Anteil der Anfragen, die die KI ohne Mitarbeiter gelöst hat, dem Anteil abgebrochener Anrufe und den durchschnittlichen Kosten eines KI-Gesprächs.

Welche Hardware brauchen wir, um ein Modell selbst zu betreiben?

Sie brauchen eine GPU. Oft eignet sich auch der Analyseserver der Plattform, wenn er nicht ausgelastet ist – das prüfen wir bei der Auswahl.

Können wir das Modell später wechseln?

Jederzeit, ohne den Agenten neu zu bauen. Wir prüfen das neue Modell zuerst an den Referenzantworten und passen bei Bedarf die Anweisungen an.

Müssen wir das Modell per Fine-Tuning an unser Unternehmen anpassen?

Meist nicht: Der KI-Agent kommt mit Anweisungen und Ihrer Wissensdatenbank gut aus. Fine-Tuning lohnt sich bei einem engen Fachgebiet oder einem besonderen Sprachstil.

Wer entscheidet über das Modell?

Wir geben auf Basis des Vergleichs eine Empfehlung und zeigen Ihnen die Zahlen, die Entscheidung treffen Sie.

Was kostet die Auswahl eines Modells?

Vergleich und Anbindung werden in Supportstunden abgerechnet, Lizenzgebühren gibt es nicht. Cloud-Modelle werden nach Volumen abgerechnet.

Glossar

Begriffe auf dieser Seite

Cloud-Betrieb
Die Plattform läuft auf den Servern des Anbieters, Agenten verbinden sich übers Internet. Mehr erfahren →
On-Premises-Betrieb
Das System läuft auf den eigenen Servern des Unternehmens, nicht in der Cloud des Anbieters. Mehr erfahren →
Wissensdatenbank
Alle Antworten, Regeln und Preise an einem Ort – für Agents und KI. Mehr erfahren →
Spracherkennung (Speech-to-Text)
Wandelt gesprochene Sprache in Text um. Mehr erfahren →
Abbruchquote
Wie viele Anrufer auflegen, bevor ein Agent abnimmt. Mehr erfahren →
Sprachsynthese (Text-to-Speech)
Liest Text mit menschlich klingender Stimme vor. Mehr erfahren →
Personenbezogene Daten
Alles, was auf eine bestimmte Person verweist: Name, Rufnummer, Stimme. Mehr erfahren →
Fine-Tuning von Modellen
Ein bestehendes Modell wird mit Unternehmensmaterial weitertrainiert und spricht danach die Sprache des Unternehmens. Mehr erfahren →
Großes Sprachmodell (LLM)
Ein neuronales Netz, das Fragen in Alltagssprache versteht und ebenso antwortet. Mehr erfahren →

Blog

Neu im Blog

Alle Artikel →

Aktualisiert: