Glossar
Großes Sprachmodell (LLM)
Ein großes Sprachmodell (Large Language Model, LLM) ist ein neuronales Netz, das mit riesigen Textmengen trainiert wurde. Es versteht Fragen, die in Alltagssprache geschrieben oder gesprochen werden, und antwortet in verständlicher Sprache. Im Contact Center stecken Sprachmodelle hinter KI-Agenten für Telefon und Chat, hinter dem KI-Assistenten für Mitarbeitende und hinter automatischen Gesprächszusammenfassungen.
Warum das wichtig istEs treibt KI-Agenten und Antwortvorschläge für Agents an – sie führen Gespräche, für die früher ein Mensch nötig war.
Auch bekannt als: LLM, Large Language Model, Sprachmodell, Generative KI
Funktionsweise
So funktioniert es
Das Modell erhält einen Prompt und wählt Schritt für Schritt die wahrscheinlichsten nächsten Wörter seiner Antwort. Was es sagt, hängt davon ab, was im Prompt steht. Deshalb bekommt das Modell im Contact Center nicht nur die Frage des Kunden, sondern alles, was es für eine richtige Antwort braucht.
- Anweisungen: Rolle, Tonfall und was es sagen darf und was nicht
- Gesprächsverlauf und Kundendaten
- Zur Frage passende Artikel aus der Wissensdatenbank – gefunden per RAG
- Werkzeuge: API-Abfragen an Ihre Systeme – Bestellung prüfen, Ticket anlegen, Termin buchen
Einsatz
Wo es im Contact Center eingesetzt wird
- KI-Agenten – am Telefon und im Chat
- Vorschläge und Antwortentwürfe für Agents
- Zusammenfassungen von Anrufen und Chats, Zuordnung von Anfragethemen
- Qualitätsprüfung jedes Gesprächs und Stimmungsanalyse
Grenzen
Grenzen und wie Sie damit umgehen
- Ein Modell kann selbstbewusst einen Preis oder eine Regel erfinden – lassen Sie es nur auf Basis der freigegebenen Wissensdatenbank antworten und „Das weiß ich nicht“ sagen, wenn die Antwort dort fehlt
- Testen Sie die Antwortqualität in der Sprache Ihrer Kunden und mit Ihren echten Fragen, nicht mit Demo-Beispielen
- Legen Sie vorab fest, welche Kundendaten an einen externen Dienst gehen dürfen und welche bei Ihnen bleiben müssen
- Je größer das Modell, desto teurer und langsamer antwortet es – wählen Sie das Modell passend zur Aufgabe
- Protokollieren Sie die Antworten und prüfen Sie regelmäßig Stichproben
In CONTACT.WORK
So funktioniert es in CONTACT.WORK
KI-Agenten und KI-Assistent sind über den KI-Konnektor an das Modell angebunden – Sie können das Modell also wechseln, ohne die KI-Agenten neu aufzubauen. Das Modell kann in der Cloud oder auf Ihrer eigenen Hardware laufen. Dasselbe Modell schreibt kurze Gesprächszusammenfassungen, die in den Berichten erscheinen.
Auf Ihren eigenen Servern braucht es eine GPU oder einen Mac mini – für Spracherkennung und Sprachsynthese ebenso wie für das Sprachmodell. Bis 10 Agents kommt die GPU in einen gemeinsam genutzten Server, ab 11 Agents in einen eigenen – aber nie in den Telefonie-Server. Modell und Sprachdienste werden separat abgerechnet, sofern sie nicht auf Ihrer Hardware laufen.
Mehr dazu
Wo es eingesetzt wird
Backlinks
Wo es auf der Website erscheint 28
Lösungen 5
KI-Agenten 3
Leistungen 3
Integrationen 10
Preise 1
Vergleiche 2
Glossar