Aller au contenu
FR

Glossaire

Grand modèle de langage (LLM)

Un grand modèle de langage (LLM, large language model) est un réseau de neurones entraîné sur un immense volume de textes. Il comprend une question écrite ou dite avec des mots de tous les jours et rédige une réponse en langage simple. En centre de contacts, les modèles de langage font fonctionner les agents IA vocaux et écrits, l’assistant IA des conseillers et les résumés automatiques des conversations.

Pourquoi c’est importantIl fait fonctionner les agents IA et les suggestions aux conseillers – ils prennent en charge des conversations qui demandaient auparavant une personne.

Également appelé: LLM, Grand modèle de langage, Modèle de langage, IA générative

Fonctionnement

Fonctionnement

Le modèle reçoit une requête (prompt) et choisit, pas à pas, les mots les plus probables de sa réponse. Ce qu’il dit dépend de ce qu’on met dans la requête. C’est pourquoi, en centre de contacts, le modèle reçoit non seulement la question du client, mais tout ce qu’il lui faut pour répondre correctement.

  • Instructions : rôle, ton, ce qu’il peut dire ou non
  • Historique de la conversation et données du client
  • Articles de la base de connaissances liés à la question – trouvés par le RAG
  • Outils : requêtes API vers vos systèmes – vérifier une commande, créer un ticket, prendre un rendez-vous

Cas d’usage

Usages en centre de contacts

Limites

Limites et parades

  • Un modèle peut inventer avec aplomb un prix ou une règle – faites-le répondre uniquement à partir de la base de connaissances validée et dire « je ne sais pas » quand la réponse n’y est pas
  • Testez la qualité des réponses en français et dans les langues de vos clients, sur vos vraies questions plutôt que sur des exemples de démonstration
  • Décidez à l’avance quelles données clients peuvent partir vers un service externe et lesquelles doivent rester chez vous
  • Plus le modèle est grand, plus il coûte cher et plus il répond lentement – adaptez le modèle à la tâche
  • Journalisez les réponses et contrôlez-en régulièrement un échantillon
Règle pratiqueUn grand modèle là où il faut raisonner et dialoguer. Un petit modèle peu coûteux pour classer les motifs et rédiger de courts résumés.

Dans CONTACT.WORK

Les LLM dans CONTACT.WORK

Les agents et l’assistant se connectent au modèle via le connecteur IA : vous pouvez changer de modèle sans reconstruire les agents. Le modèle peut tourner dans le cloud ou sur votre propre matériel. Le même modèle rédige les courts résumés de conversation, qui apparaissent dans les rapports.

Sur vos propres serveurs, il faut un GPU ou un Mac mini pour la reconnaissance et la synthèse vocales comme pour le modèle de langage. Jusqu’à 10 conseillers, le GPU est installé dans un serveur partagé ; à partir de 11 conseillers, dans un serveur dédié – mais jamais dans le serveur de téléphonie. Le modèle et les services vocaux sont facturés à part, sauf s’ils tournent sur votre matériel.

Backlinks

Où cela apparaît sur le site 29

Glossaire

Termes associés

Blog

Nouveau sur le blog

Tous les articles →