Les LLM dans le service client SAP : retour d’expérience d’un projet en production

Les fournisseurs d’énergie reçoivent chaque mois des milliers de demandes clients – par e-mail et par téléphone. Beaucoup sont des cas standard : plans de paiement, reports d’échéance, copies de factures, déménagements. Les grands modèles de langage (LLM) peuvent prendre en charge une grande partie de ce travail, mais seulement s’ils sont connectés à SAP de manière sûre et fiable. Voici les enseignements d’un projet en production.

Commencer par des cas métier clairs et à fort volume

« Utiliser l’IA dans le service client » n’est pas un cas d’usage. Les suivants le sont – et ensemble, ils couvrent une grande partie de la charge quotidienne :

  • Plans de paiement : reconnaître la demande, vérifier les conditions et créer le plan de paiement échelonné dans SAP S/4HANA Utilities.
  • Reports d’échéance : accorder un report de la date d’échéance selon des règles définies.
  • Copies de factures : identifier le client et la facture et envoyer la copie automatiquement.
  • Déménagements : saisir les données d’emménagement et de déménagement et déclencher le processus dans SAP.

Tri des e-mails par IA

Chaque e-mail entrant est classé par le LLM : de quel cas métier s’agit-il, quel compte contrat, quelles données manquent ? Les cas clairs sont traités automatiquement, tous les autres sont routés vers la bonne équipe dans SAP Customer Engagement – avec un résumé pré-rempli et une proposition de réponse.

Connecter la hotline : Cognigy et SAP

Les mêmes cas métier sont disponibles par téléphone. Un voicebot basé sur Cognigy répond aux appels, identifie le client et exécute la demande directement dans SAP – par exemple l’envoi d’une copie de facture ou l’enregistrement d’un report d’échéance – sans file d’attente.

Architecture : Azure, Databricks et SAP BTP

  • Azure OpenAI fournit le modèle de langage, hébergé dans une région conforme aux exigences de protection des données.
  • Databricks sert à la préparation des données, à l’analyse et aux pipelines d’IA autour du modèle.
  • SAP BTP Integration Suite est la couche d’intégration : elle valide la sortie du modèle, l’enrichit avec les données de base, appelle les bonnes API SAP et gère les erreurs.
  • SAP S/4HANA Utilities et SAP Customer Engagement restent les systèmes de référence pour toutes les transactions métier.

Important : le LLM ne communique jamais directement avec le back-end SAP. La couche d’intégration garde SAP cohérent, même lorsque le modèle se trompe.

Garder l’humain dans la boucle

Les cas incertains sont transmis à un conseiller, avec la suggestion de l’IA jointe. La part des cas entièrement automatisés augmente pas à pas – sur la base de preuves, pas d’espoirs.

Protection des données et autorisations

  • Définissez où le modèle s’exécute et quelles données il peut voir.
  • Utilisez des utilisateurs techniques avec des autorisations minimales pour chaque appel système.
  • Journalisez les décisions afin qu’elles puissent être tracées et auditées.

Planifier l’exploitation dès le départ

Une solution d’IA n’est jamais « terminée ». Prompts, modèles et releases SAP évoluent. Supervision, processus de release via ChaRM ou Cloud ALM et un responsable clairement désigné sont indispensables. Gardez aussi un œil sur les offres de SAP comme SAP AI Core, Joule et le Model Context Protocol (MCP).

Conclusion

L’IA dans le service client SAP fonctionne – lorsqu’elle est traitée comme un projet d’intégration et de gouvernance, et pas seulement comme une question de modèle. Découvrez nos services IA dans SAP ou contactez-nous.