エネルギー事業者には、メールや電話で毎月数千件の顧客問い合わせが寄せられます。その多くは分割払い計画、支払期限の延長、請求書の再発行、引越し手続きといった定型案件です。大規模言語モデル（LLM）はこの業務の大部分を担えますが、それはSAPと安全かつ確実に接続されている場合に限ります。本番プロジェクトから得た教訓をご紹介します。
明確で件数の多い業務から始める
「カスタマーサービスでAIを使う」はユースケースではありません。次のようなものがユースケースであり、これらだけで日常業務の大きな割合を占めます。
- 分割払い計画：依頼内容を認識し、条件を確認して、SAP S/4HANA Utilitiesに分割払い計画を登録。
- 支払期限の延長：定められたルールの範囲内で支払期限の猶予を付与。
- 請求書の再発行：顧客と請求書を特定し、写しを自動送付。
- 引越し手続き：転入・転出データを取得し、SAPで引越しプロセスを起動。
AIによるメールの振り分け
受信したメールはすべてLLMが分類します：どの業務か、どの契約アカウントか、どのデータが不足しているか。明確な案件は自動処理され、それ以外は要約と回答案を添えてSAP Customer Engagementの適切なチームに振り分けられます。
ホットラインの接続：CognigyとSAP
同じ業務は電話でも利用できます。Cognigyベースのボイスボットが電話に応答し、顧客を特定し、請求書の写しの送付や支払期限延長の登録などをSAPで直接実行します。待ち時間はありません。
アーキテクチャ：Azure、Databricks、SAP BTP
- Azure OpenAIが言語モデルを提供し、データ保護要件を満たすリージョンで運用します。
- Databricksはデータ準備、分析、モデル周辺のAIパイプラインに使用します。
- SAP BTP Integration Suiteが統合レイヤーとして、モデルの出力を検証し、マスターデータで補完し、適切なSAP APIを呼び出し、エラーを処理します。
- SAP S/4HANA UtilitiesとSAP Customer Engagementは、引き続きすべての業務取引の基幹システムです。
重要：LLMがSAPバックエンドと直接やり取りすることはありません。統合レイヤーにより、モデルが誤ってもSAPの整合性が保たれます。
人の関与を残す
判断が難しい案件はAIの提案を添えて担当者に回します。完全自動化される案件の割合は、期待ではなく実績に基づいて段階的に増えていきます。
データ保護と権限
- モデルをどこで動かし、どのデータを参照させるかを定義する。
- システム呼び出しごとに最小権限の技術ユーザーを使う。
- 判断を記録し、追跡・監査できるようにする。
最初から運用を計画する
AIソリューションに「完成」はありません。プロンプト、モデル、SAPのリリースは変化し続けます。モニタリング、ChaRMやCloud ALMによるリリースプロセス、明確なオーナーが不可欠です。SAP AI Core、Joule、Model Context Protocol（MCP）といったSAP自身の製品動向にも注目しましょう。
まとめ
SAPのカスタマーサービスにおけるAIは、モデルの問題としてだけでなく、統合とガバナンスのプロジェクトとして取り組めば機能します。SAPにおけるAIサービスの詳細をご覧いただくか、お問い合わせください。