LLM en la atención al cliente con SAP: lecciones de un proyecto productivo

Las compañías energéticas reciben cada mes miles de solicitudes de clientes, por correo y por teléfono. Muchas son casos estándar: planes de pago, aplazamientos, copias de facturas, mudanzas. Los grandes modelos de lenguaje (LLM) pueden asumir gran parte de este trabajo, pero solo si se conectan a SAP de forma segura y fiable. Estas son las lecciones de un proyecto productivo.

Empezar con casos de negocio claros y de alto volumen

«Usar IA en atención al cliente» no es un caso de uso. Los siguientes sí lo son, y juntos cubren gran parte de la carga diaria:

  • Planes de pago: reconocer la solicitud, comprobar las condiciones y crear el plan de pagos a plazos en SAP S/4HANA Utilities.
  • Aplazamientos: conceder un aplazamiento del vencimiento dentro de reglas definidas.
  • Copias de facturas: identificar al cliente y la factura y enviar la copia automáticamente.
  • Mudanzas: registrar los datos de alta y baja y lanzar el proceso de mudanza en SAP.

Clasificación de correos con IA

Cada correo entrante es clasificado por el LLM: ¿de qué caso de negocio se trata, qué cuenta contrato, qué datos faltan? Los casos claros se procesan automáticamente; los demás se derivan al equipo adecuado en SAP Customer Engagement, con un resumen precompletado y una respuesta sugerida.

Conectar la línea de atención: Cognigy y SAP

Los mismos casos de negocio están disponibles por teléfono. Un voicebot basado en Cognigy atiende las llamadas, identifica al cliente y ejecuta la solicitud directamente en SAP, por ejemplo el envío de una copia de factura o el registro de un aplazamiento, sin esperas.

Arquitectura: Azure, Databricks y SAP BTP

  • Azure OpenAI proporciona el modelo de lenguaje, alojado en una región que cumple los requisitos de protección de datos.
  • Databricks se utiliza para la preparación de datos, la analítica y los pipelines de IA alrededor del modelo.
  • SAP BTP Integration Suite es la capa de integración: valida la salida del modelo, la enriquece con datos maestros, llama a las API de SAP correctas y gestiona los errores.
  • SAP S/4HANA Utilities y SAP Customer Engagement siguen siendo los sistemas de referencia para todas las transacciones.

Importante: el LLM nunca se comunica directamente con el back end de SAP. La capa de integración mantiene SAP coherente incluso cuando el modelo se equivoca.

Mantener a una persona en el circuito

Los casos dudosos pasan a un agente, con la sugerencia de la IA adjunta. La proporción de casos totalmente automatizados crece paso a paso, basándose en evidencias, no en esperanzas.

Protección de datos y autorizaciones

  • Defina dónde se ejecuta el modelo y qué datos puede ver.
  • Utilice usuarios técnicos con autorizaciones mínimas para cada llamada al sistema.
  • Registre las decisiones para que puedan rastrearse y auditarse.

Planificar la operación desde el principio

Una solución de IA nunca está «terminada». Los prompts, los modelos y las versiones de SAP cambian. La monitorización, un proceso de versiones mediante ChaRM o Cloud ALM y un responsable claro son imprescindibles. Siga también de cerca las ofertas propias de SAP, como SAP AI Core, Joule y el Model Context Protocol (MCP).

Conclusión

La IA en la atención al cliente con SAP funciona cuando se trata como un proyecto de integración y gobierno, no solo como una cuestión de modelo. Conozca nuestros servicios de IA en SAP o contáctenos.