Generative Künstliche Intelligenz (KI) sollte in Geschäftsanwendungen und -prozesse integriert werden und ist zuverlässig, da sie auf der Grundlage Ihrer Geschäftsdaten und Ihres Kontexts trainiert, aufgebaut und angepasst wird. Ein echter Mehrwert für Ihr Unternehmen kann nur entstehen, wenn relevante Geschäftsdaten aus unterschiedlichen Quellen in Modellen zusammengeführt, trainiert und kontinuierlich aktualisiert werden. Dabei ist es wichtig, die Wünsche und Bedürfnisse Ihrer Kunden so weit wie möglich zu berücksichtigen.

1. Identifizierung des Problems oder der Chance, bei der KI einen Mehrwert bieten kann.
2. Verständnis des Geschäftskontextes und der Ziele.
3. Definition von Erfolgskriterien und Key Performance Indicators (KPIs).

Glücklicherweise bieten alle großen Hersteller von Standardsoftware bereits einen Katalog von KI-Szenarien für verschiedene Geschäftsfunktionen an, die aus dem Stand genutzt werden können. Die Umsetzung erfolgt mit den Produkten und Werkzeugen des Herstellers.

In diesem Blog fokussieren wir uns auf die Nutzung von generative Künstliche Intelligenz (KI) mit SAP-Systemen. 

Starten Sie mit den folgenden Schritten

Lösungsportfolios des Herstellers SAP analysieren, Zielumgebung festlegen und einrichten

SAP bietet heute unter „SAP Business AI“ einen großen Katalog an KI-gestützten Szenarien für alle Geschäftsfunktionen. Wenn Sie sich für ein Szenario und die gewünschten Funktionalitäten entschieden haben, ergibt sich die Umgebung für den KI-Anwendungsfall höchstwahrscheinlich automatisch.

1. Maschinen Learning [ML] embedded im „S/4HANA„
2. Maschinen Learning [ML] side by side in der „SAP Business Technology Platform„
3. Weiterführende Analyse mit der „SAP Analytics Platform„
4. Third Party AI-Technologien

Vertrauen Sie Ihrem Dienstleister bei der Einrichtung der Umgebung.

Daten sammeln, aufbereiten und bereinigen

Im ersten Schritt stellen sich die folgenden Fragen:

1. Welche Daten sind dafür relevant?
2. Wo bekomme ich zuverlässig die Daten her?
3. Was muss ich tun, um die Grundsätze für Ethik, Datenschutz und Sicherheit in der KI verantwortungsvoll einzuhalten?

Sammeln Sie relevante Geschäftsdaten aus verschiedenen Quellen wie SAP ERP oder S/4HANA, SAP CRM, SAP SCM oder anderen Quellen.
Stellen Sie sicher, dass die Datenqualität, -konsistenz und -integrität für den gewünschten KI-Anwendungsfall geeignet sind und berücksichtigen Sie datenschutzrechtliche und ethische Aspekte.

Dies beinhaltet die Datenbereinigung (Umgang mit fehlenden Werten, Ausreißern etc.), die Überführung in ein für die Analyse geeignetes Format und die Identifikation aussagekräftiger Merkmale aus den Rohdaten. In den verschiedenen Projektphasen werden Trainings-, Validierungs-, Test- und Produktionsdaten aus unterschiedlichen Quellen verwendet.

Modell auswählen, trainieren und bewerten 

Die Auswahl eines geeigneten Modells und der Algorithmen für das maschinelle Lernen entfällt beim Einsatz von „SAP Business AI“. Hier bestimmt das Lösungsszenario das zu trainierende Basismodell.

Im Rahmen von „SAP Business AI“ und den „embedded AI capabilities“ stellt SAP Basismodell zur Verfügung, welche aus einem S/4HANA System als AI-Services in der „Business Technology Platform“ genutzt werden kann.
Im S/4HANA werden diese über das „Intelligent Scenario Lifecycle Management (ISLM)“ aktiviert und als FIORI-Anwendung dem Anwender zur Verfügung gestellt.

Die wichtigsten Business AI-Services für maschinelles Lernen sind:

1. „Business Entity Recognition“ hilft Ihnen, unstrukturierten Text zu erkennen und hervorzuheben. Sie können den Dienst beispielsweise verwenden, um den Kontext eingehender E-Mails mit Rechnungsanfragen automatisch zu extrahieren und so wiederkehrende Aufgaben im Zusammenhang mit der Beantwortung von Anfragen zum Status und zur Zahlung von Rechnungen zu automatisieren.
2. „Data Attribute Recommendation“ verwendet Freitext, Zahlen und Kategorien als Eingabe, um Entitäten wie Produkte, Shops und Benutzer in verschiedene Klassen zu klassifizieren und den Wert fehlender numerischer Attribute in Ihren Datensätzen vorherzusagen. Sie können Data Attribute Recommendation beispielsweise verwenden, um eingehende Produktinformationen zu klassifizieren und den Preis von Waren auf der Grundlage ihrer Beschreibung vorherzusagen.
3. „Document Information Extraction“ unterstützt Sie bei der Verarbeitung großer Mengen von Geschäftsdokumenten, die Inhalte in Kopfzeilen und Tabellen enthalten. Sie können die extrahierten Informationen beispielsweise verwenden, um Verbindlichkeiten, Rechnungen oder Zahlungsbelege automatisch zu verarbeiten und sicherzustellen, dass Rechnungen und Verbindlichkeiten übereinstimmen. Nachdem Sie eine Belegdatei in den Dienst hochgeladen haben, werden die Extraktionsergebnisse aus den Kopffeldern und Belegpositionen zurückgegeben.
4. „Personalized Recommendation“ ist ein generischer, wiederverwendbarer Dienst. Er nutzt modernste Techniken des maschinellen Lernens, um Besuchern Ihrer Website auf der Grundlage ihres Browserverlaufs und/oder ihrer Artikelbeschreibungen hochgradig personalisierte Empfehlungen zu geben. Trainieren und verwenden Sie maschinelle Lernmodelle, um diese Empfehlungen für eine Vielzahl von Geschäftsszenarien bereitzustellen.

Ergänzend zu den obigen Modellen, können mit dem „Generative AI Hub in SAP AI Core“ andere Remote-, Open Source- oder sprachliche Generierungsmodell wie GPT (Generative Pre-trained Transformer) genutzt werden.

SAP verfügt bereits über eine große Liste von einsatzbereiten KI-Szenarien mit trainierten Modellen, die möglicherweise bereits Ihren Anwendungsfall abbilden.

Mit dem „Generative AI Hub“ in AI Core können SAP Kunden individuelle Modelle genutzt werden. Es wird nach folgenden Varianten der Integration unterschieden:

1. SAP-build foundation models
2. Third-Party language models
3. open source models
4. remote foundation models 

Die entwickelten KI-Modelle werden in den SAP AI Core integriert. Der SAP AI Core bietet verschiedene Werkzeuge und Dienste, um die Integration von KI-Modellen in SAP-Anwendungen zu erleichtern. Dies kann die Verwendung von APIs, SDKs oder anderen Integrationsmethoden umfassen. Letztendlich entscheidet der Kunde, welches Modell wie integriert wird.

Es ist wichtig zu beachten, dass die Entwicklung einer generativen KI auf der Grundlage Ihrer Geschäftsdaten und Ihres Kontexts viel Fachwissen erfordert und einige Zeit in Anspruch nehmen kann. Es kann auch sinnvoll sein, Experten für maschinelles Lernen oder Datenwissenschaftler hinzuzuziehen, um sicherzustellen, dass das Modell korrekt entwickelt und implementiert wird.

Unabhängig davon, welches Modell, welcher Algorithmus oder welche Anwendung verwendet wird, sollte die Leistung anhand verschiedener Metriken bewertet werden. Die Modellleistung wird anhand von Validierungsdaten und Iterationen mit anderen Basismodellen oder alternativen Modellen verglichen. Gegebenenfalls wird eine Sensitivitätsanalyse (global/lokal) durchgeführt, um die Grenzen des Modells und der Anwendung zu verstehen.

Modell produktiv setzen, überwachen, warten und Feedback einholen

Nach erfolgreichen Tests werden die KI-Modelle im produktiven SAP AI Core Tenant und der Ressourcengruppe des Kunden bereitgestellt (Deployment) und bei Bedarf entsprechend den Geschäftsanforderungen skaliert. Die Skalierung des „Model Servers“ ist in der SAP Business Technoloy Platform über Kubernetes mit den zwei Verfahren „Autoskalierung“ und „Scale to Zero“ möglich. Mit der Produktivsetzung oder dem Deployment erhalten Sie eine URL zum trainierten Modell, das sich in Ihre bestehenden Geschäftsanwendungen integrieren lässt und generierte KI-Inhalte in Echtzeit liefert.

Unsere zusätzliche Empfehlung:

1. Um die Leistung aufrechtzuerhalten, überwachen Sie kontinuierlich die Leistung des produktiven Modells und führen bei Bedarf eine Feinabstimmung des Modells als Wartung durch.
2. Um den KI-Prozess kontinuierlich zu verbessern, holen Sie regelmäßig Feedback zur Modellleistung und zu neuen Anforderungen von Nutzern und Interessengruppen ein.