KI im Kundenservice: Warum Halbwissen zum Risiko wird

Johannes Willeke
01.10.2026
4 Minuten

Generative KI ist im Kundenservice bereits fester Bestandteil des Arbeitsalltags. Eine Befragung von 228 Führungskräften und Serviceverantwortlichen zeigt eine Lücke zwischen KI-Nutzung und kontrolliertem Einsatz: 94 Prozent schreiben eigene Prompts, während 32 Prozent von gelegentlicher oder häufiger Nutzung nicht freigegebener KI-Tools in ihrem Unternehmen berichten. Marketing Resultant führte die Befragung im Sommer 2026 im Auftrag von VIER GmbH durch.

Wie stark wird KI im Kundenservice bereits genutzt?

94 Prozent der Befragten erstellen bereits eigene Prompts. Die hohe Prompting-Quote zeigt, dass viele Befragte eigene Anwendungserfahrungen gesammelt haben. Wie häufig sie KI beruflich einsetzen und wie tief diese Nutzung in Serviceprozesse integriert ist, lässt sich daraus allein nicht ableiten. Besonders deutlich wird das bei den genutzten Modellen: An erster Stelle liegt ChatGPT mit 34 Prozent, gefolgt von Gemini mit 24 Prozent, Claude mit 17 Prozent und Perplexity mit 15 Prozent. Mistral kommt auf vier Prozent, Grok auf drei Prozent. Kein einziges der abgefragten Modelle zu nutzen, gaben 0 Prozent der Befragten an. Das zeigt: Die Nutzung von KI ist im Kundenservice keine Randerscheinung mehr. Die entscheidende Frage lautet deshalb nicht mehr, ob Unternehmen KI einsetzen, sondern wie sie damit kontrolliert und kompetent umgehen.

Welche LLM-Anbieter sind bekannt?

Diagramm: Anteil der Nutzer, die verschiedene LLMs privat oder beruflich verwenden; ChatGPT 34%, Gemini 24%, Claude 17%, Perplexity 15%, Mistral 4%, Grok 3%, keines 0%.

Bei der Bekanntheit der Anbieter zeigt sich ein deutlich breiteres Feld. OpenAI erreicht 19 Prozent, Google 16 Prozent. Anthropic und Perplexity erreichen jeweils 14 Prozent, Mistral und DeepSeek jeweils 12 Prozent. Alibaba erreicht 6 Prozent und xAI 5 Prozent. Gerade für IT-Entscheider ist diese Unterscheidung wichtig. Denn ein Produkt wie ChatGPT zu kennen, bedeutet noch nicht automatisch, die dahinterliegende Anbieter- und Modelllandschaft einschätzen zu können. Hinzu kommt eine weitere Wissenslücke: 20 Prozent der Befragten konnten kein europäisches LLM nennen. Gleichzeitig wurden Modelle aus den USA teilweise fälschlicherweise Europa zugeordnet.

Bar chart titled "Welche Anbieter von LLMs..." listing OpenAI (19%), Google (16%), Anthrop ic (14%), Perplexity (14%), Mistral (12%), DeepSeek (12%), Alibaba (6%), xAI (5%). Key takeaway at bottom: OpenAI and Google lead.

Wo entsteht das größte Risiko?

Ein besonders kritischer Punkt ist die sogenannte Schatten-KI. 32 Prozent der Befragten geben an, dass in ihrem Unternehmen gelegentlich oder häufig nicht offiziell freigegebene KI-Tools genutzt werden. Weitere 17 Prozent können nicht einschätzen, ob dies geschieht, und 28 Prozent kennen den Begriff „Schatten-KI” überhaupt nicht. Nur 23 Prozent erklären, dass eine solche Nutzung in ihrem Unternehmen eher verhindert wird. Für Unternehmen entsteht daraus ein konkretes Governance-Thema. Mitarbeitende wollen KI nutzen und finden schnell verfügbare Werkzeuge dafür. Wenn aber nicht klar geregelt ist, welche Systeme freigegeben sind, welche Daten verarbeitet werden dürfen und wann Ergebnisse geprüft werden müssen, entstehen Datenschutz-, Compliance- und Qualitätsrisiken.

Reicht es, gute Prompts schreiben zu können?

Prompting allein ist noch keine KI-Kompetenz. Das wird beim technischen Grundlagenwissen besonders deutlich. Auf die Frage nach der Bedeutung von Tokens gaben 53 Prozent die richtige Antwort. 33 Prozent hielten Tokens dagegen für eine Art Schlüssel, um auf ein System zuzugreifen. Weitere vier Prozent vermuteten einen Zusammenhang mit Spracherkennungswörtern, während zehn Prozent den Begriff nicht einordnen konnten. Das mag zunächst nach technischem Detailwissen klingen, hat aber direkte Auswirkungen auf Entscheidungen im Unternehmen. Tokens spielen unter anderem bei den Kosten, den Kontextfenstern und der technischen Auslegung von LLM-Anwendungen eine Rolle. Wer KI-Lösungen beschafft, integriert oder skaliert, muss diese Grundlagen zumindest so weit verstehen, dass er die technischen und wirtschaftlichen Auswirkungen bewerten kann.

Wie gut werden typische KI-Risiken verstanden?

Bei Halluzinationen ist das Problembewusstsein deutlich höher. 89 Prozent der Befragten kennen das Phänomen: KI kann Informationen erzeugen, die überzeugend wirken, aber sachlich falsch oder frei erfunden sind. Auch beim Umgang mit öffentlichen KI-Diensten ist bereits viel Wissen vorhanden. Laut Befragung wissen 96 Prozent, dass bei der kostenlosen öffentlichen Nutzung von ChatGPT Daten in den USA verarbeitet werden können. Die Zahlen zeigen somit ein gemischtes Bild: Offensichtliche KI-Risiken sind vielen bekannt. Bei den technischen Grundlagen, der Governance und der konkreten Einordnung von Modellen bestehen dagegen weiterhin Lücken.

Was bedeutet das für mittelständische Unternehmen?

KI kann Serviceteams bei Antwortentwürfen, Zusammenfassungen und der Suche nach Informationen unterstützen. Ob daraus eine Entlastung entsteht, hängt auch davon ab, wie zuverlässig die Ergebnisse sind und wie viel Nachprüfung sie benötigen. Die nächste Entwicklungsstufe besteht darin, die individuelle KI-Nutzung in einen kontrollierten Unternehmensprozess zu überführen.Dafür braucht es aus unserer Sicht vier Bausteine:

Infografik "Vier Grundlagen für erfolgreichen KI-Einsatz": 1) Klare Anwendungsfälle – definiere, wo KI messbaren Nutzen bringt; 2) Verlässliche Daten – nutze aktuelle, relevante, sauber strukturierte Informationen; 3) Verbindliche Governance – festlegen, welche Tools, Daten und Prozesse erlaubt sind; 4) Kompetente Mitarbeitende – Team in Anwendung, Risiken und Qualitätskontrolle schulen.

Das entspricht unserem Verständnis von Digitalisierung bei IT-P. Data Management bildet die Grundlage für KI, Automatisierung und Analytics. Darauf aufbauend bieten wir Prozessoptimierung und individuelle digitale Lösungen. Auch bei der Umsetzung setzen wir auf kurze, iterative Zyklen. Die Anwendungen werden nicht nur theoretisch geplant, sondern bereits in einem frühen Stadium in der Praxis getestet und anhand von Nutzerfeedback weiterentwickelt.

Was Unternehmen jetzt prüfen sollten

Für Unternehmen ist die Befragung ein Anlass, den tatsächlichen KI-Einsatz im Service zu prüfen: Welche Anwendungen nutzt das Team, welche Daten werden eingegeben und wer kontrolliert die Ergebnisse?

Aus unserer Sicht bei IT-P gehören klare Anwendungsfälle, verlässliche Daten, verbindliche Nutzungsregeln und passende Schulungen zusammen. Beginne mit einem konkreten Serviceprozess. Lege fest, welches Werkzeug dafür freigegeben ist und wann Mitarbeitende eine Antwort prüfen oder einen Vorgang übernehmen müssen. Miss anschließend, ob Bearbeitungszeit und Qualität sich verbessern.

Whitepaper IT-Trends 2027

Whitepaper

Unsere Experten aus KI, Prozessautomatisierung und SAP erklären, was sich 2027 ändert.