Der schnelle Anstieg der agentischen künstlichen Intelligenz (KI) verändert die Interaktion von Unternehmen mit Kunden und die Operationalisierung von Customer-Experience (CX)-Workflows. Führende Unternehmen orchestrieren nun personalisierte, proaktive und zunehmend halbautonome Echtzeit-Interaktionen mit KI.

Die KI-Einführung hat die Testphase überwunden. Jetzt erwarten die Unternehmen, dass KI greifbare Geschäftsergebnisse, Wettbewerbsvorteile und einen konstanten ROI liefert. Die Chancen sind zwar riesig, aber so sind auch die Risiken.

Für technische Führungskräfte hat sich eine neue Doppelfunktion herausgebildet: Innovation und Schutz. Unternehmen müssen jetzt KI-gestützte CX-Innovationen in einem großen Maßstab bereitstellen und gleichzeitig eine wachsende Bandbreite von Risiken bewältigen, darunter Compliance-Verstöße, geopolitische Instabilität, KI-gesteuerte Cyberangriffe, Datenschutzverletzungen und Zeiten betrieblicher Ausfälle.

In diesem Umfeld mit hohen Risiken können verantwortungsvolle CX-Verfahren nicht länger unberücksichtigt bleiben. Sie sind jetzt geschäftskritisch. Angesichts der zunehmenden Innovationsgeschwindigkeit ist es wichtiger denn je, Verantwortlichkeit und Rechenschaftspflicht in alle Bereiche der Kundenerfahrung zu integrieren.

Die Doppelfunktion: Innovation und Schutz

Der Innovationsdruck ist real. Die Wettbewerbslandschaft erfordert ein automatisiertes und dennoch personalisiertes Kundenerlebnis, und KI ist der Schlüssel dazu. Laut Gartner® „werden bis 2028 mindestens 15 % der täglichen Arbeitsentscheidungen autonom durch agentische KI getroffen, im Vergleich zu 0 % im Jahr 2024“1. Das ist ein gewaltiger Sprung gegenüber dem heutigen Stand und läutet den Beginn einer neuen Ära der KI-basierten Entscheidungsfindung in großem Maßstab ein. 

Eine überstürzte Einführung von KI ohne angemessene Sicherheitsvorkehrungen sorgt jedoch für erhebliche Schwachstellen. Und keine davon ist schädlicher als die Erosion des Kundenvertrauens.

De genesys blog responsible cx body image 4

Dieser Übergang zu agentischer KI erfordert eine strikte Governance und eine ethische KI-Überwachung. CXOs, die für Technologie und Compliance verantwortlich sind, müssen sicherstellen, dass KI zuverlässig, transparent, fair und erklärbar ist und dabei alle Sicherheits- und Datenschutzstandards erfüllt.

Erschwerend kommt hinzu, dass genau die Daten, die diese intelligenten Systeme versorgen, Ziel immer raffinierter werdender Bedrohungen sind. Angreifer nutzen KI mittlerweile, um Angriffe zu automatisieren, Phishing-Kampagnen glaubwürdiger zu gestalten und sogar um ihre Taktiken in Echtzeit anzupassen. Das erfordert einen proaktiven und adaptiven Sicherheitsansatz, idealerweise mit KI zur Erkennung und Verteidigung.

In der Realität gelten KI-gestützte Systeme heute als kritische Infrastruktur. Wenn kundenorientierte KI-Dienste ausfallen, hat dies Auswirkungen auf die gesamte Customer Journey, sodass Redundanz und schnelle Wiederherstellungsfunktionen unerlässlich sind.

Die Resilienzplanung muss nun neben anderen kritischen CX-Systemen auch die Verfügbarkeit von KI-Systemen berücksichtigen. Diese Änderung spiegelt sich in Vorschriften wie der europäischen Richtlinie zu Netzwerk- und Informationssicherheit 2 (NIS2) und dem Digital Operational Resilience Act (DORA) wider, die klare Offenlegungen zum KI-Risikomanagement und zur betrieblichen Widerstandsfähigkeit verlangen.

Die KI-Innovation zeigt keine Anzeichen einer Verlangsamung. CXOs müssen eine schwierige Gleichung lösen: Wie können wir uns schnell bewegen und doch sicher bleiben?

Wenn Sie zu vorsichtig vorgehen, riskieren Sie Störungen durch diejenigen, die vorpreschen. Setzen Sie KI ohne Sicherheitsvorkehrungen ein, riskieren Sie Reputations-, Betriebs- und regulatorische Folgen.

Zunehmende Gegenwinde: Regulierung und Geopolitik

Es geht nicht nur um Technologie. Die regulatorische und geopolitische Landschaft schafft neue Einschränkungen für die Art und den Standort von Unternehmen.

Nirgendwo ist dieser Druck deutlicher zu spüren als in der sich weltweit abzeichnenden Compliance-Landschaft. Sie entwickelt sich schneller, als sich die meisten Unternehmen mit Frameworks anpassen können. Beispiele dafür sind die KI-Verordnung der EU und ISO/IEC 42001, welche die Grundlage für verantwortungsvolle KI festlegen, während Richtlinien wie die DSGVO strenge Datenschutz- und Governance-Standards durchsetzen.

Eine der bedeutendsten regulatorischen Veränderungen ist das Aufkommen von Vorgaben zur Datenhoheit, die die Arbeitsweise von Unternehmen in verschiedenen Regionen neu definieren, einschließlich der Art und Weise, wie sie CX gestalten und skalieren. Im Streben nach nationaler Sicherheit, digitaler Souveränität und wirtschaftlichem Protektionismus verschärfen Regierungen weltweit die Vorschriften darüber, wo Kundendaten gespeichert, verarbeitet und abgerufen werden dürfen.

In einem kürzlich erschienenen Artikel von McKinsey & Company wird angegeben, dass mehr als 70 % der Länder über eigene Gesetze zum Schutz von Daten und Privatsphäre verfügen. Staatliche Verordnungen zielen immer mehr darauf ab, wer die Daten kontrolliert und wo diese Personen und Organisationen ansässig sind. Diese weitreichenden Vorgaben haben zur Entstehung von „Sovereign Clouds“ geführt.   

Die geopolitische Fragmentierung führt insbesondere durch regulatorische Verpflichtungen zu Reibungsverlusten, die die CX-Transformation verlangsamen und erschweren können. IT-Führungskräfte widmen sich nun intensiv der Diskussion über die Anbieterarchitektur. Sie untersuchen, wo Daten fließen und welche Länder Zugang zu ihnen haben. Außerdem treffen sie Vorsorgepläne für die Zeit, wenn sich die Vorschriften ändern.

Die Realität sieht so aus, dass die Pflicht zur Einhaltung gesetzlicher Vorschriften die Art und Weise verändert, wie CX-Lösungen entwickelt und eingesetzt werden. Die Bereitstellung von Kundenerlebnissen in großem Maßstab ist nicht nur eine technologische Herausforderung, sondern zunehmend auch eine Herausforderung für die Architektur und Governance.

Fünf nicht verhandelbare Prioritäten für eine verantwortungsvolle CX

Die Bereitstellung von KI-basierten Kundenerlebnissen erfordert mehr als nur technische Fähigkeiten. Dafür braucht es einen strategischen Ansatz, der Vertrauen, Risiken, Regulierung und Widerstandsfähigkeit von Anfang an berücksichtigt.

Die folgenden Imperative stellen nicht verhandelbare Prioritäten für Führungskräfte im Bereich der Customer Experience dar, die mit diesen Problemen zu tun haben.

1. Sicherheit von Grund auf einbauen

Sicherheit muss in alle Ebenen der CX-Plattform integriert sein, von der Infrastruktur und den Anwendungen bis hin zur Identitäts-, Daten- und Bedrohungserkennung. Da Cyberangriffe immer gezielter und komplexer werden, sind eingebettete Kontrollen und Echtzeitüberwachung unerlässlich. Arbeiten Sie mit Dienstleistern zusammen, die ausgereifte Sicherheitsverfahren durch Zertifizierungen von Dritten wie ISO/IEC 27001, SOC 2 und regionale Äquivalente (z. B. C5, IRAP, ENS High) nachweisen können. Diese Qualifikationen sind nicht optional, sondern eine Voraussetzung.

2. Transparenz und Kontrolle bei KI fordern

Mit zunehmender Autonomie von KI-Systemen haben die von ihnen getroffenen Entscheidungen und die Daten, auf denen sie basieren, reale regulatorische und reputationsbezogene Konsequenzen. CX-Führungskräfte benötigen einen klaren Überblick darüber, wie Modelle trainiert, Daten beschafft und gesichert und Verzerrungen überwacht und gemindert werden, um eine repräsentative Gleichbehandlung über Sprachen, Regionen und demografische Merkmale hinweg zu gewährleisten. Arbeiten Sie mit Partnern zusammen, die ihre KI-Ethik-Prinzipien veröffentlichen, Erklärungstools wie KI-Modellkarten bereitstellen und standardmäßig Governance-Kontrollen anbieten.

3. Datenschutz und Governance stärken

Da sich die Datenschutzgesetze in den unterschiedlichen Rechtsordnungen rasch weiterentwickeln, müssen CX-Systeme vollständige Kontrolle darüber ermöglichen, wo Daten gespeichert werden, wie sie übertragen werden und wer darauf zugreifen kann. Das geht über die Einhaltung von Vorschriften hinaus. Es ist die Grundlage dafür, Kundenvertrauen zu gewinnen und die Glaubwürdigkeit der Marke zu erhalten. Eine starke Governance stellt außerdem sicher, dass Unternehmen verstehen, wie Kundendaten in KI-Modelle eingespeist werden, was zu transparenteren und verantwortungsvolleren Ergebnissen führt.

4. Betriebliche Ausfallsicherheit einplanen

Schon kurze Ausfallzeiten können wichtige Customer Journeys stören und die Kundenbindung schädigen. Aus diesem Grund erfordert eine verantwortungsvolle CX Plattformen, die auf hohe Verfügbarkeit, elastische Skalierbarkeit und nahtlose Updates ausgelegt sind. Bewerten Sie Anbieter hinsichtlich ihrer Fähigkeit, SLA-Verpflichtungen zu erfüllen, globale Redundanz aufrechtzuerhalten und öffentliche Einblicke in den Systemstatus und die Historie von Vorfällen zu bieten. Zuverlässigkeit sollte niemals eine Black Box sein.

5. Funktionsübergreifende Stakeholder einbinden

Verantwortungsvolle CX ist eine gemeinsame Aufgabe und nicht allein eine Aufgabe der IT-Abteilung. Teams aus den Bereichen Recht, Compliance, Datenschutz, Sicherheit, Betrieb und Kundenservice spielen alle eine wichtige Rolle beim Management von KI-Risiken und der Gewährleistung der Verantwortlichkeit. Etablieren Sie ein Governance-Framework mit klarer Unterstützung durch die Geschäftsführung, definierten Rollen und gemeinsamer teamübergreifender Verantwortung, um Silos aufzubrechen und verantwortungsvoll zu skalieren.

Vertrauen kann man nicht erst kurz vor Schluss aufbauen

Unternehmen, die bereit sind, in der Agenten-Ära eine Führungsrolle zu übernehmen, trennen nicht zwischen Innovation und Vertrauen. Sie entwickeln beide als untrennbare Wachstumstreiber weiter.

Wenn die KI Fahrt aufnimmt, gebietet der duale Innovations- und Schutzauftrag, dass Verantwortung und Rechenschaftspflicht nicht länger im Hintergrund stehen, sondern zur Grundlage werden. Governance sollte ein zentrales Betriebsmodell sein, bei dem Transparenz, Sicherheit, Datenschutz und Belastbarkeit genauso wichtig sind wie Geschwindigkeit und Skalierung.

Wenn Unternehmen die Verantwortung in den Fokus rücken, sind sie gut aufgestellt, sodass sie KI mit Zuversicht ausrollen, sich schnell anpassen, ihre Integrität bewahren und dauerhaftes Kundenvertrauen gewinnen können.

Sind Sie bereit, Ihre aktuelle CX-Architektur zu bewerten oder eine neue KI-gestützte Experience-Orchestration-Plattform zu evaluieren? Entdecken Sie, wie Sie mit Genesys Cloud™ AI Ihr gesamtes Kundenerlebnis strategisch und sicher automatisieren und optimieren können.

1 Quelle: Gartner-Artikel, 2025 Top Strategic Technology Trends, Gene Alvarez, 21. Oktober 2024

 GARTNER ist eine eingetragene Marke und Dienstleistungsmarke von Gartner, Inc. und/oder seinen verbundenen Unternehmen in den USA sowie international und wird hier mit der entsprechenden Genehmigung verwendet. Alle Rechte vorbehalten.