Ein virtueller Agent leitet die Frage eines Kunden zu seiner Rechnung an ein Backend-System weiter, markiert eine Anomalie zur Überprüfung durch einen Menschen und schlägt eine Rückerstattung vor, bevor der Kunde überhaupt darum bittet. Dies ist ein Szenario, das mit agentischer KI bald Realität werden wird.

Künstliche Intelligenz (KI) arbeitet jetzt an der vordersten Front des Geschäftsbetriebs. Sie reagiert auf Nuancen, passt sich in Echtzeit an und erzielt mit weniger menschlicher Beteiligung Ergebnisse. Diese Systeme erkennen Ziele und passen ihr Verhalten an, um sie zu erreichen, oft über mehrere Abteilungen, Touchpoints oder sogar Partner-Ökosysteme hinweg.

Das Zeitalter der agentischen KI beginnt mit hochentwickelter Technologie, die in der Lage ist, Absichten zu interpretieren und Aktionen zu koordinieren, um definierte Ziele zu erreichen. Ohne klare Governance birgt jede KI-gestützte Entscheidung neue Risiken.

Viele Anbieter zögern nicht, ihre Produkte als „autonome“ KI zu bezeichnen. Das ist übertrieben. Die KI von heute ist nicht völlig autonom. Sie kann weder selbstständig Strategien entwickeln noch sich ohne menschliche Unterstützung in komplexen Umgebungen zurechtfinden.

Im Moment befinden wir uns in einer Phase, in der die KI teilweise autonom ist. Sie ist auf vordefinierte Kontexte und ständige menschliche Aufsicht angewiesen.

Dass die Branche „teilautonom“ so unbekümmert mit „autonom“ gleichsetzt, ist sowohl ungenau als auch potenziell irreführend. Protzigen Markteinführungen fehlt es oft an Substanz. Vorführungen demonstrieren Leistung und Geschwindigkeit, gehen aber selten auf Transparenz, Kontrolle oder ethische Leitplanken ein. In einer Welt, in der KI-Algorithmen Tausende von Mikroentscheidungen pro Minute treffen, fühlt dieses Übergehen der Governance sich an, als würden Sie die Bremsen eines Autos ausbauen, weil Sie den Motor aufgerüstet haben.

Laut einem neuen Bericht von Genesys gaben 87 % der befragten CX-Führungskräfte an, dass die Einhaltung gesetzlicher Vorschriften einer der wichtigsten Aspekte beim Einsatz agentischer KI sei. Doch nur 31 % glauben, dass sie über einen umfassenden KI-Governance-Plan mit klaren Richtlinien verfügen. Noch alarmierender ist, dass 28 % der Befragten in Organisationen ohne KI-Governance-Richtlinie der Meinung sind, sie seien bereit, agentische KI einzusetzen.

Diese Diskrepanz ist gefährlich. Wenn sie nicht kontrolliert wird, kann agentische KI von Richtlinien abweichen, falsche Informationen erzeugen und das Vertrauen der Kunden in Sekundenschnelle untergraben.

Sicherheitsvorkehrungen können nicht nachgerüstet werden. Um diese Risiken zu mindern, muss die Governance von einer reaktiven Compliance zu einer proaktiven Orchestrierung weiterentwickelt werden.

Warum KI-Governance nun für die Wettbewerbsfähigkeit unverzichtbar ist

Die Innovation schreitet rasant voran, aber viele Unternehmen tun sich schwer, die erforderlichen Leitplanken zu installieren. Diese Kluft zwischen Beschleunigung und Kontrolle wird zu einem strategischen Risiko.

Laut Gartner® werden „bis 2027 über 40 % der KI-Projekte aufgrund steigender Kosten, unklarem Geschäftswert oder unzureichender Risikokontrolle abgebrochen werden.“

Lassen Sie das auf sich wirken. Fast die Hälfte der KI-Initiativen könnten scheitern, und mangelnde Governance wird ein wichtiger Grund dafür sein.

Die Auswirkungen liegen auf der Hand. Wenn KI tief in die Kundenerfahrungen eingebettet wird, reicht es nicht aus, zu fragen, was sie tun kann. Wir müssen uns auch fragen, was sie tun sollte – und ob wir darauf vertrauen können, dass ihr Verhalten weder die Kundenbeziehungen noch das Markenimage noch die Compliance gefährdet.

Wenn Sie die KI-Governance nicht in den Mittelpunkt stellen, setzen Sie Ihr Unternehmen operativen Risiken und Reputationsschäden aus. KI-Governance schränkt effektiv ein, wie weit und wie schnell KI skalieren kann.

Governance by Design: Der Wechsel von der Automatisierung zur agentischen Intelligenz

Die Automatisierung der alten Schule folgt Regeln. Ein Bot nimmt eine Anfrage entgegen, führt ein Skript aus und generiert ein Ergebnis. Das ist vorhersehbar, starr und bis zu einem gewissen Punkt nützlich.

Agentische Systeme verhalten sich anders. Sie arbeiten auf Ziele hin, bewerten die Umgebung und passen ihre Aktionen entsprechend an. Niemand muss jeden möglichen Pfad programmieren, weil die KI ihren eigenen Weg findet.

Damit betreten wir Neuland. Virtuelle Agenten wirken inzwischen weniger wie digitale Assistenten und mehr wie Kollegen, mit denen wir bei der Problemlösung zusammenarbeiten. Sie können erkennen, wann eine Situation eskaliert werden muss und sie können Gespräche umgehend anpassen und um Klärung bitten, anstatt von unbegründeten Annahmen auszugehen. Die Software wird intelligenter, aber auch schwerer nachvollziehbar, und die Flexibilität, die agentische KI so mächtig macht, birgt auch Risiken.

Aus diesem Grund ist eine grundlegende Governance unerlässlich. Vom ersten Tag an müssen Unternehmen Systeme aufbauen, die erklärbar, werteorientiert und flexibel sind, ohne dabei die Kontrolle zu verlieren.

Ohne eingebaute Leitplanken kann unabhängige KI Risiken schneller einführen, als ein Unternehmen auf sie reagieren kann. Fehltritte werden nicht nur theoretisch möglich sein. Sie werden die Kunden betreffen.

Unternehmen müssen frühzeitig Regeln definieren. Sie müssen festlegen, was erlaubt ist, was nicht und wie teilautonome KI-Systeme reagieren sollen, wenn sich Unsicherheit einschleicht. Das bedeutet auch, dass sie Tools implementieren müssen, um das Verhalten der KI-Systeme zu überwachen und bei Bedarf in Echtzeit zu korrigieren.

Wenn eine KI Entscheidungen trifft, anstatt Skripten zu folgen, spielt die Governance eine andere Rolle. Sie schränkt die KI ein und bringt ihr bei, worauf es ankommt. So wird sichergestellt, dass die Entscheidungen mit den Werten des Unternehmens und den Erwartungen der Kunden übereinstimmen.

Wir stellen vor: AI Guides: Verantwortungsbewusste KI in großem Maßstab

Wir bei Genesys entwickeln KI mit Verantwortungsbewusstsein als Kernstück. Unser Engagement für KI-Transparenz und -Governance gehört zu unseren Grundprinzipien. Jedes Produkt, das wir entwickeln, spiegelt dieses Versprechen wider. Wir integrieren Leitplanken, Klarheit und Kontrolle direkt in die Architektur, damit Unternehmen die Compliance nicht später nachrüsten müssen.

Indem wir dem Datenschutz, der Fairness und der Sicherheit von Anfang an Priorität einräumen, erleichtern wir es Unternehmen, KI souverän und verantwortungsbewusst zu nutzen. Unser Ziel ist es, KI bereitzustellen, die Vertrauen verdient, das Kundenerlebnis verbessert und mit den wichtigsten Werten in Einklang steht.

Diese Vertrauensebene sorgt dafür, dass Ihre KI mit diesen Grundsätzen verhaftet bleibt. Sie verfolgt ihr eigenes Verhalten in Echtzeit, zeigt an, wenn etwas schief läuft, und protokolliert jeden Schritt im Detail, was zum Beispiel für Audits und tiefergehende Analysen nützlich ist.

Teamleiter können das Geschehen live beobachten und bei Bedarf eingreifen. Sie können eine Entscheidung verschieben, eine Reaktion außer Kraft setzen oder das System manuell steuern, wenn das menschliche Urteilsvermögen Vorrang hat.

Wenn Vertrauen, Fairness und Schutz der Privatsphäre als Grundprinzipien festgeschrieben sind, findet Lernen unter einem wachsamen Auge statt. Feedback-Schleifen bekräftigen gute Ergebnisse und filtern bedeutungslose heraus. KI-Systeme wissen, wann sie sich zurückhalten müssen, insbesondere wenn regulierte Daten auftauchen oder Eskalationsprotokolle gelten. Das Ergebnis ist eine KI, die innerhalb der definierten Leitplanken bleibt, auch wenn sich die Rahmenbedingungen ändern.

Dies ist keine traditionelle KI-Governance. Wir nennen es eine „agentische Verfassung“, die Ihre Werte, Richtlinien und Ziele direkt in jede Entscheidung der KI einfließen lässt.

Dies ist der Grundgedanke hinter Genesys Cloud™ AI Studio und seiner Schlüsselfunktion Genesys Cloud™ AI Guides. Gemeinsam versetzen sie Sie in die Lage, ab sofort intelligentere, verantwortungsbewusste KI-Erlebnisse zu schaffen und Ihre Markenwerte dabei fest im Griff zu behalten.

AI Guides ermöglicht es Unternehmen, KI-Erlebnisse zu schaffen, die zielgerichtet, dynamisch und verantwortungsbewusst sind. Geschäftsanwender können beschreiben, was die KI erreichen soll, und AI Guides übersetzt diese Vision in konkrete, nachvollziehbare Verhaltensweisen innerhalb Ihrer ethischen Grenzen.

Genesys Cloud AI Studio-Funktionen, AI Guides und benutzerdefinierte Gesprächszusammenfassungen sind jetzt verfügbar.

Genesys ist Ihre Brücke zu echter KI-Reife

Bei Genesys bilden wir die KI-Reife in sechs Stufen der Experience Orchestration ab. Stufe 1 beginnt mit statischer Automatisierung, starren Skripten, festen Abläufen und manuellen Eingriffen. Auf Stufe 2 folgen Reaktionsfähigkeit und Systeme, die Reaktionen auslösen, aber immer noch Regeln ohne Kontext befolgen. Wir glauben, dass sich die meisten Unternehmen hier befinden.

Auf Stufe 3 kommt die Vorhersage hinzu. Jetzt kann KI vorausschauend handeln, ist aber immer noch auf den Menschen angewiesen, um Zusammenhänge zu erkennen.

Mit AI Guides erreichen Sie die teilautonome Intelligenz der Stufe 4. Hier ergreift die KI die Initiative. Sie respektiert Ihre Grenzen und lernt aus den Ergebnissen, um sich ohne ständiges erneutes Training zu verbessern. Die Teams wechseln von der Verwaltung von Aufgaben zur Steuerung intelligenter Systeme, die sie tatsächlich entlasten.

Mit diszipliniertem Design schafft AI Guides die Voraussetzungen für eine universelle agentische Orchestrierung (Stufe 5). Mehrere KI-Agenten arbeiten zusammen, teilen Kontextinformationen untereinander aus, gleichen Prioritäten ab und verfeinern ihre Strategien selbstständig. Das System lernt als Ganzes kontinuierlich und kooperativ.

Genesys gibt Ihnen die Werkzeuge an die Hand, um jede Stufe der KI-Reife bewusst zu erklimmen. Während andere hasten müssen, um mitzuhalten, können Sie sich darauf konzentrieren, etwas aufzubauen, das funktioniert. Die Komponenten sind da. Die Richtung ist klar. Was Sie als nächstes tun wird Sie auszeichnen. Lassen Sie uns verantwortungsbewusst vorangehen und mutig entwickeln.

Erfahren Sie mehr über die fünf Grundprinzipien, nach denen wir KI-Systeme entwerfen, weiterentwickeln und einsetzen, um ethisch verantwortungsvolle, sichere und menschengerechte Ergebnisse zu erzielen.

 

Gartner-Pressemitteilung, „Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027“, 25. Juni 2025

GARTNER ist eine eingetragene Marke und Dienstleistungsmarke von Gartner, Inc. und/oder seinen verbundenen Unternehmen in den USA und anderen Ländern und wird in diesem Dokument mit Genehmigung von Gartner verwendet. Alle Rechte vorbehalten.