Künstliche Intelligenz (KI) verändert die Customer Experience auf bemerkenswerte Weise. Was als einfache Automatisierung begann, entwickelt sich zu Systemen, die lernen, schlussfolgern und bald im Namen von Kunden und Mitarbeitern handeln können. Diese Verlagerung hin zu agentischer KI eröffnet spannende Möglichkeiten, neuen Mehrwert zu schaffen und nicht nur bestehende Arbeit zu automatisieren. Eine größere Autonomie birgt jedoch auch neue Risiken und erhöht die Notwendigkeit einer zuverlässigen, unabhängig überprüften KI-Governance.

Deshalb freuen wir uns, Ihnen mitteilen zu können, dass die Genesys Cloud™-Plattform die ISO/IEC 42001:2023-Zertifizierung für unser KI-Managementsystem (AIMS) erhalten hat. Dieser weltweit anerkannte Standard ist der erste seiner Art, der sich auf ein verantwortungsvolles KI-Management konzentriert. Er beschreibt, wie Unternehmen ein KI-Managementsystem mit strukturierten Kontrollen für Risiko, Aufsicht und Leistung einrichten, betreiben und kontinuierlich verbessern können.

Die ISO/IEC 42001-Zertifizierung ist ein wichtiger Meilenstein in unserem anhaltenden Engagement für verantwortungsvolle KI. Ich habe kürzlich mit Louise Willemse, Principal Product Manager für Sicherheit, Datenschutz, KI und Compliance bei Genesys, gesprochen, um den Umfang von ISO/IEC 42001 für Genesys Cloud, seinen Wert für CX-Führungskräfte und die bevorstehenden Schritte für die KI-Governance zu erörtern. Nachfolgend finden Sie eine Zusammenfassung unseres Gesprächs.

Hallo Louise, herzlichen Glückwunsch an Sie und das gesamte Team zu dieser Leistung. Es ist das Ergebnis vieler konzentrierter Anstrengungen über viele Monate hinweg. Für diejenigen, die vielleicht nicht damit vertraut sind, können Sie erklären, was ISO/IEC 42001 ist und was Genesys motiviert hat, diese Zertifizierung anzustreben?

Louise Willemse: Vielen Dank. Ohne den Beitrag vieler Teams wäre das nicht möglich gewesen. ISO/IEC 42001 ist der erste weltweit anerkannte Standard, der Anforderungen für die Einrichtung, Implementierung, Verwaltung und kontinuierliche Verbesserung eines Managementsystems für künstliche Intelligenz (AIMS) in Organisationen festlegt. Das Erreichen der Zertifizierung zeigt, dass eine Organisation AIMS-Prinzipien wie Rechenschaftspflicht, Transparenz, Fairness, Sicherheit und Datenschutz sowie ISO/IEC 42001-Kontrollen durchgesetzt hat, um eine verantwortungsvolle Entwicklung und Nutzung von KI-Systemen zu gewährleisten.

Ein AIMS besteht aus den folgenden Schlüsselkomponenten:

  • Governance-Struktur: Definiert Rollen, Verantwortlichkeiten und Aufsicht für das KI-Management innerhalb der Organisation.
  • Richtlinien und Verfahren: Legt dokumentierte Regeln für ethisches KI-Design, -Entwicklung, -Einsatz und -Nutzung fest.
  • Risikomanagement: Identifiziert, bewertet und mindert Risiken im Zusammenhang mit KI-Systemen, einschließlich Sicherheitsbedenken.
  • Data Governance: Stellt sicher, dass die von KI-Systemen verwendeten Daten ordnungsgemäß verwaltet werden und deckt Bereiche wie Sicherheit, Datenschutz, Integrität und Compliance ab.
  • Transparenzmaßnahmen: Ermöglicht eine klare Dokumentation und Kommunikation über KI-Systeme, Entscheidungen und Ergebnisse.
  • Kontinuierliche Verbesserung: Implementiert Überwachungs-, Überprüfungs- und Aktualisierungsmechanismen für die kontinuierliche Verbesserung und Konformität von KI-Systemen.
  • Stakeholder-Engagement: Fördert die Kommunikation mit internen und externen Stakeholdern, um auf Bedenken und Feedback einzugehen.

Die Motivation, diese Zertifizierung zu verfolgen, reicht bis ins Jahr 2024 zurück, als klar wurde, dass ISO 42001 einen klaren Rahmen für die Einrichtung eines KI-Governance-Programms bietet.

Das ist ein toller Überblick. Lassen Sie uns etwas genauer auf die Zertifizierung selbst eingehen. Was hat Genesys in den Audit-Umfang miteinbezogen und gilt die Zertifizierung für alle globalen Regionen von Genesys Cloud?

Willemse: Der Genesys Cloud ISO/IEC 42001-Zertifikatsumfang umfasst das Design, die Entwicklung und den Einsatz von KI-Technologien in der Genesys Cloud-Plattform.

Zu den verwendeten KI-Technologien gehören Algorithmen für maschinelles Lernen, Verarbeitung natürlicher Sprache, vorausschauende Analysen, Echtzeit-Entscheidungsalgorithmen, dialogorientierte KI, generative KI und große Sprachmodelle (Large Language Models, LLM). Diese Technologien sind in die Genesys Cloud-Plattform eingebettet.

ISO 42001 ist eine globale Zertifizierung und unser Zertifikat umfasst neun Standorte, an denen sich die KI-Entwicklung konzentriert: Galway (Irland): Menlo Park (Kalifornien), Durham (North Carolina), Indianapolis (Indiana), Chennai (Indien), Hyderabad (Indien), Toronto (Kanada), Tel Aviv (Israel) und Budapest (Ungarn).

Vielen Dank für die Klarstellung darüber, was im Geltungsbereich enthalten ist. Viele Kunden sind bereits mit anderen ISO-Normen wie 27001 und 27701 vertraut. Können Sie erklären, wie ISO/IEC 42001 zu diesen Frameworks passt und wo es etwas Neues beiträgt?

Willemse: Wir beabsichtigten von Anfang an, ein integriertes Managementsystem zu schaffen, das auf dem bereits bestehenden Managementsystem für ISO 27001/27017/27018 aufbaut. Das AIMS teilt gemeinsame IMS-Prozesse für Dokumentenkontrolle, Risiko, Audit und kontinuierliche Verbesserung.

Eine erste Lückenanalyse überprüfte unsere bestehenden Richtlinien, Prozesse und Verfahren, um zu ermitteln, was geändert werden musste. Während einige neue KI-spezifische Elemente benötigt wurden, umfassten die meisten Änderungen die Anpassung bereits vorhandener Systeme und Infrastrukturen.

Eine der Erkenntnisse auf diesem Weg war, dass KI, die ursprünglich als Untergruppe der Informationssicherheit behandelt wurde, neben Informationssicherheit und Datenschutz ein eigener, einzigartiger Bereich ist. Dies erforderte auch einige organisatorische Änderungen.

KI erfordert mehr als Informationssicherheit die Zusammenarbeit funktionsübergreifender Teams. Eine der größten Herausforderungen bestand darin, technische Ingenieurteams bei der Konzeption und Entwicklung von KI-Systemen für Menschenrechte und ethische Aspekte zu sensibilisieren. Eine Möglichkeit, dies zu erreichen, bestand darin, diese Teams frühzeitig in die Folgenabschätzungen für KI-Systeme einzubeziehen und sie zu veranlassen, die Schäden und Vorteile der Verwendung ihrer KI-Systeme für Einzelpersonen, Gruppen und die Organisation zu berücksichtigen.

Die andere Seite war die Schulung der Rechtsabteilung und verschiedener funktionsübergreifender Teams zu Genesys Cloud AI-Systemen mithilfe unserer technischen Dokumentation.

Die Verknüpfung von Standards ist sinnvoll, zumal viele unserer Kunden ISO-Frameworks bereits im eigenen Betrieb einsetzen. Aus Sicht des Käufers ist die Due Diligence immer ein großer Teil der Anbieterauswahl. Wie hilft ISO/IEC 42001 Kunden, ihre CX-Partner zu bewerten und ihnen zu vertrauen?

Willemse: Die ISO 42001-Zertifizierung reduziert die Due Diligence-Belastung für Käufer erheblich. Die mühsame Bewertung der KI-Kontrollen eines Anbieters wurde weitgehend beseitigt, da sie von einem externen Prüfer unabhängig überprüft wurde. Es gibt uns die Gewissheit, dass wir uns für die Entwicklung einer vertrauenswürdigen, gut gesteuerten KI einsetzen.

Darüber hinaus helfen die detaillierten Transparenzberichte, die Genesys Cloud für jedes unserer KI-gestützten Produkte und KI-Systeme bereitstellt, Käufern, Genesys Cloud KI-Systeme zu bewerten und viele der standardmäßigen Due Diligence-Fragen zu beantworten.

Insgesamt hilft es, die Anbieterauswahl und -beschaffung zu beschleunigen, da Käufer auf eine unabhängige Validierung durch Dritte verweisen können.

Diese Perspektive auf den Kundenwert ist hilfreich. Ich kann mir vorstellen, dass uns der Prozess auch intern viel beigebracht hat. Was haben wir über KI-Risiken und -Auswirkungen gelernt, als wir die Zertifizierungsanforderungen durchgearbeitet haben?

Willemse: Damals im Jahr 2023, als das EU-KI-Gesetz noch am Horizont stand und nur der Entwurf ISO 42001 veröffentlicht wurde, wurde ein Business Case entwickelt, um die zukünftigen Anforderungen des EU-KI-Gesetz zu erfüllen. Zu diesem Zeitpunkt hatten wir einen kleinen Proof of Concept zur Identifizierung und Bewertung des KI-Risikos für eines unserer bestehenden ausgereifteren traditionellen KI-Systeme abgeschlossen. Es war klar, dass wir vor mehreren grundlegenden Herausforderungen standen:

  1. Keine gemeinsame, teamsübergreifende KI-Sprache oder -Namensstandards
  2. Ein unvollständiges KI-Inventar, einschließlich KI-Komponenten von Drittanbietern
  3. Unvollständige technische Dokumentation zu verwendeten KI-Systemen, -Modellen und -Datensätzen
  4. Bestehende Risikomanagement-Richtlinien und -Verfahren, die die Komplexität des KI-Risikos nicht berücksichtigten
  5. Unterschiedliche Kenntnisse zur KI-Governance 

Wir mussten unbedingt all diese Herausforderungen angehen, und zwar mit starker funktionsübergreifender Zusammenarbeit zwischen Teams, um für ein effektives KI-Risikomanagement im Rahmen einer umfassenderen KI-Governance zu sorgen.

Wir haben früh erkannt, dass unsere Kunden auch verpflichtet sind, KI-Risikobewertungen und KI-System-Folgenabschätzungen nach dem EU-KI-Gesetz durchzuführen. Um unsere Kunden zu unterstützen, mussten wir transparent sein und unseren Kunden unsere KI-Produkt- und KI-Systemkarten zur Verfügung stellen.

Die Arbeit, die wir zur Bewältigung dieser Herausforderungen geleistet haben, hat uns auch viele interne Möglichkeiten eröffnet, darunter eine breite Sichtbarkeit und Einblicke in unser KI-Ökosystem. Und das hat zu einer engeren Zusammenarbeit aller internen Teams bei KI-Projekten geführt.

Ich weiß, dass die Tinte bei der ISO/IEC 42001-Zertifizierung kaum trocken ist, aber was kommt als nächstes für die KI-Governance von Genesys?

Willemse: Die ISO 42001-Zertifizierung ist eine erstaunliche Leistung und ein großartiger Start für unsere KI-Reise. Die nächste Phase konzentriert sich auf die Reifung unseres KI-Governance-Frameworks, die weitere Verbesserung unserer technischen Dokumentation für Kunden, die Verbesserung der KI-Kompetenz für alle Mitarbeiter und die Automatisierung von KI-bezogenen Workflows (z. B. KI-Systemfolgenabschätzungen).

Während ISO 42001 für Genesys Cloud ein großer Schritt in die richtige Richtung ist, muss noch mehr getan werden, um das EU-KI-Gesetz Genesys-weit vollständig einzuhalten. Diese Arbeit ist im Gange.

Weitere Schwerpunkte für 2026 und darüber hinaus sind:

  1. Stärkung des aktuellen Datenschutzrahmens (Arbeit an der ISO 27701-Zertifizierung), insbesondere in Bezug auf KI-Daten und den Datenlebenszyklus
  2. Nachhaltigkeit, da viele neue Richtlinien bevorstehen und KI enorme Rechenressourcen erfordert. Umweltverträglichkeitsprüfungen mit echten Tools zur Messung der CO2-Emissionen für KI-Modelle sind derzeit nicht verfügbar und müssen entwickelt werden.
  3. Die Geschäftskontinuität hat für Genesys bereits durch neue Vorschriften wie DORA eine hohe Priorität. Die Einbettung von KI-bezogenen Risiken und Misserfolgen in die geschäftlichen Folgenabschätzungen wird ein weiterer wichtiger Schwerpunkt sein.

Schließlich wird Genesys weiterhin Zertifizierungen und regulatorische Zusicherungen priorisieren, um mit KI-Governance-Entwicklungen Schritt zu halten.

Der Weg nach vorne für Genesys Cloud AI

Agentische KI stellt den nächsten Sprung in der CX dar; und Vertrauen wird ihren Erfolg bestimmen. Der Weg nach vorne liegt darin, KI verantwortungsvoll zu skalieren und Vertrauen in die Technologie zu schaffen, während sie leistungsfähiger und autonomer wird.

Die Genesys ISO/IEC 42001-Zertifizierung bietet eine solide Grundlage für dieses Vertrauen durch einen verifizierten Rahmen für Rechenschaftspflicht, Transparenz und kontinuierliche Verbesserung. Es stärkt unser Engagement für die Bereitstellung von KI, die Erfahrungen verbessert, ohne Risiken einzugehen, und gibt unseren Kunden das Vertrauen, verantwortungsbewusst zu skalieren.

  • Um mehr über die globale Compliance von Genesys Cloud zu erfahren, besuchen Sie unser Trust Center.
  • Schauen Sie sich die Genesys Responsible AI-Seite an, um Einblick in unser Engagement für die verantwortungsvolle Entwicklung von KI zu erhalten.
  • Fordern Sie eine Kopie des Genesys Cloud ISO/IEC 42001:2023-Zertifikats im Portal für Sicherheit, Datenschutz und Compliance an. Der Portalzugriff ist auf Genesys Cloud-Kunden und -Partner beschränkt.