L'intelligence artificielle (IA) réinvente l'expérience client de façon spectaculaire. Ce qui n'était au départ qu'une simple automatisation évolue vers des systèmes capables d'apprendre, de raisonner et bientôt d'agir au nom des clients et des employés. Cette évolution vers l'IA agentique ouvre des possibilités passionnantes de créer une nouvelle valeur, et pas seulement d'automatiser les tâches existantes. Cependant, une plus grande autonomie introduit également de nouveaux risques, ce qui accroît le besoin d'une gouvernance de l'IA crédible et vérifiée de manière indépendante.

C'est pourquoi nous sommes ravis de vous informer que la plateforme Genesys Cloud™ a obtenu la certification ISO/IEC 42001:2023 pour notre système de gestion de l'IA (AIMS). Cette norme mondialement reconnue est la première du genre axée sur la gestion responsable de l'IA. Elle décrit comment les organisations peuvent établir, opérer et améliorer en permanence un système de gestion de l'IA doté de contrôles structurés pour les risques, la surveillance et la performance.

L'obtention de la certification ISO/IEC 42001 représente une étape importante dans notre engagement continu en faveur d'une IA responsable. Je me suis récemment entretenu avec Louise Willemse, Responsable produit principale pour la sécurité, la confidentialité, l'IA et la conformité chez Genesys. Je lui ai demandé quelle était l'importance de la norme ISO/IEC 42001 pour Genesys Cloud et sa valeur pour les responsables CX, tout en l'interrogeant sur les perspectives d'avenir pour la gouvernance de l'IA. Vous trouverez ci-dessous un résumé de notre conversation.

Bonjour Louise, je vous félicite, ainsi que toute l'équipe, pour cette certification. C'est l'aboutissement de nombreux mois de travail. Pour ceux qui ne le sauraient pas, pouvez-vous expliquer ce qu'est la norme ISO/IEC 42001 et ce qui a incité Genesys à obtenir cette certification ?

Louise Willemse : Je vous remercie. Cela n'aurait pas été possible sans la contribution de nombreuses équipes. ISO/IEC 42001 est la première norme mondialement reconnue qui définit un cahier des charges pour l'établissement, l'implémentation, le maintien et l'amélioration continue d'un système de gestion de l'intelligence artificielle (AIMS) au sein des organisations. L'obtention de la certification démontre notre respect des principes AIMS tels que la responsabilité, la transparence, l'équité, la sécurité et la confidentialité, ainsi que l'application des contrôles ISO/CEI 42001 pour assurer le développement et l'utilisation responsables des systèmes d'intelligence artificielle.

Un AIMS se compose des éléments suivants :

  • Structure de gouvernance : définit les rôles, les responsabilités et la supervision de la gestion de l'IA au sein de l'organisation.
  • Politiques et procédures : établissent des règles documentées pour la conception, le développement, le déploiement et l'utilisation éthiques de l'IA.
  • Gestion des risques : identifie, évalue et atténue les risques associés aux systèmes d'IA, y compris les problèmes de sûreté et de sécurité.
  • Gouvernance des données : veille à ce que les données utilisées par les systèmes d'IA soient correctement gérées, notamment en matière de sécurité, de confidentialité, d'intégrité et de conformité.
  • Mesures de transparence : favorisent une documentation et une communication claires sur les systèmes d'IA, leurs décisions et leurs résultats.
  • Amélioration continue : met en place des mécanismes de suivi, de revue et de mise à jour pour l'amélioration continue et la conformité des systèmes d'IA.
  • Engagement des parties prenantes : favorise la communication avec les parties prenantes internes et externes afin de répondre aux préoccupations et aux feedbacks.

Notre décision d'obtenir cette certification remonte à 2024, lorsqu'il est devenu évident que la norme ISO 42001 fournissait un cadre clair pour établir un programme de gouvernance de l'IA.

Merci pour cet excellent tour d'horizon. Penchons-nous désormais sur la certification elle-même. Qu'est-ce que Genesys a inclus dans le périmètre de l'audit, et la certification s'applique-t-elle à toutes les régions Genesys Cloud dans le monde ?

Willemse : le champ d'application du certificat ISO/IEC 42001 de Genesys Cloud comprend la conception, le développement et le déploiement de technologies d'IA dans la plateforme Genesys Cloud.

Les technologies d'IA utilisées comprennent les algorithmes de machine learning, le traitement du langage naturel, l'analyse prédictive, les algorithmes de prise de décision en temps réel, l'IA conversationnelle, l'IA générative et les grands modèles de langage (LLM). Toutes ces technologies sont intégrées dans la plateforme Genesys Cloud.

ISO 42001 est une certification mondiale et notre certificat couvre les neuf sites sur lesquels se concentre notre développement de l'IA : Galway (Irlande) : Menlo Park (Californie), Durham (Caroline du Nord), Indianapolis (Indiana), Chennai (Inde), Hyderabad (Inde), Toronto (Canada), Tel-Aviv (Israël) et Budapest (Hongrie).

Merci d'avoir clarifié le champ d'application. De nombreux clients connaissent déjà d'autres normes ISO, telles que 27001 et 27701. Pouvez-vous nous expliquer en quoi ISO/IEC 42001 s'inscrit dans le prolongement de ces frameworks et ce qu'elle apporte de nouveau ?

Willemse : Dès le départ, l'intention était de créer un système de gestion intégré reprenant ce qui était déjà en place pour les normes ISO 27001/27017/27018. L'AIMS partage des processus IMS communs pour le contrôle des documents, le risque, l'audit et l'amélioration continue.

Une première analyse a permis de passer en revue nos politiques, processus et procédures existants afin de déterminer les changements à effectuer. Si de nouveaux éléments spécifiques à l'IA se sont avérés nécessaires, la plupart des changements consistaient à adapter ce que nous avions déjà en place.

L'une des leçons apprises lors de ce processus est que l'IA, initialement considérée comme un sous-ensemble de la sécurité informatique, est désormais un domaine à part entière, au même titre que la sécurité informatique et la protection de la vie privée. Cela a également nécessité quelques changements organisationnels.

L'IA, plus encore que la sécurité informatique, impose une collaboration transverse à différentes équipes. L'un des principaux défis a été de sensibiliser les équipes d'ingénierie technique aux questions de droits humains et aux aspects éthiques lors de la conception et du développement des systèmes d'IA. Nous y sommes parvenus en impliquant ces équipes dès le début des études d'impact et en leur demandant d'examiner les inconvénients et les avantages de l'utilisation de leurs systèmes d'IA pour les individus, les groupes et l'organisation.

D'autre part, nous avons formé le service juridique et les équipes de diverses fonctions aux systèmes Genesys Cloud AI à l'aide de notre documentation technique.

Le lien entre ces normes est logique, d'autant plus que nombre de nos clients utilisent déjà les frameworks ISO dans leurs propres opérations. Du point de vue de l'acheteur, la due diligence reste un élément important dans la sélection des fournisseurs. Comment ISO/IEC 42001 aide-t-elle les clients à évaluer leurs partenaires CX et à leur accorder leur confiance ?

Willemse : la certification ISO 42001 allège considérablement le fardeau de la due diligence pour les acheteurs. Plus besoin de passer par l'étape laborieuse d'évaluation des contrôles d'IA d'un fournisseur, étant donné que ceux-ci ont déjà été vérifiés de manière indépendante par un auditeur externe. Elle donne l'assurance de notre engagement à développer une IA digne de confiance et soumise à une gouvernance rigoureuse.

En outre, les rapports de transparence détaillés que Genesys Cloud fournit pour chacun de ses produits et systèmes d'IA aident les acheteurs à répondre à de nombreuses questions de due diligence.

Dans l'ensemble, cela permet d'accélérer la sélection des fournisseurs et le processus d'achat puisque les acheteurs peuvent s'appuyer sur une validation par une tierce partie indépendante.

Merci pour cette perspective très utile sur la valeur pour le client. J'imagine que le processus nous a également beaucoup appris en interne. Qu'est-ce que les exigences de certification nous ont appris sur le risque et l'impact de l'IA ?

Willemse : En 2023, alors que la loi européenne sur l'IA se profilait encore à l'horizon et que seule une ébauche de la norme ISO 42001 avait été publiée, nous avons élaboré un business case pour la mise en conformité à cette loi de l'UE. À ce stade, nous avions réalisé une preuve de concept (PoC) à petite échelle pour l'identification et l'évaluation des risques sur l'un de nos systèmes d'IA traditionnels déjà bien établis. Il était clair que nous étions confrontés à plusieurs défis fondamentaux :

  1. Aucun langage commun ni convention de nommage en matière d'IA au sein des équipes
  2. Inventaire incomplet de l'IA, y compris des composants d'IA de tiers
  3. Documentation technique incomplète sur les systèmes d'IA, les modèles et les jeux de données utilisés
  4. Aucune prise en compte de la complexité du risque IA dans les politiques et procédures de gestion des risques existantes
  5. Niveaux de connaissance variables en matière de gouvernance de l'IA 

Or, tous ces éléments étaient absolument essentiels à une gestion efficace du risque IA dans le cadre d'une gouvernance plus large, et imposait une forte transversalité dans la coopération des équipes.

Nous avons réalisé très tôt que, dans le cadre de la loi européenne sur l'IA, nos clients auraient également l'obligation d'effectuer des bilans de risques IA et des évaluations d'impact des systèmes d'IA. Pour les accompagner dans cette démarche, nous avons dû faire preuve de transparence et mettre à leur disposition les fiches de nos produits et systèmes d'IA.

Le travail réalisé pour relever ces défis nous a également offert de nombreuses opportunités internes, notamment une visibilité et des insights étendus sur notre écosystème d'IA. Cela s'est traduit par une collaboration plus étroite sur les projets d'IA entre toutes les équipes internes.

Je sais que l'encre de votre certificat ISO/IEC 42001 est à peine sèche, mais quelle est la prochaine étape pour la gouvernance de l'IA chez Genesys ?

Willemse : L'obtention de la certification ISO 42001 est une réussite extraordinaire et un excellent point de départ dans notre parcours IA. La prochaine phase se concentrera sur la maturation de notre cadre de gouvernance de l'IA, l'amélioration continue de notre documentation technique pour les clients, la formation à l'IA de tous nos collaborateurs et l'automatisation des workflows IA (c'est-à-dire les évaluations d'impact des systèmes d'IA).

La norme ISO 42001 pour Genesys Cloud représente certes un grand pas dans la bonne direction, mais il reste encore beaucoup à accomplir pour se conformer pleinement à la loi européenne sur l'IA pour tous les produits Genesys. Nous y travaillons.

Les autres domaines prioritaires pour 2026 et au-delà sont les suivants :

  1. Le renforcement du cadre actuel de protection de la vie privée (dans le cadre de notre préparation à la certification ISO 27701), en particulier en ce qui concerne les données d'IA et le cycle de vie des données.
  2. Le développement durable, alors que de nouvelles directives sont annoncées et que l'IA mobilise énormément de ressources informatiques. Des évaluations de l'impact environnemental des modèles d'IA, au moyen de véritables outils de mesure des émissions de carbone, ne sont actuellement pas disponibles et doivent être développées.
  3. La continuité d'activité est déjà une grande priorité pour Genesys en raison de nouvelles réglementations telles que DORA. En ce sens, l'intégration des risques et des défaillances liés à l'IA dans les évaluations d'impact sur les entreprises constituera une autre priorité importante.

Enfin, Genesys continuera à donner la priorité aux certifications et à la conformité réglementaire afin de rester en phase avec l'évolution des modèles de gouvernance de l'IA.

La voie à suivre pour Genesys Cloud AI

L'IA agentique représente la prochaine grande évolution dans le domaine de la CX, et son succès dépendra de la confiance qu'elle inspire. La voie à suivre consiste à développer l'IA de manière responsable, en suscitant la confiance dans la technologie à mesure que ses capacités et son autonomie augmentent.

La certification ISO/IEC 42001 de Genesys constitue une base solide pour établir cette confiance, car elle établit un cadre vérifié pour la responsabilisation, la transparence et l'amélioration continue. Elle renforce notre engagement à fournir une IA qui améliore les expériences sans introduire de risque et donne à nos clients la confiance nécessaire pour opérationnaliser l'IA de manière responsable.

  • Pour en savoir plus sur la conformité globale de Genesy Cloud, rendez-vous dans notre Centre de confiance.
  • Consultez la page Genesys consacrée à l'IA responsable pour comprendre notre engagement dans ce domaine.