A Inteligência Artificial (IA) está remodelando a experiência do cliente de maneiras extraordinárias. O que começou como automação simples está evoluindo para sistemas capazes de aprender, raciocinar e, em breve, agir em nome de clientes e colaboradores. Essa mudança em direção à IA agêntica abre oportunidades empolgantes para criar novos tipos de valor, não apenas automatizar o trabalho existente. Ao mesmo tempo, maior autonomia também introduz novos riscos, aumentando a necessidade de uma governança de IA confiável e verificada de forma independente.

É por isso que temos o prazer de compartilhar que a plataforma Genesys Cloud™ alcançou a certificação ISO/IEC 42001:2023 para nosso Sistema de Gestão de IA (AIMS). Este padrão globalmente reconhecido é o primeiro de seu tipo focado na gestão responsável de IA. Ele descreve como as organizações podem estabelecer, operar e melhorar continuamente um sistema de gestão de IA com controles estruturados para risco, supervisão e desempenho.

Conquistar a certificação ISO/IEC 42001 representa um marco importante em nosso compromisso contínuo com IA responsável. Recentemente conversei com Louise Willemse, Principal Product Manager para Segurança, Privacidade, IA e Compliance na Genesys, para discutir o escopo da ISO/IEC 42001 para o Genesys Cloud, seu valor para líderes de CX e os próximos passos para governança de IA. Abaixo está um resumo da nossa conversa.

Oi Louise, parabéns a você e a toda a equipe por essa conquista. É o resultado de muito trabalho focado ao longo de vários meses. Para quem talvez não esteja familiarizado, você pode explicar o que é a ISO/IEC 42001 e o que motivou a Genesys a buscar essa certificação?

Louise Willemse: Obrigada. Isso não teria sido possível sem a contribuição de muitas equipes. A ISO/IEC 42001 é o primeiro padrão globalmente reconhecido que especifica requisitos para estabelecer, implementar, manter e melhorar continuamente um Sistema de Gestão de Inteligência Artificial (AIMS) dentro das organizações. Alcançar essa certificação demonstra a aplicação dos princípios do AIMS, como Responsabilidade, Transparência, Justiça, Segurança e Privacidade, além da aplicação dos controles da ISO/IEC 42001 para garantir o desenvolvimento e uso responsável de sistemas de IA.

Um AIMS consiste nos seguintes componentes principais:

  • Estrutura de governança: Define papéis, responsabilidades e supervisão da gestão de IA dentro da organização.
  • Políticas e procedimentos: Estabelece regras documentadas para design, desenvolvimento, implantação e uso ético da IA.
  • Gestão de risco: Identifica, avalia e mitiga riscos associados a sistemas de IA, incluindo questões de segurança e proteção.
  • Governança de dados: Garante que os dados usados por sistemas de IA sejam gerenciados adequadamente, incluindo segurança, privacidade, integridade e conformidade.
  • Medidas de transparência: Permite documentação e comunicação claras sobre sistemas de IA, decisões e resultados.
  • Melhoria contínua: Implementa mecanismos de monitoramento, revisão e atualização contínua dos sistemas de IA.
  • Engajamento de stakeholders: Promove comunicação com partes interessadas internas e externas para lidar com preocupações e feedback.

A motivação para buscar essa certificação remonta a 2024, quando ficou claro que a ISO 42001 oferecia uma estrutura sólida para estabelecer um programa de governança de IA.

Ótima visão geral. Vamos ser um pouco mais específicos sobre a certificação em si. O que a Genesys incluiu no escopo da auditoria e essa certificação se aplica a todas as regiões globais do Genesys Cloud?

Willemse: O escopo da certificação ISO/IEC 42001 do Genesys Cloud inclui o design, desenvolvimento e implantação de tecnologias de IA na plataforma Genesys Cloud.

As tecnologias de IA usadas incluem algoritmos de aprendizado de máquina, processamento de linguagem natural, análise preditiva, algoritmos de tomada de decisão em tempo real, IA conversacional, IA generativa e modelos de linguagem de grande porte (LLMs). Essas tecnologias estão incorporadas na plataforma Genesys Cloud.

A ISO 42001 é uma certificação global e nosso certificado cobre nove sites onde o desenvolvimento de IA é concentrado: Galway (Irlanda); Menlo Park (Califórnia); Durham (Carolina do Norte); Indianapolis (Indiana); Chennai (Índia); Hyderabad (Índia); Toronto (Canadá); Tel Aviv (Israel) e Budapeste (Hungria).

Obrigada por esclarecer o escopo. Muitos clientes já estão familiarizados com outros padrões ISO, como 27001 e 27701. Como a ISO/IEC 42001 se relaciona com esses frameworks e onde ela adiciona algo novo?

Willemse: Desde o início, a intenção foi criar um sistema de gestão integrado, aproveitando o sistema já existente para ISO 27001/27017/27018. O AIMS compartilha processos comuns de gestão integrados, como controle de documentos, gestão de risco, auditoria e melhoria contínua.

Uma análise inicial identificou lacunas nas políticas, processos e procedimentos existentes para entender o que precisava ser ajustado. Embora alguns novos elementos específicos de IA fossem necessários, a maior parte envolveu adaptar o que já existia.

Uma das lições aprendidas foi que a IA, inicialmente tratada como um subconjunto da segurança da informação, é um domínio próprio — ao lado de segurança da informação e privacidade. Isso também exigiu algumas mudanças organizacionais.

A IA, mais do que a segurança da informação, requer equipes multifuncionais trabalhando juntas. Um dos principais desafios foi tornar equipes de engenharia mais conscientes de aspectos éticos e de direitos humanos ao projetar e desenvolver sistemas de IA. Fizemos isso envolvendo essas equipes cedo nas avaliações de impacto dos sistemas de IA e fazendo com que considerassem riscos e benefícios para indivíduos, grupos e a organização.

O outro lado foi educar equipes jurídicas e multifuncionais sobre os sistemas de Genesys Cloud AI, usando nossa documentação técnica.

A relação entre os padrões faz sentido, especialmente porque muitos de nossos clientes já utilizam frameworks ISO. Do ponto de vista do comprador, due diligence é sempre uma parte importante da seleção de fornecedores. Como a ISO/IEC 42001 ajuda clientes a avaliar e confiar em seus parceiros de CX?

Willemse: A certificação ISO 42001 reduz significativamente o esforço de due diligence para compradores. O trabalho detalhado de avaliar os controles de IA de um fornecedor já foi realizado e verificado por um auditor externo. Ela oferece garantia de nosso compromisso com o desenvolvimento de IA confiável e bem governada.

Além disso, os relatórios detalhados de transparência que o Genesys Cloud fornece para cada um de nossos produtos e sistemas de IA ajudam compradores a avaliar a tecnologia e responder a muitas das perguntas típicas de due diligence.

No geral, isso acelera a seleção e contratação de fornecedores, já que os compradores podem apontar para uma validação independente de terceiros.

Essa perspectiva sobre valor ao cliente é muito útil. Imagino que o processo também nos ensinou bastante internamente. O que aprendemos sobre risco e impacto da IA ao trabalhar nos requisitos da certificação?

Willemse: Em 2023, quando o EU AI Act ainda estava em discussão e apenas o rascunho da ISO 42001 havia sido publicado, desenvolvemos um business case para cumprir o EU AI Act. Na época, havíamos concluído um pequeno proof of concept para identificar e avaliar riscos de IA em um de nossos sistemas tradicionais mais maduros. Ficou claro que enfrentávamos vários desafios fundamentais:

  1. Falta de linguagem comum ou padrões de nomenclatura de IA entre as equipes.
  2. Inventário de IA incompleto, incluindo componentes de IA de terceiros.
  3. Documentação técnica incompleta sobre sistemas de IA, modelos e conjuntos de dados usados.
  4. Políticas de gestão de risco existentes que não consideravam a complexidade dos riscos de IA.
  5. Níveis variados de conhecimento sobre governança de IA.

Todos esses itens eram essenciais para ter uma gestão de riscos de IA eficaz como parte de uma governança mais ampla e exigiram forte colaboração multifuncional entre equipes.

Percebemos cedo que nossos clientes também teriam obrigações para realizar avaliações de risco e impacto de sistemas de IA sob o EU AI Act. Para habilitar nossos clientes nessas tarefas, precisamos ser transparentes e disponibilizar nossas AI Product Cards e AI System Cards.

O trabalho realizado para enfrentar esses desafios nos trouxe várias oportunidades internas, incluindo maior visibilidade e insights sobre nosso ecossistema de IA. Isso resultou em uma colaboração ainda mais próxima entre todas as equipes envolvidas em projetos de IA.

Eu sei que a certificação ISO/IEC 42001 acabou de ser obtida, mas quais são os próximos passos para a governança de IA na Genesys?

Willemse: Ter a certificação ISO 42001 é uma conquista incrível e um ótimo começo para nossa jornada de IA. A próxima fase será focar em amadurecer nosso framework de governança de IA, continuar aprimorando nossa documentação técnica para clientes, elevar a literacia de IA entre colaboradores e automatizar fluxos de trabalho relacionados à IA (como avaliações de impacto de sistemas de IA).

Embora a ISO 42001 para o Genesys Cloud seja um grande passo na direção certa, ainda há mais trabalho a ser feito para cumprir totalmente o EU AI Act em toda a Genesys. Esse trabalho está em andamento.

Outras áreas de foco para 2026 e além incluem:

  1. Fortalecer o framework de privacidade atual (trabalhando para a certificação ISO 27701), especialmente no que diz respeito a dados de IA e ao ciclo de vida dos dados.
  2. Sustentabilidade, considerando as novas diretrizes que estão surgindo e a alta demanda computacional da IA. Avaliações de impacto ambiental com ferramentas reais para medir emissões de carbono de modelos de IA ainda não existem e precisam ser desenvolvidas.
  3. Continuidade de negócios, especialmente à luz de novas regulações como DORA. Incorporar riscos e falhas relacionados à IA em avaliações de impacto será uma prioridade importante.

Por fim, a Genesys continuará priorizando certificações e garantias regulatórias para acompanhar o cenário em evolução da governança de IA.

O caminho à frente para o Genesys Cloud AI

A IA agêntica representa o próximo salto em CX; e a confiança será o fator que definirá seu sucesso. O futuro está em escalar IA de forma responsável, criando confiança na tecnologia à medida que ela se torna mais capaz e autônoma. A certificação ISO/IEC 42001 da Genesys fornece uma base sólida para essa confiança por meio de um framework verificado de responsabilidade, transparência e melhoria contínua. Ela reforça nosso compromisso em entregar IA que melhore experiências sem introduzir riscos e dá aos nossos clientes a confiança necessária para escalar com segurança.

  • Para saber mais sobre a conformidade global do Genesys Cloud, visite nosso Trust Center.
  • Consulte a página de IA Responsável da Genesys para entender nosso compromisso com o desenvolvimento responsável de IA.