A rápida ascensão da inteligência artificial (IA) agêntica está transformando a forma como as empresas interagem com os clientes e operacionalizam os fluxos de trabalho da experiência do cliente (CX). As empresas líderes já estão conduzindo projetos em tempo real, personalizados, proativos e cada vez mais semiautônomos, impulsionados por inteligência artificial.

A curva de adoção de IA já passou da fase de prova de conceito. As empresas agora esperam que a IA ofereça resultados comerciais tangíveis, uma vantagem competitiva e um ROI comprovado. Mas, por mais que as oportunidades sejam vastas, os riscos são igualmente significativos.

Para os líderes técnicos, surgiu uma nova missão dupla: inovar e proteger. As empresas precisam entregar inovação em CX com IA em larga escala, enquanto lidam com uma variedade cada vez maior de riscos, como violações de conformidade, instabilidade geopolítica e ataques cibernéticos impulsionados por IA, violações de dados e tempo de inatividade operacional.

Neste ambiente de alto risco, as práticas de CX responsáveis não podem mais permanecer em segundo plano. Agora, elas são essenciais. Com o avanço acelerado da inovação, incorporar responsabilidade e transparência em cada etapa da experiência do cliente se tornou mais essencial do que nunca.

A missão dupla: inovar e proteger

A pressão para inovar é real. O cenário competitivo exige experiências do cliente mais automatizadas, porém personalizadas, e a IA é o principal facilitador. Segundo o Gartner®, “até 2028, pelo menos 15% das decisões diárias de trabalho serão tomadas de forma autônoma por meio de IA agêntica, um aumento relevante em comparação com o 0% de 2024”1. Esse avanço representa um salto significativo em relação ao cenário atual e marca o início de uma era de decisões impulsionadas por IA em larga escala 

No entanto, adotar a IA com pressa e sem as proteções necessárias pode abrir brechas críticas de segurança, e nenhuma delas é mais prejudicial do que a erosão da confiança do cliente.

Essa transição para a IA agêntica exige governança rigorosa e supervisão da IA ética. Os executivos responsáveis pela tecnologia e conformidade devem garantir que a IA seja confiável, transparente, justa e explicável, ao mesmo tempo em que atendem aos requisitos de segurança e privacidade.

Além dessa complexidade, os dados que alimentam esses sistemas inteligentes são um alvo para ameaças cada vez mais sofisticadas. Os adversários agora estão aproveitando a IA para automatizar ataques, aprimorar campanhas de phishing e até mesmo adaptar suas táticas em tempo real. Isso exige uma abordagem de segurança proativa e flexível, que aproveite a IA para detectar ameaças e fortalecer a defesa.

A realidade é que os sistemas com IA agora são considerados infraestrutura crítica. Quando os serviços de IA voltados para o cliente falham, há um impacto em toda a jornada, o que torna os recursos de redundância e recuperação rápida essenciais.

O planejamento de resiliência agora deve incluir a disponibilidade do sistema de IA junto com outros sistemas de CX críticos. Essa mudança se reflete em regulamentações como a Diretiva NIS2 (Network and Information Security 2) da Europa e o Regulamento de Resiliência Operacional Digital (DORA), que exigem divulgação clara da gestão de riscos relacionados à IA e resiliência operacional.

A inovação em IA não dá sinais de desaceleração. Os executivos devem resolver uma equação difícil: como podemos mover-nos rapidamente e manter a segurança?

Avance com demasiada cautela e corra o risco de ser ultrapassado por quem avança com determinação. Implementar a IA sem proteções pode trazer riscos de danos à reputação, operacionais e regulatórios.

Ventos contrários em ascensão: regulamentação e geopolítica

Não se trata apenas de tecnologia. O cenário regulatório e geopolítico está criando novas restrições sobre como e onde as empresas operam.

Essa pressão é mais evidente no cenário de conformidade que está tomando forma globalmente. Ele está evoluindo com mais rapidez do que a capacidade da maioria das empresas de se adaptar a estruturas como a Lei de IA da UE e a ISO/IEC 42001, que definem a linha de base para IA responsável, enquanto regulamentos como o GDPR impõem padrões rigorosos de privacidade e governança de dados.

Uma das mudanças regulatórias mais importantes é o crescimento das normas de soberania, que estão transformando a maneira como as empresas operam entre regiões, inclusive na forma como estruturam e ampliam a CX. Motivados pela segurança nacional, soberania digital e protecionismo econômico, vários governos ao redor do mundo estão tornando as regras sobre armazenamento, processamento e acesso aos dados dos clientes cada vez mais rígidas.

Um artigo recente da McKinsey & Company afirma que mais de 70% dos países têm suas próprias leis de proteção de dados e leis de privacidade. Cada vez mais, as diretivas de soberania avançam em questões sobre quem controla os dados e onde essas pessoas e empresas estão localizadas. Estes mandatos de longo alcance deram origem a “nuvens soberanas”.   

Essa fragmentação geopolítica, especialmente pelas obrigações regulatórias, cria obstáculos que podem atrasar e dificultar a transformação da experiência do cliente. Os líderes de TI agora investem uma quantidade de tempo considerável discutindo sobre arquitetura dos fornecedores, analisando o fluxo de dados, as jurisdições com acesso e preparando planos de contingência para mudanças nas normas.

A realidade atual é que a conformidade com normas está modificando a forma como as soluções de CX são criadas e implementadas. Oferecer experiências do cliente em escala não é apenas um desafio tecnológico: é cada vez mais um desafio arquitetônico e de governança, que envolve a definição de políticas e procedimentos para garantir a qualidade da experiência do cliente.

Cinco prioridades não negociáveis para uma CX responsável

A oferta de experiências do cliente com IA em escala requer mais do que capacidade técnica. Ela exige uma abordagem estratégica que considere a confiança, o risco, a regulamentação e a resiliência desde o início.

Os seguintes imperativos representam prioridades não negociáveis para os líderes de CX que estão enfrentando essa complexidade.

1. Construa a segurança desde o início

A segurança deve ser integrada em todas as camadas da plataforma de CX, desde a infraestrutura e os aplicativos até a detecção de identidade, dados e ameaças. À medida que os ataques virtuais se tornam mais direcionados e complexos, os controles incorporados e o monitoramento em tempo real são essenciais. Estabeleça parcerias com fornecedores que comprovem práticas de segurança maduras por meio de certificações de terceiros, como ISO/IEC 27001, SOC 2 e equivalentes regionais, como C5, IRAP e ENS High. Estas credenciais não são opcionais, são um pré-requisito.

2. Exija transparência e supervisão em IA

À medida que os sistemas de IA ganham autonomia, as decisões que eles tomam e os dados que os moldam têm consequências regulatórias e de reputação reais. Os líderes de CX precisam de visibilidade clara sobre como os modelos são treinados, como os dados são obtidos e protegidos e como a tendenciosidade é monitorada e mitigada para chegar à equidade representativa entre idiomas, regiões e dados demográficos. Trabalhe com parceiros que publicam seus princípios de ética em IA, fornecem ferramentas de explicabilidade como cartões de modelo de IA e oferecem controles de governança como padrão.

3. Fortaleça a privacidade e a governança de dados

Com as leis de privacidade de dados evoluindo rapidamente em diversas jurisdições, os sistemas de CX devem oferecer controle total sobre onde os dados são armazenados, como eles se movem e quem pode acessá-los. Isso vai além da conformidade. É fundamental ganhar a confiança do cliente e manter a credibilidade da marca. Uma governança forte também garante que as empresas entendam como os dados dos clientes alimentam os modelos de IA, possibilitando resultados mais transparentes e responsáveis.

4. Projete com foco na resiliência operacional

Até mesmo um breve tempo de inatividade pode comprometer jornadas críticas de clientes e prejudicar a fidelidade. É por isso que a CX responsável requer plataformas projetadas para alta disponibilidade, escalabilidade elástica e atualizações contínuas. Avalie os fornecedores com base em sua capacidade de cumprir os acordos de nível de serviço (SLAs), manter redundância global e oferecer transparência pública sobre o status do sistema e o histórico de incidentes. A confiabilidade nunca deve ser uma caixa preta.

5. Alinhe e capacite as partes interessadas interfuncionais

A CX responsável é uma responsabilidade compartilhada e não pertence apenas à equipe de TI. As equipes jurídicas, de conformidade, de privacidade, de segurança, de operações e voltadas para o cliente desempenham funções essenciais no gerenciamento de riscos de IA e na garantia da responsabilidade. Estabeleça uma estrutura de governança com patrocínio executivo claro, funções definidas e propriedade conjunta entre as equipes para ter integração e dimensionamento com responsabilidade.

Você não pode adicionar confiança no final do processo

As empresas que estão prontas para liderar na era agêntica não estão escolhendo entre inovação e confiança. Elas estão avançando nesses dois aspectos como fatores de crescimento inseparáveis.

À medida que a IA avança rapidamente, inovar e proteger devem caminhar juntos, colocando a responsabilidade e a prestação de contas não como algo secundário, mas como a base fundamental dessa jornada. A governança deve ser um modelo operacional central que coloca a transparência, a segurança, a privacidade e a resiliência em pé de igualdade com velocidade e escala.

Ao priorizar a responsabilidade, as empresas se posicionam para implementar a IA com segurança, adaptar-se rapidamente, liderar com integridade e conquistar a confiança duradoura dos clientes.

Você está pronto para avaliar sua arquitetura atual de CX ou explorar uma nova plataforma de orquestração de experiência com IA? Explore como o Genesys Cloud™ AI permite automatizar e otimizar de forma estratégica e segura toda a sua experiência do cliente.

 

1 Fonte: Artigo do Gartner, 2025 Top Strategic Technology Trends, Gene Alvarez, 21 de outubro de 2024

 GARTNER é uma marca registrada e uma marca de serviço da Gartner, Inc. e/ou de suas afiliadas nos Estados Unidos e no mundo, e é usada neste documento com a devida autorização. Todos os direitos reservados.