Resumo executivo
A Genesys está comprometida em construir IA responsável que aprimora as experiências do cliente enquanto mantém a privacidade, equidade, transparência e segurança. Este artigo descreve nossa estrutura ética para desenvolvimento e implementação de IA, que é orientada por quatro princípios fundamentais: Responsabilidade, Segurança e Privacidade, Transparência e Equidade. Esses pilares orientam como construímos, governamos e evoluímos a IA de maneiras que são responsáveis, confiáveis e alinhadas com os valores do cliente. Por meio de governança robusta, controles claros e melhoria contínua, nosso objetivo é garantir que nossos sistemas de IA sejam confiáveis, compatíveis e benéficos para todos os usuários.
Nosso compromisso com a IA ética
Na Genesys, estamos comprometidos em desenvolver inteligência artificial (IA) de forma responsável — colocando segurança, privacidade, equidade e transparência no centro de cada capacidade que levamos ao mercado. Reconhecemos que a IA, particularmente recursos baseados em IA generativa e modelos de linguagem grandes, apresenta um conjunto evolutivo de oportunidades e riscos para nossos clientes. Como tal, priorizamos a confiança, escolha e controle do cliente na construção de sistemas de IA éticos.
A Genesys não usa comunicações de clientes — como áudio, vídeo, chat, gravações de tela, anexos ou metadados — para treinar modelos de IA compartilhados ou de terceiros. Nossos sistemas de IA são projetados para proteger o conteúdo do cliente e ajudar a garantir que os dados permaneçam sob o controle do cliente.
Também fornecemos controles granulares nos níveis de organização, grupo e usuário para permitir que administradores e usuários configurem quais capacidades de IA estão habilitadas e como são usadas. Por exemplo, recursos de IA como resumo ou Copilot podem ser ativados seletivamente e oferecem notificações no produto para informar aos usuários quando a IA está ativa.
Através deste compromisso, a Genesys garante que considerações éticas não sejam uma reflexão tardia, mas parte da base de como projetamos, implantamos e governamos a IA.
Introdução
A Inteligência artificial está no centro da plataforma Genesys Cloud™, alimentando recursos que aprimoram a experiência do cliente, otimizam o desempenho do agente e orquestram resultados entre canais. À medida que a IA se torna mais profundamente incorporada em como operamos e servimos nossos clientes, reconhecemos a responsabilidade crítica de permitir que nossos clientes a projetem e implementem de forma ética.
Responsabilidade
Os sistemas de IA devem ser cuidadosamente governados e ativamente monitorados para permitir que funcionem conforme pretendido — e conforme esperado. Na Genesys, a responsabilidade é mais do que um requisito de conformidade; é um valor fundamental que molda como construímos, implantamos e melhoramos continuamente a IA em nossa plataforma. Assumimos a responsabilidade tanto pelo desempenho técnico quanto pelos resultados do mundo real de nossos sistemas de IA.
Funções definidas e estruturas de governança
Equipes multifuncionais, incluindo Gerenciamento de Produtos, Engenharia, Jurídico e Privacidade, trabalham juntas para estabelecer responsabilidade pelo uso ético da IA. Funções e responsabilidades são atribuídas para cada etapa do ciclo de vida da IA — desde o fornecimento de dados até o monitoramento pós-lançamento.
Revisões pré e pós-implantação
Novas capacidades de IA passam por avaliações de risco que avaliam possíveis preocupações éticas, legais e operacionais. Essas avaliações continuam após o lançamento, com modelos e seus impactos revisados através de monitoramento, feedback do cliente e testes de desempenho.
Supervisão e controle humanos
Incorporamos mecanismos de humano no circuito em sistemas como Assistência ao agente e Agent Copilot. Estes visam garantir que as recomendações de IA apoiem agentes humanos em vez de substituí-los, particularmente em cenários de alto impacto como atendimento ao cliente ou casos de uso sensíveis à conformidade.
Canais de escalação e feedback
Clientes e usuários da Genesys têm caminhos claros para relatar preocupações ou comportamento não intencional da IA. Loops de feedback estão implementados para permitir que equipes responsáveis avaliem e respondam a riscos emergentes ou padrões de uso indevido, ajudando a manter a responsabilidade ao longo do tempo.
Segurança e privacidade
Segurança e privacidade são essenciais para IA ética. A Genesys segue uma abordagem de privacidade por design, incorporando medidas de proteção em todo o ciclo de vida da IA. Priorizamos a minimização da exposição de dados, garantindo que o controle permaneça nas mãos do cliente e alinhando-se com as regulamentações globais de proteção de dados em evolução.
Minimização e isolamento de dados
Os sistemas de IA da Genesys Cloud são projetados para coletar e usar apenas os dados necessários para o recurso em questão. Todas as instâncias de clientes são logicamente separadas em nossa plataforma na nuvem, e garantimos o isolamento dos caminhos de acesso a dados entre clientes.
Proteção de dados por design
A Genesys não usa comunicações de clientes, como áudio, chat, gravações de tela ou anexos, para treinar modelos fundamentais compartilhados ou de terceiros. Qualquer personalização de modelo, como ajuste de prompt ou ajuste fino, é limitada ao ambiente do cliente e apenas sob seu controle.
Anonimização e controles de acesso
Onde os dados devem ser processados para capacidades de IA, aplicamos anonimização ou mascaramento. Os pipelines de modelos são protegidos por controles de acesso rigorosos e logs de auditoria, ajudando a garantir que apenas usuários autorizados possam acessar infraestrutura sensível ou artefatos de modelo.
Conformidade regulamentar e normas globais
Construímos recursos de IA para cumprir com regulamentações internacionais de proteção de dados, incluindo EU AI Act, GDPR, Health Insurance Portability and Accountability Act (HIPAA) e California Consumer Privacy Act (CCPA).
Transparência
A transparência permite que usuários e administradores compreendam melhor como a IA funciona, o que ela pode fazer e onde estão seus limites. Nosso objetivo é desmistificar a tecnologia, oferecendo aos clientes tanto insights quanto controle sobre suas experiências alimentadas por IA.
Cartões de produto e divulgações do sistema
Para cada produto alimentado por IA, disponibilizamos cartões de produto de IA aos clientes. Esses relatórios contêm informações técnicas sobre todos os sistemas de IA incluídos no produto, incluindo finalidade, modelos de IA utilizados, escopo de dados de treinamento, idiomas suportados, benchmarks de desempenho e limitações conhecidas. Estes ajudam os clientes a avaliar se um recurso de IA é adequado para seu ambiente.
Explicabilidade em interfaces de usuário
O conteúdo gerado por IA — como sentimento, roteamento preditivo, engajamento preditivo — é acompanhado por explicações e pontuações de confiança quando aplicável. Isso permite que agentes e supervisores tomem decisões informadas baseadas em recomendações de IA, não em confiança cega.
Comportamento e limites configuráveis
Os clientes têm acesso a configurações que moldam o comportamento da IA. Isso inclui opções para definir limites, definir lógica de fallback, ajustar fraseado de prompts ou alternar recursos específicos para atender objetivos operacionais.
Documentação e comunicação transparentes
Cada recurso de IA é suportado por documentação que descreve como funciona, quais dados utiliza e como lida com privacidade. Os clientes podem fazer escolhas informadas sobre a implantação de IA baseadas em sua compreensão de sua função e implicações.
Equidade
A IA deve funcionar bem para todos, independentemente do idioma, geografia ou origem demográfica. Na Genesys, equidade significa tomar medidas mensuráveis para detectar, prevenir e mitigar a tendenciosidade em dados, modelos e resultados do sistema.
Práticas de dados conscientes da tendenciosidade
Os dados de treinamento são revisados para equidade representacional entre idiomas, regiões e demografias. As práticas de anotação são projetadas para minimizar a subjetividade e evitar injetar tendenciosidade humana no treinamento do modelo.
Desempenho consistente do modelo entre populações
Fazemos benchmark do desempenho do modelo entre idiomas e dialetos para garantir equidade na qualidade da IA. Para todas as novas capacidades, os idiomas Tier 1 incluem: Inglês (EUA), Inglês (Reino Unido), Inglês (Austrália), Holandês (Países Baixos), Francês (França), Francês (Canadá), Alemão (Alemanha), Hindi (Índia), Japonês (Japão), Português (Brasil), Espanhol (Espanha), Espanhol (EUA/LATAM), Árabe (Emirados Árabes Unidos), Alemão (Suíça) e Coreano (Coreia). As lacunas de desempenho são abordadas através de retreinamento, análise de erros e melhorias direcionadas.
Evitando o reforço da tendenciosidade histórica
Os sistemas da Genesys são construídos para evitar a tendenciosidade de automação e loops de feedback que podem reforçar padrões existentes. Permitimos que os tomadores de decisão humanos revisem, substituam ou refinem ações orientadas por IA quando apropriado.
Suporte inclusivo a idiomas e regiões
Priorizamos a expansão de capacidades para idiomas e mercados mal atendidos. Isso inclui expandir a cobertura de idiomas, desenvolver comportamentos de IA culturalmente apropriados e testar com uma perspectiva global.
Governança e melhoria contínua
A IA ética não é uma conquista única; é um processo contínuo que deve se adaptar a novas tecnologias, regulamentações e necessidades dos clientes. Na Genesys, vemos a governança e a melhoria contínua como essenciais para manter nossos sistemas de IA confiáveis e alinhados com nossos valores ao longo do tempo.
Supervisão de IA multifuncional
A governança de IA na Genesys é gerenciada através da colaboração entre as equipes de Gerenciamento de Produtos, Pesquisa de IA, Jurídico, Privacidade, Segurança e Experiência do Cliente. Essas equipes estabelecem os critérios de revisão ética para recursos de IA, definem limites de risco e ajudam a garantir que as práticas evoluam junto com o feedback de clientes e padrões da indústria.
Gerenciamento de riscos ao longo do ciclo de vida
Conduzimos avaliações de risco e impacto durante todo o ciclo de vida da IA — desde a idealização até a implantação e monitoramento. Essas revisões consideram fatores como tendenciosidade potencial, exposição de dados, resultados não intencionais e impactos do usuário e ambientais. Modelos com maior risco potencial estão sujeitos a supervisão e testes adicionais.
Monitoramento de desempenho e atualizações de modelo
Após a implantação, os modelos de IA são monitorados quanto à precisão, equidade e consequências não intencionais. Quando degradação de desempenho ou tendenciosidade é detectada, atualizações são acionadas usando novos dados ou técnicas de ajuste revisadas. A avaliação contínua ajuda a garantir que os modelos permaneçam alinhados tanto com os objetivos do sistema quanto com os princípios éticos.
Integração de feedback de clientes
O feedback de clientes desempenha um papel central na melhoria dos sistemas de IA. A Genesys encoraja os clientes a relatarem preocupações, sugerirem melhorias e solicitarem aprimoramentos de configuração. Essas contribuições são revisadas regularmente e orientam a priorização do roteiro para a evolução responsável da IA.
Práticas preparadas para o futuro
À medida que novas tecnologias de IA emergem — especialmente em IA generativa — estamos atualizando ativamente nossos frameworks para incluí-las sob os mesmos princípios de governança. Desde a segurança de prompts de Modelo de linguagem grande (LLM) até a mitigação de alucinações, estamos comprometidos em gerenciar proativamente a próxima geração de capacidades de IA.