Encontrando o equilíbrio da IA na experiência do cliente

Este blog foi escrito por Martha Buyer, Diretora do Law Offices of Martha Buyer, PLLC e Proprietária, Law Offices of Martha Buyer, PLLC.

Todo mundo está falando sobre IA. E quero dizer todo mundo mesmo. Em um brunch que reuniu algumas pessoas na casa dos 80 anos (além de mim) nas últimas semanas, um dos convidados — que, para ser justo, não parecia muito por dentro da conversa, começou a reclamar da IA Ficou claro que ele não entendia suas capacidades e vulnerabilidades até porque continuava chamando de “A1.” Por mais tentada que eu estivesse em corrigir ele, segurei minha língua. Era mais fácil (e mais educado) do que dizer que ele estava errado.

A inteligência artificial conquistou — e continuará conquistando — seu lugar em nossas vidas, seja pessoal, governamental ou empresarial. Mas embora a IA ofereça grande promessa e capacidades, não está isenta de vulnerabilidades significativas. Antes de explorar seu papel no mundo da experiência do cliente (CX), por favor considere algumas fortalezas e fraquezas básicas. Esta lista é longe de ser exaustiva, mas no contexto de CX, essas são as que mais se destacam.

Pontos fortes da IA na Experiência do Cliente

1. As ferramentas de IA podem processar enormes volumes de dados com relativa facilidade. Pode ser usada para executar algoritmos complexos para gerar resultados que podem ser muito úteis no gerenciamento de processos e resultados.
   Quando adequadamente implementadas, monitoradas e gerenciadas, as ferramentas de IA podem adicionar eficiências às operações do contact center. Contudo, a palavra-chave aqui é, E vem com um grande aviso: Os resultados podem não produzir o resultado apropriado. Para esclarecer, é fundamental validar que as ferramentas utilizadas estão gerando os resultados corretos. Continue lendo para ver como isso pode facilmente sair dos trilhos.
2. De acordo com Forrester Research, a IA generativa pode ser usada para complementar dados existentes com “equivalentes sintéticos preservando a confidencialidade e privacidade.” A palavra-chave aqui é complementar, e não posso enfatizar o quão importante esta palavra é neste contexto.

Vulnerabilidades da IA na Experiência do Cliente

Embora eu não seja exatamente um “Bisonho” alguém que não acredita na adoção de tecnologias emergentes —, continuo cauteloso quanto aos riscos associados ao uso indevido de dados gerados por IA. A principal preocupação é que, se os dados subjacentes não forem bons (por uma série de razões), o resultado também tende a ser falho, na melhor das hipóteses — e, na pior, perigoso.

Em outras palavras: isso pode resultar em litígios caros, em termos de tempo, dinheiro e, claro, dor de cabeça. As vulnerabilidades também aumentam à medida que surgem mais variáveis e cresce a dependência de métricas orientadas por tecnologia.

1. Quanto mais complexo o algoritmo, maior a probabilidade de surgirem brechas na proteção, permitindo que atores maliciosos tenham acesso a informações que deveriam ser — e espera-se que sejam — confidenciais. Quanto maior o conjunto de dados, maior o perigo de ataques, porque tais ataques podem causar estragos em uma escala muito maior. E portanto, é necessária vigilância extra.
2. À medida que as notícias de mais ataques chegam a mais pessoas, e embora as ferramentas de IA possam não ter contribuído para os problemas, essas pessoas dentro e fora da empresa terão menor confiança no processo — qualquer que seja o processo.
3. Sem proteções adequadas (e quem sabe se tais ferramentas — incluindo diretrizes escritas ou políticas — sequer existem), a probabilidade de direitos autorais e outros direitos de propriedade intelectual podem e serão violados, sujeitando a entidade que depende da saída da IA generativa a litígios. Suspeito que isso seja menos problemático no contexto do contact center, mas vale a pena considerar.
4. A presença de ferramentas de IA no contact center também cria oportunidades adicionais para que os boatos se espalhem descontroladamente. A possibilidade de colaboradores ou contratados serem substituídos por IA pode criar oportunidades de maior produtividade, mas também trazer estresse adicional e desafios para o moral das equipes. Não é difícil imaginar como esse tipo de especulação pode fazer com que as pessoas temam por seus empregos, independentemente de suas preocupações serem válidas ou não.
5. Embora não tenha havido nenhum litígio bem divulgado até o momento como resultado de falhas de sistemas de IA — ou falhas humanas causadas pela dependência nos resultados da IA — certamente seria algo que está por vir. Os humanos cometem muitos erros por conta própria, mas dependemos — em diferente medida — de sistemas que usam dados históricos. Afinal, os sistemas de IA só podem utilizar dados coletados anteriormente, o que os torna suscetíveis a desafios legais e veredictos significativos de júri.

O papel das ferramentas de IA no Contact Center

Desde os primeiros dias dos contact centers (mesmo quando eram chamados de “call centers”), os gerentes dependiam de estatísticas para gerenciar e monitorar a produção e produtividade dos agentes. Meu primeiro emprego após a faculdade foi em um, e aprendi rapidamente como o sistema podia ser manipulado.

No final de cada mês, os agentes eram classificados. Todos em nosso grupo sabiam que o agente que terminava em segundo lugar todo mês era mais inteligente que todos os outros do grupo. Mas enquanto o agente que terminava em primeiro lugar era recompensado com bônus e outras oportunidades (até ela ir para a prisão, mas essa é outra história), o herói era realmente o agente que terminava em segundo lugar.

Como isso aconteceu? Como foi descoberto, o agente que terminava em primeiro lugar, de forma continua desligava as chamadas que eram complexas para que pudesse gerar o maior número de chamadas atendidas. Isso deixava os clientes ainda mais frustrados, pois precisavam ligar de volta para obter o atendimento de que precisavam. O agente “top” não estava fornecendo um atendimento de qualidade ao cliente; ela estava simplesmente construindo seus números às custas de todos os outros. Foi só quando um gerente a ouviu fazer isso que a situação veio à tona — e ela foi demitida imediatamente. Mas porque a gestão estava focada nos números — não na qualidade do serviço sendo oferecido — ela conseguiu se safar por muito tempo.

Minha conclusão dessa experiência (além de desejar desesperadamente um emprego diferente) é que se você não está medindo as coisas certas, as estatísticas não significam nada. Agora que os algoritmos são muito mais complexos do que eram nos tempos antigos, a qualidade dos dados coletados permanece ainda mais importante.

• As perguntas certas estão sendo feitas?
• Qual é a antiguidade dos dados que estão sendo utilizados para possivelmente projetar resultados?
• Como vários fatores no algoritmo são ponderados para produzir resultados?
• As perguntas são direcionadas para garantir resultados ou fornecer informações úteis para melhorar processos?

Não há respostas certas aqui, mas uma consideração cuidadosa é necessária.

Há também uma distinção importante entre usar ferramentas de IA para gerenciar interações com clientes (voltadas para fora) versus fazer uso delas, para gerenciar interações com colaboradores (voltadas para dentro). Muitos empregadores veem que ferramentas baseadas em IA e outras funções automatizadas podem lidar com tarefas frequentemente trabalhosas, como a elaboração de escalas de colaboradores, o controle de ponto, o acompanhamento da localização dos colaboradores e o cálculo de salários E embora essas ferramentas possam ser úteis para medir a produtividade dos colaboradores, quando as empresas passam a substituir ou complementar ferramentas baseadas em julgamento humano por ferramentas de IA, questões éticas podem surgir de forma significativa — e até resultar em disputas judiciais

É sempre importante lembrar que as ferramentas de IA não têm julgamento ou senso comum. Como tal, os empregadores devem reconhecer que usar medições como teclas pressionadas, cliques do mouse ou presença do colaborador em frente a uma câmera não necessariamente refletem ou fornecem medições precisas de produtividade. Julgar o desempenho do colaborador baseado apenas nessas métricas é mais do que arriscado. É imprudente.

Além disso, a Divisão de Salários e Horas do Departamento do Trabalho dos EUA emitiu recentemente diretrizes para o uso de IA no local de trabalho¹. Este documento contém orientações críticas para o empregador, particularmente no que diz respeito ao gerenciamento da lacuna entre o que as novas tecnologias oferecem vs o que a lei exige.

De acordo com o documento, “À medida que inovações tecnológicas emergem, as leis federais administradas e aplicadas pela D[age and] S[our] H[ivision] continuam a se aplicar, e os colaboradores têm direito às proteções que essas leis fornecem, independentemente das ferramentas e sistemas usados em seus locais de trabalho.”

Do lado da experiência do cliente, é importante perguntar: os ganhos de eficiência proporcionados pelas ferramentas de IA estão acontecendo às custas de um “bom” atendimento ao cliente? É difícil imaginar que qualquer cliente que acabe em um contact center esteja feliz com isso.

Na minha opinião, os contact centers muitas vezes existem para afastar as empresas de seus clientes ao invés de realmente atendê-los. Com esse ceticismo, quanto menos “amigável” ao cliente for o contact center, menos provável é que eu queira fazer negócios com essa entidade. No entanto, na maioria dos casos, não há escolha.

Embora as ferramentas de IA possam agilizar a entrega de serviços ao fornecerem métricas potencialmente úteis (a palavra-chave novamente é potencialmente), os sistemas de IA ainda não são suficientemente sofisticados para substituir o valor e a precisão das interações humanas. Isso não quer dizer que as ferramentas de IA não tenham um papel no contact center. Mas esse lugar deve estar em conjunto com ferramentas e processos complementares.

Blair Pleasant, Presidente e Analista Principal da COMMfusion comentou recentemente: “Com o tempo, a tecnologia certamente continuará a evoluir e se tornará cada vez mais sofisticada, e nesse momento, a IA generativa pode ser muito pouco confiável e potencialmente imprecisa para usar como a interface principal do cliente. Sem proteções suficientemente fortes e apropriadas, incluindo modelos adequadamente treinados, como exemplo, há um grande risco de que a saída da IA forneça informações incorretas, o que pode ser prejudicial para a marca e o relacionamento com o cliente. Se você pretende começar a usar IA em tecnologias voltadas ao cliente, a melhor abordagem por enquanto é combinar diferentes tecnologias de IA para aproveitar os benefícios da IA generativa enquanto reduz os risco

As ferramentas de IA são precisamente isso — ferramentas. A dependência delas pode certamente ajudar no manuseio de algumas funções analíticas complexas de processamento de dados dentro da empresa. Mas mesmo quando usadas para realizar tarefas simples, é necessária vigilância absoluta.

Para saber mais sobre o uso de IA na empresa, visite Martha Buyer online ou entre em contato com ela diretamente via email.

¹ Boletim de Assistência em Campo No. 2024-1, “Inteligência Artificial e Sistemas Automatizados no Local de Trabalho sob a Lei de Padrões Trabalhistas Justos e Outros Padrões Trabalhistas Federais.”