El rápido ascenso de la inteligencia artificial (IA) agéntica está transformando la manera en que las empresas interactúan con los clientes y ejecutan los flujos de trabajo de experiencia del cliente (CX). En la actualidad, las principales empresas orquestan interacciones en tiempo real, personalizadas, proactivas y cada vez más semiautónomas utilizando la IA.

La curva de adopción de la IA ha superado la fase de prueba de concepto. Hoy las empresas esperan que la IA produzca resultados tangibles y les otorgue una ventaja competitiva y un retorno de la inversión comprobado. No obstante, si bien las oportunidades son muchas, también lo son los riesgos.

Los responsables del área técnica deben alcanzar un doble objetivo: innovar y proteger. Las organizaciones ahora deben ofrecer una CX innovadora potenciada con IA a escala y, al mismo tiempo, gestionar una creciente variedad de riesgos, entre ellos, violaciones de cumplimiento, inestabilidad geopolítica, ciberataques impulsados con IA, filtraciones de datos y tiempo de inactividad en la operación.

Frente a este escenario de alto riesgo, un enfoque responsable de CX ya no es una cuestión de segundo orden, sino un aspecto fundamental. A medida que se acelera la innovación, la necesidad de integrar la responsabilidad y la rendición de cuentas en todos los niveles de la experiencia del cliente es más importante que nunca.

El doble objetivo: innovar y proteger

La presión para innovar es real. El panorama competitivo exige experiencias del cliente más automatizadas y personalizadas, y la IA es un catalizador clave para lograrlo. Según Gartner®, para 2028, al menos el 15% de las decisiones diarias en el trabajo se tomarán de manera autónoma a través de la IA agéntica, en comparación con el 0% observado en 20241. Esto supone un salto cuántico respecto de la situación actual y marca el advenimiento de la toma de decisiones a gran escala a través de la IA. 

Sin embargo, apresurarse en la implementación de la IA sin las medidas de seguridad adecuadas da lugar a vulnerabilidades severas, ninguna de las cuales es más perjudicial que la erosión de la confianza del cliente.

Esta transición a la IA agéntica exige una gobernanza rigurosa y una supervisión del uso ético de la IA. Los directores de experiencia del cliente (CXO), que son responsables de la tecnología y el cumplimiento, deben garantizar que la IA sea confiable, transparente, justa y explicable y que cumpla las normas de seguridad y privacidad.

Además de esta complejidad, los datos que alimentan estos sistemas inteligentes son el blanco de amenazas cada vez más sofisticadas. Los ciberdelincuentes aprovechan la IA para automatizar ataques, mejorar las campañas de phishing e incluso adaptar sus tácticas en tiempo real. Esto requiere una postura de seguridad proactiva y adaptable, idealmente una que haga uso de la IA para la detección y la defensa.

La realidad es que, en la actualidad, los sistemas potenciados con IA se consideran una infraestructura esencial. Cuando los servicios de atención con IA fallan, se producen repercusiones en todo el journey del cliente, por lo que es fundamental contar con redundancia y funciones de recuperación rápida.

La planificación de la resiliencia ahora debe incluir la disponibilidad del sistema de IA junto con la de los otros sistemas críticos de CX. Este cambio se refleja en regulaciones como la Directiva sobre la seguridad de las redes y la información 2 (NIS2) de Europa y la Ley de resiliencia operativa digital (DORA), que exigen informes claros sobre la gestión de riesgos de la IA y la resiliencia operativa.

La innovación en el campo de la IA no da señales de desaceleración. Es por eso que los CXO deben resolver un dilema complicado: ¿cómo avanzar rápido y, a la vez, garantizar la seguridad?

Si se actúa con demasiada cautela, existe el riesgo de perder posicionamiento frente a quienes avanzan con total determinación. Por otra parte, si se implmenta la IA sin las medidas de seguridad apropiadas, pueden surgir riesgos reputacionales, operativos y regulatorios.

Desafíos que se avecinan: regulación y geopolítica

El aspecto tecnológico no lo es todo. El escenario regulatorio y geopolítico también impone nuevas restricciones a las empresas respecto de cómo y dónde llevan a cabo sus operaciones.

Esta presión resulta más evidente en el ámbito del cumplimiento a nivel mundial. Está cambiando tan rápidamente que la mayoría de las empresas no pueden adaptarse, con marcos como la Ley de IA de la UE y la norma ISO/IEC 42001, que son el punto de referencia para la IA responsable, y las regulaciones como el RGPD que aplican normas estrictas sobre la privacidad y gobernanza de datos.

Uno de los cambios reglamentarios más significativos es el creciente foco en la soberanía de los datos, que redefine la forma en que las organizaciones operan en distintas regiones, incluyendo cómo diseñan y amplían la CX. Motivados por la seguridad nacional, la soberanía digital y el proteccionismo económico, los gobiernos de todo el mundo están reforzando las reglamentaciones que establecen dónde pueden almacenarse, procesarse y consultarse los datos de los clientes.

Un artículo reciente de McKinsey & Company afirma que más del 70% de los países cuenta con sus propias leyes de protección de datos y de privacidad. Es cada vez más común que las regulaciones de soberanía incluyan a la persona o entidad que controla los datos y el lugar donde residen tales personas y entidades. Estos mandatos de gran alcance han dado lugar a “nubes soberanas”.   

Esta fragmentación geopolítica, en particular las obligaciones reglamentarias, generan obstáculos que pueden desacelerar y complicar la transformación de la CX. Hoy, los responsables de TI dedican mucho tiempo a las cuestiones relacionadas con la arquitectura de los proveedores, y examinan por dónde fluyen los datos, qué jurisdicciones tienen acceso a ellos y los planes de contingencia para cuando se produzcan cambios regulatorios.

La realidad actual es que el cumplimiento de las reglamentaciones está cambiando la forma en que se construyen e implementan las soluciones de CX. Brindar una experiencia del cliente a escala representa un desafío que no es solamente tecnológico, sino también de arquitectura y gobernanza.

Cinco prioridades no negociables para una CX responsable

Para ofrecer experiencias del cliente potenciadas con IA a escala, se requiere más que capacidad técnica. Se necesita un enfoque estratégico que contemple la confianza, los riesgos, las normas y la resiliencia desde el comienzo.

A continuación, se detallan los imperativos que son prioridades no negociables para los directivos de CX frente a estas complejidades.

1. Incorpora la seguridad desde el primer momento

La seguridad debe integrarse en todas las capas de la plataforma de CX, desde la infraestructura y las aplicaciones hasta la identidad, los datos y la detección de amenazas. Dado que los ciberataques son cada vez más específicos y complejos, los controles integrados y el monitoreo en tiempo real son esenciales. Trabaja con proveedores que cuenten con prácticas comprobadas de seguridad mediante certificaciones de terceros como ISO/IEC 27001, SOC 2 y equivalentes regionales (por ejemplo, C5, IRAP, ENS High). Estas acreditaciones no son opcionales: son 100% esenciales.

2. Exije transparencia y supervisión en la IA

Los sistemas de IA tienen cada vez más autonomía, por lo que las decisiones que toman (y los datos que las fundamentan) producen consecuencias regulatorias y reputacionales reales. Los directivos de CX deben tener completa visibilidad de cómo se entrenan los modelos, cómo se obtienen y protegen los datos, y cómo se supervisa y mitiga el sesgo a fin de alcanzar la equidad entre idiomas, regiones y demografías. Trabaja con socios que publiquen sus principios sobre el uso ético de la IA, que cuenten con herramientas de explicabilidad como fichas de modelos de IA, y que ofrezcan controles de gobernanza.

3. Refuerza la privacidad y la gobernanza de los datos

Ante la rápida evolución de las leyes de protección de datos en distintas jurisdicciones, los sistemas de CX deben contar con exhaustivos mecanismos de control que vigilen dónde se almacenan los datos, cómo se transmiten y quién puede acceder a ellos. Esto va más allá del cumplimiento: es un aspecto fundamental para ganar la confianza del cliente y mantener la credibilidad de la marca. Por otra parte, con un marco sólido de gobernanza, las organizaciones saben a ciencia cierta cómo los modelos de IA consumen los datos del cliente, y esto les permite obtener resultados más transparentes y responsables.

4. Integra la resiliencia operativa

Un breve período de inactividad basta para alterar los journeys más importantes del cliente y socavar su lealtad. Por eso, para tener una CX responsable, es preciso contar con plataformas que estén diseñadas para ofrecer un alto grado de disponibilidad, escalabilidad flexible y actualizaciones fluidas. Evalúa a los proveedores en función de su capacidad para cumplir los compromisos de SLA, mantener la redundancia global y ofrecer visibilidad pública sobre el estado del sistema y el historial de incidentes. La confiabilidad nunca debe ser una caja negra.

5. Haza que los actores de diversas áreas estén alineados y empoderados

La CX responsable es una meta compartida, por lo que no es exclusiva del departamento de TI. Los equipos de legales, cumplimiento, privacidad, seguridad, operaciones y atención al cliente desempeñan un papel fundamental en lo que respecta a la gestión de riesgos de la IA y a la rendición de cuentas. Establece un marco de gobernanza que cuente con el aval de los ejecutivos, funciones definidas y la responsabilidad conjunta entre todos los equipos para eliminar los silos y escalar de manera responsable.

No dejes la confianza para el final

Las organizaciones preparadas para liderar en la era agéntica no eligen entre innovación y confianza: consideran que ambas son aspectos esenciales e inseparables para el crecimiento.

A medida que la IA avanza, el objetivo doble de innovar y proteger exige que la responsabilidad y la rendición de cuentas pasen de estar en segundo plano al primer plano. La gobernanza debe ser un modelo operativo básico que sitúe la transparencia, la seguridad, la privacidad y la resiliencia en el mismo nivel que la velocidad y la escala.

Al centrarse en la responsabilidad, las organizaciones se posicionan para implementar la IA con confianza, adaptarse rápidamente, liderar con integridad y ganar la confianza a largo plazo de los clientes.

¿Estás preparado para evaluar tu actual arquitectura de CX o considerar una nueva plataforma de orquestación de experiencias potenciada con IA? Ve cómo la IA de Genesys Cloud™ permite automatizar y optimizar toda la experiencia del cliente de manera estratégica y segura.

 

1 Fuente: Gartner Article, 2025 Top Strategic Technology Trends, Gene Alvarez, 21 de octubre de 2024

 GARTNER es una marca registrada y una marca de servicio de Gartner, Inc. o de sus sociedades afiliadas en los Estados Unidos y el mundo, y es usada en el presente con permiso. Todos los derechos reservados.