Un agente virtual redirige el problema de facturación de un cliente a un sistema backend, marca una anomalía para su revisión humana y propone un reembolso antes de que el cliente lo solicite. Este es un escenario que pronto se convertirá en realidad con la IA agéntica.

La inteligencia artificial (IA) ahora opera en la primera línea de los negocios. Responde a los matices, se adapta en tiempo real e impulsa los resultados con menos dependencia de la intervención humana. Estos sistemas reconocen los objetivos y ajustan su comportamiento para cumplirlos, a menudo en todos los departamentos, puntos de contacto o incluso ecosistemas de socios.

Estamos entrando en la era de la agencia con tecnología sofisticada capaz de interpretar la intención y coordinar acciones hacia objetivos definidos. Y sin una gobernanza clara, cada decisión impulsada por IA conlleva un nuevo riesgo.

Muchos proveedores se apresuran a etiquetar sus productos como IA "autónoma". Eso es una exageración. La IA actual no es completamente autónoma. No puede diseñar estrategias de forma independiente o navegar por entornos complejos sin andamios humanos.

En este momento, estamos en una fase de avance de la IA que es semiautónoma. Depende de contextos predefinidos y de la supervisión humana continua.

La combinación casual de la industria de "semiautónomo" con "autónomo" es imprecisa y potencialmente engañosa. Los lanzamientos llamativos a menudo carecen de sustancia. Las demostraciones muestran poder y velocidad, pero rara vez abordan la transparencia, el control o las barreras éticas. En un mundo donde la IA ejecuta miles de microdecisiones por minuto, omitir la gobernanza se siente como quitar los frenos de un automóvil porque actualizó el motor.

Según un nuevo informe de Genesys , el 87% de los líderes de CX encuestados citaron el cumplimiento normativo como una preocupación importante al implementar IA agente. Y solo el 31% cree que tiene un plan integral de gobernanza de IA con políticas claras. Aún más alarmante, el 28% de los encuestados en organizaciones sin una política de gobernanza de IA sienten que están listos para implementar IA agéntica.

Esta desconexión es peligrosa. Si no se controla, la IA agéntica puede desviarse de la política, generar información falsa y socavar la confianza del cliente en segundos.

Las salvaguardias no se pueden adaptar. Para mitigar estos riesgos, la gobernanza debe evolucionar del cumplimiento reactivo a la orquestación proactiva.

Por qué la gobernanza de la IA es ahora un imperativo competitivo

La innovación avanza rápidamente, pero muchas organizaciones están luchando por instalar las barandillas. Esta brecha entre la aceleración y el control se está convirtiendo en una responsabilidad estratégica.

Según Gartner ® , “más del 40% de los proyectos de IA se cancelarán en 2027 debido al aumento de los costos, un valor comercial poco claro o controles de riesgo inadecuados”.

Deja que eso se hunda. Casi la mitad de las iniciativas de IA pueden fracasar y la falta de gobernanza contribuirá en gran medida.

Las implicaciones son claras. Cuando la IA se integra profundamente en las experiencias de los clientes, no basta con preguntarse qué puede hacer. También debemos preguntarnos qué debería hacer, y si podemos confiar en que se comporte de una manera que proteja las relaciones con los clientes, la integridad de la marca y la posición regulatoria.

No poner la gobernanza de la IA en el centro significa exponer su negocio a riesgos operativos y daños a la reputación. También pone límites reales sobre qué tan lejos y qué tan rápido puede escalar la IA.

Gobernanza por diseño: el cambio de la automatización a la inteligencia agencial

La automatización de la vieja escuela sigue reglas. El bot escucha una solicitud, ejecuta un script y produce un resultado. Es predecible, rígido y útil hasta cierto punto.

Los sistemas agénticos se comportan de manera diferente. Trabajan para alcanzar metas, evalúan el entorno y ajustan sus acciones para que coincidan con él. Nadie tiene que programar todos los caminos posibles porque la IA encuentra su propia ruta.

Esto abre un nuevo territorio. Los agentes virtuales comienzan a sentirse menos como asistentes digitales y más como solucionadores de problemas colaborativos. Pueden reconocer cuándo una situación necesita escalada, pueden adaptar las conversaciones en cualquier momento y pedir aclaraciones en lugar de hacer suposiciones ciegas. El software se vuelve más inteligente pero también más difícil de precisar, y la misma flexibilidad que hace que la IA agéntica sea tan poderosa también introduce riesgos.

Es por eso que la gobernanza fundamental es imperativa. Desde el primer día, las organizaciones deben construir sistemas que sean explicables, alineados con los valores y flexibles sin sacrificar el control.

Sin barreras integradas, la IA independiente puede introducir riesgos más rápido de lo que una organización puede responder. Los pasos en falso no serán teóricos. Estarán orientados al cliente.

Las empresas deben definir las reglas con anticipación. Qué está dentro de los límites, qué no y cómo deben responder los sistemas de IA semiautónomos cuando la incertidumbre se apodera de ellos. También significa configurar herramientas para monitorear el comportamiento y corregir el rumbo en tiempo real.

Cuando una IA toma decisiones en lugar de seguir scripts, la gobernanza juega un papel diferente. Mantiene a la IA restringida y le enseña lo que importa. Esto establece que el juicio se alinea con los valores de la empresa y las expectativas del cliente.

Presentamos las guías: Inteligencia responsable a escala

Diseñamos IA en Genesys con la responsabilidad en su núcleo. Nuestro compromiso con la transparencia y la gobernanza de la IA es un principio fundamental. Cada producto que fabricamos refleja esa promesa. Incorporamos barandillas, claridad y control directamente en la arquitectura, para que las empresas no tengan que atornillar el cumplimiento más adelante.

Al priorizar la privacidad, la equidad y la seguridad desde el principio, facilitamos que las organizaciones utilicen la IA con confianza y responsabilidad. Nuestro objetivo es ofrecer una IA que gane confianza, mejore las experiencias de los clientes y se mantenga alineada con los valores que más importan.

Esta capa de confianza mantiene su IA con los pies en la tierra. Realiza un seguimiento del comportamiento en tiempo real, señala cuando las cosas van mal y mantiene un registro detallado de cada movimiento para auditorías o análisis más profundos.

Los supervisores tienen supervisión en vivo con el poder de intervenir. Pueden pausar una decisión, anular una respuesta o dirigir el sistema cuando el juicio humano tiene prioridad.

Cuando la confianza, la equidad y la privacidad son fundamentales, el aprendizaje ocurre bajo una mirada atenta. Los bucles de retroalimentación refuerzan los buenos resultados y filtran el ruido. Los sistemas de IA saben cuándo contenerse, especialmente cuando aparecen datos regulados o se aplican protocolos de escalamiento. El resultado es una IA que se mantiene dentro de las líneas incluso cuando el terreno cambia.

Esta no es la gobernanza tradicional de la IA. Es lo que llamamos una "constitución agencial" que puede codificar sus valores, políticas y objetivos directamente en cada decisión que toma la IA.

Esta es la razón detrás de Genesys Cloud™ AI Studio y su capacidad insignia Genesys Cloud™ AI Guides. Juntos, te permiten crear experiencias de IA más inteligentes y responsables ahora mismo con los valores de tu marca firmemente bajo control.

AI Guides permite a las organizaciones crear experiencias agenciales orientadas a objetivos, dinámicas y responsables. Los usuarios comerciales pueden describir lo que la IA debe lograr, y AI Guides traduce esa visión en comportamientos definidos y rastreables dentro de sus límites éticos.

Las capacidades de Genesys Cloud AI Studio, las guías de IA y los resúmenes de conversaciones personalizados ya están disponibles.

Genesys es su puente hacia la verdadera madurez de la IA

En Genesys, mapeamos la madurez de la IA en seis niveles de orquestación de la experiencia. El nivel 1 comienza con la automatización estática, los scripts rígidos, los flujos fijos y las intervenciones manuales. En el Nivel 2 viene la capacidad de respuesta y los sistemas que desencadenan reacciones pero aún siguen reglas sin contexto. Creemos que la mayoría de las organizaciones están aquí.

El nivel 3 trae predicción. Ahora la IA puede anticiparse, pero aún se apoya en los humanos para conectar los puntos.

Las guías de IA te llevan a una inteligencia semiautónoma de nivel 4. Aquí, la IA toma la iniciativa. Respeta sus límites y aprende de los resultados para mejorar sin volver a capacitarse constantemente. Los equipos pasan de administrar tareas a dirigir sistemas inteligentes que realmente ayudan a llevar la carga.

Con un diseño disciplinado, AI Guides prepara el escenario para la orquestación agencial universal (Nivel 5). Múltiples agentes de IA trabajando juntos, compartiendo contexto, reequilibrando prioridades y refinando estrategias de forma independiente. El sistema aprende en su conjunto de forma continua y cooperativa.

Genesys le brinda las herramientas para escalar cada nivel de madurez de IA deliberadamente. Mientras otros se apresuran a mantenerse al día, usted puede concentrarse en crear lo que funciona. Las piezas están aquí. La dirección es clara. Lo que haces a continuación es lo que te distingue. Lideremos responsablemente y construyamos con audacia.

Obtenga más información sobre los cinco principios básicos que informan cómo construimos, evolucionamos e implementamos sistemas de IA para respaldar resultados éticos, seguros y centrados en el ser humano.

 

Comunicado de prensa de Gartner, Gartner predice que más del 40% de los proyectos de IA agéntica serán cancelados para finales de 2027, 25 de junio de 2025

GARTNER es una marca comercial registrada y una marca de servicio de Gartner, Inc. o de sus sociedades afiliadas en los Estados Unidos e internacionalmente, y se utiliza aquí con permiso. Todos los derechos reservados.