에이전틱 인공지능(AI)의 급속한 부상은 기업의 고객 상호작용과 고객 경험(CX) 워크플로우 운영 방식을 변화시키고 있습니다. 시장을 선도하는 기업들은 AI를 기반으로 개인화되고, 선제적이고, 반자율적인 고객 참여를 실시간으로 조율하고 있습니다.

AI 도입 곡선은 개념 증명 단계를 넘어섰습니다. 기업은 AI가 실질적인 비즈니스 성과, 경쟁 우위, 입증된 ROI를 제공하길 기대합니다. 하지만 AI는 기회 만큼이나 리스크도 큽니다. 

기술 리더에게는 ‘혁신과 보호’라는 새로운 이중 임무가 등장했습니다. AI에 기반한 CX 혁신을 대규모로 구현하는 한편, 규정 준수 위반, 지정학적 불안정, AI 기반 사이버 공격, 데이터 유출, 운영 중단 등 끝없이 증대되는 리스크도 관리해야 합니다.

이 같은 환경에서 ‘책임 있는 CX 실행’은 더 이상 미룰 수 없게 되었습니다. 이는 기업의 생존을 좌우하는 핵심 과제입니다. 가속화되는 AI 혁신에 발맞춰 고객 경험의 모든 단계에 책임과 투명성을 내재화해야 합니다.

혁신과 보호라는 이중 임무

혁신에 대한 압박은 더욱 거세지고 있습니다. 경쟁이 치열한 비즈니스 환경은 더 많은 자동화와 개인화된 고객 경험을 요구하며, AI는 이를 위한 핵심 동력입니다. Gartner®는 한 보고서에서 “2028년까지 일상 업무 의사결정의 최소 15%가 에이전틱 AI를 통해 자율적으로 이루어질 것”이라며 “참고로 2024년에는 0%였다”1고 언급했습니다. 이렇듯 AI 기반 의사결정의 대규모 도입이 본격적으로 시작되었습니다.

하지만 적절한 보호 장치 없이 AI 도입을 서두르면 심각한 문제가 발생할 수 있습니다. 특히 치명적인 것은 고객의 신뢰를 잃는 일입니다.

에이전틱 AI에는 엄격한 거버넌스와 윤리적 AI에 대한 감독이 필수입니다. 기술 및 규정 준수를 담당하는 최고 경험 책임자(CXO)는 보안 및 개인정보 보호 기준을 충족할 뿐 아니라, AI가 신뢰할 수 있고, 투명하고, 공정하며, 설명 가능하도록 보장해야 합니다.

한편, 이러한 지능형 시스템을 구동하는 데이터는 점점 더 정교해지는 위협의 표적이 되고 있습니다. 공격자들은 AI를 활용해 공격을 자동화하고, 피싱을 더욱 세밀하게 다듬고, 심지어 실시간으로 전술을 수정합니다. 선제적이고 적응적인 보안 태세가 필요하며, AI를 탐지 및 방어에 활용하는 것이 가장 이상적입니다.

AI 기반 시스템은 핵심 인프라로 서서히 자리매김하고 있습니다. 고객에게 제공하는 AI 서비스에 문제가 발생하면 고객 여정 전체에 연쇄적으로 영향을 미칩니다. 시스템 이중화와 신속한 복구 기능이 필수인 이유입니다.

또한 회복 탄력성 계획에는 다른 중요한 CX 시스템과 함께, AI 시스템의 가용성이 포함되어야 합니다. 이는 유럽의네트워크 및 정보 보안 2(NIS2) 지침과 디지털 운영 회복력법(DORA)과 같은 규정에 반영되어 있으며, 명확한 AI 위험 관리 공개와 운영 회복력을 요구합니다.

AI 혁신은 결코 속도를 늦추지 않을 것입니다. CXO는 이 어려운 문제를 해결해야만 합니다. AI 도입에 속도를 높이면서 안전을 확보하려면 어떻게 해야 할까요?

너무 조심스럽게 움직이면 앞서가는 경쟁업체에 시장을 빼앗길 수 있습니다. 그렇다고 해서 안전장치 없이 서둘러 AI를 배포하면 브랜드 평판, 운영, 규제 준수에 심각한 문제가 발생합니다.

규제 및 지정학적 요인의 역풍

어려움은 단순히 기술에만 있지 않습니다. 규제 및 지정학적 환경은 기업의 비즈니스 운영 방식과 운영 장소에 새로운 제약이 되고 있습니다.

이는 더욱 강화되고 있는 글로벌 규제 환경에서 가장 뚜렷하게 드러납니다. EU AI Act와 ISO/IEC 42001이 책임 있는 AI의 기준을 제시하고 있으며, GDPR(개인정보보호법)과 같은 규제는 엄격한 데이터 개인정보 보호 및 거버넌스 기준 준수를 요구하고 있습니다. 그리고 이러한 규제 환경은 기업이 적응할 수 있는 속도보다 훨씬 더 빠르게 진화하고 있습니다.

가장 중요한 규제 변화 중 하나는 ‘주권 중심적 의무’의 부상입니다. 이는 기업이 전 세계 여러 지역에서 비즈니스를 운영하는 방식은 물론, 고객 경험을 설계하고 확장하는 방식까지 새롭게 정의하고 있습니다. 국가 안보, 디지털 주권, 경제 보호무역주의에 힘입어 전 세계 정부는 고객 데이터의 저장, 처리, 접근 위치에 대한 규정을 강화하고 있습니다.

최근 McKinsey & Company 기사에 따르면 70% 이상의 국가가 자체 데이터 보호법과 개인정보 보호법을 보유하고 있습니다. 주권 관련 지침은 데이터 통제, 해당 개인 및 단체의 소재지에 대한 규제를 점점 더 강화하고 있습니다. 이러한 광범위한 규제로 등장한 것이 ‘소버린 클라우드(Sovereign Cloud)’입니다. 특정 국가나 지역의 데이터 주권과 법적 규제를 완벽하게 준수할 수 있도록 설계된 클라우드 서비스입니다.

지정학적 분열, 특히 규제 의무는 CX 혁신을 복잡하게 만듭니다. IT 리더들은 공급업체와 아키텍처를 논의하는 데 상당한 시간을 할애하며 데이터 흐름 위치, 접근 권한을 가진 관할권, 규제 변경에 대비한 비상 계획 등을 검토해야 합니다.

이처럼 규제 준수는 CX 솔루션의 구축 및 배포 방식을 재편하고 있습니다. 대규모 고객 경험 제공은 단순한 기술적 과제가 아닙니다. 아키텍처 및 거버넌스와 관련된 과제이기도 합니다.

책임 있는 CX를 위한 5가지 고려사항

AI 기반 고객 경험을 대규모로 제공하려면 기술적 역량 이상의 것이 필요합니다. 신뢰, 리스크, 규제, 회복력을 처음부터 고려하는 전략적 접근이 필요합니다.

이러한 복잡성을 헤쳐 나가기 위해 CX 리더가 반드시 고려해야 하는 필수 우선순위는 다음과 같습니다.

1. 처음부터 보안 구축

보안은 인프라 및 애플리케이션부터 신원, 데이터, 위협 탐지에 이르기까지, CX 플랫폼의 모든 계층에 통합되어야 합니다. 사이버 공격이 점점 더 표적화되고 복잡해지는 만큼, 내장된 제어 기능과 실시간 모니터링은 필수입니다. ISO/IEC 27001, SOC 2 및 지역 내 동등한 인증(예: C5, IRAP, ENS High)과 같은 제3자 인증 등 높은 수준의 보안 실행을 입증하는 공급업체와 협력하세요. 이러한 인증은 선택 사항이 아니라 필수 조건입니다.

2. AI의 투명성 및 감독

AI 시스템이 자율성을 얻으면서, AI가 내리는 결정과 이를 뒷받침하는 데이터는 실질적인 규제 및 평판에 영향을 미칩니다. CX 리더는 모델의 학습 방식, 데이터 수집 및 보호 방식, 그리고 언어, 지역, 인구통계학적 다양성을 반영하여 편향을 모니터링하고 완화하는 방법에 대한 명확한 가시성을 확보해야 합니다. AI 윤리 원칙을 발표하고, AI 모델 카드 같은 설명 툴을 제공하며, 거버넌스 통제를 표준으로 제공하는 파트너와 협력하세요.

3. 강력한 데이터 개인정보 보호 및 거버넌스

데이터 개인정보 보호법이 전 지역에서 빠르게 진화하고 있는 만큼, CX 시스템은 데이터 저장 위치, 이동 방식, 접근 권한에 대한 완전한 통제권을 제공해야 합니다. 이는 단순한 규정 준수를 넘어, 고객의 신뢰를 얻고 브랜드 평판을 유지하는 데 매우 중요합니다. 강력한 거버넌스는 또한, 조직이 고객 데이터가 AI 모델에 어떻게 활용되는지를 이해하도록 하고 보다 투명하고 책임감 있는 결과를 가능하게 합니다,

4. 운영 회복력을 위한 설계

짧은 다운타임조차도 고객 여정에 중대한 영향을 미치며, 자칫 충성도를 손상시킬 수 있습니다. 책임 있는 CX를 위해서는 고가용성, 탄력적 확장성, 원활한 업데이트를 위해 설계된 플랫폼이어야 합니다. 공급업체의 SLA 준수, 글로벌 이중화, 시스템 상태 및 장애 이력에 대한 공개적인 가시성 제공 등을 평가하세요. 신뢰성은 결코 불투명해서는 안 됩니다.

5. 부서 간 이해 관계자의 협력 및 권한 부여

책임 있는 CX는 IT만의 과제가 아닌, 공동의 과제이자 책임입니다. 법무, 규정 준수, 개인정보 보호, 보안, 운영, 고객 팀 모두 AI 리스크 관리와 책임 확보에 중요한 역할을 합니다. 경영진의 지원, 명확한 역할 정의, 팀 간 공동 소유권 등을 기반으로 거버넌스 프레임워크를 구축하여 사일로를 제거하고 책임 있게 확장하세요.

에이전틱 AI 시대를 위한 CX 오케스트레이션

에이전틱 시대를 선도할 준비가 된 조직은 혁신과 신뢰 그 어느 것도 포기하지 않습니다. 이 모두를 성장 동력으로 삼아 발전시킵니다.

AI 가속화와 함께, ‘혁신’과 ‘보호’라는 이중 임무를 완수하기 위해서는 ‘책임’과 ‘투명성’이 비즈니스 운영 뒷전에서 벗어나 핵심 기반으로 자리해야 합니다. 거버넌스는 투명성, 보안, 개인정보 보호, 회복력을 속도 및 규모와 동등한 위치에 두는 핵심 운영 모델이어야 합니다.

책임을 최우선으로 함으로써 조직은 AI를 자신 있게 배포하고, 신속하게 적응하며, 진정성 있는 리더십을 발휘하고, 고객의 신뢰를 지속적으로 얻을 수 있습니다.

CX 아키텍처를 평가하거나 새로운 AI 기반 경험 오케스트레이션 플랫폼을 검토할 준비가 되셨나요? Genesys Cloud™ AI를 살펴보세요. 전략적이고 안전하게 고객 경험을 자동화하고 최적화하는 방법을 이해하실 수 있습니다.

 

1출처: Gartner 기사, 2025 Top Strategic Technology Trends, Gene Alvarez, 2024년 10월 21일

 GARTNER는 미국 및 기타 국가에서 Gartner, Inc. 및/또는 해당 계열사들의 등록 상표 및 서비스 표시이며 허락을 받아서 본 문서에서 사용하고 있습니다. 판권 소유.