責任ある CX: AI のスピードと安全性の両立を実現する

エージェンティック AI の急速な台頭は、企業が顧客とやり取りし、カスタマーエクスペリエンス（CX）のワークフローを業務に組み込む方法を変革しています。先進的な企業は現在、AI を活用したリアルタイムでパーソナライズされた、プロアクティブな、そしてますます半自律的な顧客対応を組織的に展開しています。

AI の導入は、概念実証（PoC）の段階をすでに過ぎています。企業は今や、AI による具体的なビジネス成果、競争優位性、そして実証済みの ROIを期待しています。しかし、機会が大きい一方で、リスクも同様に大きくなります。

テクニカルリーダーにとって、新たな「二重の使命」が生まれています。それは、イノベーションと保護です。組織は今、コンプライアンス違反、地政学的不安定、AI へのサイバー攻撃、データ侵害、運用停止など、拡大するさまざまなリスクを管理しながら、AI を活用した CX イノベーションを大規模に提供しなければなりません。

このようなリスクの高い状況下では、責任ある CX の実践はもはや後回しにすることはできません。これらは今や、業務に不可欠なものとなっています。イノベーションが加速する中で、カスタマーエクスペリエンスのあらゆる層に責任と説明責任を組み込む必要性は、かつてないほど重要になっています。

二重の使命: イノベーションと保護

イノベーションへのプレッシャーは現実のものです。競争環境は、より自動化されつつもパーソナライズされたカスタマーエクスペリエンスが求められており、AI はその実現のための重要な鍵となります。Gartner 社^®によると、「2028 年までに、日常業務の意思決定の少なくとも 15% がエージェンティック AI により自律的に行われるようになり、2024 年の 0% から増加する」とされています¹。これは現在の基準値からの大きな飛躍を意味し、大規模な AI 意思決定の幕開けを示しています。

しかし、十分な安全策なしに AI の実装を急ぐと、重大な脆弱性が生じます。そして、その中でも最も大きな損害をもたらすのが、顧客の信頼の失墜です。

エージェンティック AI への移行には、厳格なガバナンスと倫理的な AIの監視が求められます。テクノロジーとコンプライアンスに責任を負う CXO は、セキュリティとプライバシーの基準を満たしつつ、AI が信頼性、透明性、公平性、説明可能性を備えていることを保証しなければなりません。

この複雑さに拍車をかけているのは、こうしたインテリジェントシステムを支えるまさにそのデータが、ますます高度化する脅威の標的になっていることです。攻撃者は現在、AI を活用して攻撃を自動化し、フィッシングキャンペーンを強化し、さらにはリアルタイムで戦術を適応させています。そのためには、積極的かつ適応的なセキュリティ体制が必要であり、理想的には AI を活用した検知と防御体制が求められます。

実際、AI を活用したシステムは今や重要インフラと見なされています。顧客向け AI サービスが停止すると、その影響は顧客ジャーニー全体に波及するため、冗長性と迅速な復旧能力が不可欠になります。

レジリエンス計画には、他の重要な CX システムに加えて、AI システムの可用性も含める必要があります。この変化は、欧州のネットワークおよび情報セキュリティ 2（NIS2）指令やデジタルオペレーショナルレジリエンス法（DORA）のような規制にも反映されており、これらは明確な AI リスク管理の開示と運用レジリエンスを求めています。

AI イノベーションが減速する兆しはありません。CXO は難しい方程式を解く必要があります。どうすればスピードを保ちながら安全性も確保できるのか、ということです。

慎重になりすぎると、突き進む者たちによって混乱を招く恐れがあります。安全策なしに AI を導入すると、評判、運用、規制の面での悪影響を招くリスクがあります。

高まる逆風: 規制と地政学

問題はテクノロジーだけではありません。規制環境と地政学的環境が、企業の事業運営の方法と場所に新たな制約を生み出しています。

この圧力が最も顕著に表れているのは、世界中で形成されつつあるコンプライアンス環境です。EU AI 法のような枠組みは、多くの企業が適応するより速いペースで進化しており、 EU AI Actや ISO/IEC 42001 が責任ある AI の基準を定める一方で、GDPR のような規制が厳格なデータプライバシーとガバナンスの基準を強化しています。

最も重要な規制の変化の1つは、各地域で組織の運営方法、とりわけ CX の設計および拡張のあり方を再定義する、主権重視の義務の台頭です。国家安全保障、デジタル主権、経済保護主義を背景に、各国政府は顧客データの保存、処理、アクセスが可能な場所に関する規則を厳格化しています。

最近の McKinsey & Companyの記事によると、70％を超える国々が独自のデータ保護法およびプライバシー法を持っています。主権に関する指令はますます、データを管理する主体や、そうした個人・組織がどこに拠点を置くかにまで及んでいます。こうした広範な義務から、「ソブリン・クラウド」が生まれました。

このような地政学的な分断、特に規制上の義務は摩擦を生み、CX 変革を遅らせ、複雑にする可能性があります。IT リーダーは現在、ベンダーのアーキテクチャに関する議論に多くの時間を費やし、データがどこを流れ、どの法域がアクセスできるのか、また規制が変わった際の対応計画を検討しています。

今日の現実は、規制コンプライアンスが CX ソリューションの構築および展開のあり方を変えているということです。大規模にカカスタマーエクスペリエンスを提供することは、単なる技術課題ではありません。ますます、アーキテクチャとガバナンスの課題でもあります。

責任ある CX のための5つの譲れない優先事項

AI を活用したカスタマーエクスペリエンスを大規模に提供するには、技術力だけでは不十分です。それには、信頼、リスク、規制、レジリエンスを最初から考慮した戦略的アプローチが求められます。

以下の要件は、この複雑さを乗り越える CX リーダーにとって譲れない優先事項を示しています。

1. 最初からセキュリティを組み込む

セキュリティは、インフラやアプリケーションからID、データ、脅威検知に至るまで、CX プラットフォームのあらゆる層に統合されなければなりません。サイバー攻撃がより標的型かつ複雑になるにつれ、組み込み型の制御とリアルタイム監視が不可欠です。ISO/IEC 27001、SOC 2、各地域の同等認証（例：C5、IRAP、ENS High）などの第三者認証を通じて成熟したセキュリティ実践を示すベンダーと提携しましょう。こうした認証は任意ではなく、前提条件です。

2. AI における透明性と監視を求める

AIシステムが自律性を獲得するにつれ、それらが下す決定、そしてそれらの決定を形作るデータは、規制面や企業イメージに深刻な影響を及ぼすようになります。CX リーダーは、モデルがどのようにトレーニングされるか、データがどのように取得・保護されるか、そして言語、地域、属性をまたいだ表象の公平性のためにバイアスがどのように監視・軽減されるかについて、明確な可視性を必要としています。 AI倫理原則を提供し、AIモデルカードのような説明可能性ツールを備え、ガバナンス管理を標準で提供するパートナーと連携しましょう。

3. データプライバシーとガバナンスを強化する

法域ごとにデータプライバシー法が急速に進化する中、CX システムは、データがどこに保存され、どのように移動し、誰がアクセスできるかを完全に制御できなければなりません。これはコンプライアンスにとどまりません。顧客の信頼を獲得し、ブランドの信頼性を維持するための基盤です。強力なガバナンスはまた、組織が顧客データが AI モデルにどのように取り込まれているかを理解し、より透明で責任ある成果を実現することを可能にします。

4. 運用レジリエンスを設計する

短時間の停止でも重要な顧客ジャーニーが中断され、ロイヤルティに悪影響を及ぼす可能性があります。そのため、責任ある CX には、高可用性、柔軟なスケーラビリティ、シームレスな更新を前提に設計されたプラットフォームが必要です。SLA の約束を満たす能力、グローバルな冗長性の維持、システム状態やインシデント履歴の公開可視性の提供についてベンダーを評価してください。信頼性は決してブラックボックスであってはなりません。

5. 部門横断のステークホルダーを連携させ、力を与える

責任ある CX は共有責任であり、IT 部門だけのものではありません。法務、コンプライアンス、プライバシー、セキュリティ、運用、顧客対応の各チームは、AIリスクの管理と説明責任の確保において重要な役割を担っています。サイロを打破し、責任を持って拡張するために、明確な経営陣の後援、定義された役割、チーム横断の共同責任を備えたガバナンスフレームワークを確立しましょう。