Etica della AI: Un Anno Dopo

L’ascesa dell’intelligenza artificiale (AI) nell’ambito della Customer Experience ha fatto – e fa ancora – sorgere nuovi quesiti etici per un’ampia gamma di soggetti in gioco, inclusi i singoli individui, i dipendenti e i datori di lavoro. Quindi nel novembre del 2018 abbiamo introdotto la nostra prima tornata di Linee Guida dedicate all’Etica della AI, create per fornire indicazioni a Genesys stessa così come ai nostri clienti e comunità. Il desiderio era anche di studiare l’argomento in quanto gruppo cross funzionale, condividendo le scoperte fatte. Come parte dell’attività condotta, abbiamo collaborato e scritto blog su un’ampia gamma di tematiche che dovrai anche tu affrontare quando porterai la AI nella tua realtà.

Abbiamo inoltre commissionato una ricerca globale sulle attitudini di dipendenti e datori di lavoro nei confronti della AI, scoprendo che esiste una diffusa accettazione rispetto al suo sbarco sul workplace; il 70% dei dipendenti statunitensi intervistati ha espresso infatti una visione positiva sull’argomento.

Che cosa abbiamo appreso

Nel corso di diversi confronti tenuti in occasione di eventi presso i clienti o interni a noi, abbiamo appreso che si tratta di un argomento di grande interesse per molte persone. Tuttavia queste non desideravano dibattere, ma erano alla ricerca di informazioni e di un’occasione di discussione sulla AI.

Argomenti di interesse ricorrenti includevano il data management, come evitare scelte basate su pregiudizi, che cosa è appropriato fare — e che cosa è invece da considerare intrusivo — quando ci si occupa di personalizzazione. Abbiamo inoltre pensato che i nostri clienti fossero destinati a compiere ulteriori passi in avanti nel propio percorso etico rispetto alla loro posizione attuale. La maggior parte delle aziende stanno investendo pesantemente nella AI, ma gli effetti di questa rivoluzione devono ancora essere pienamente realizzati. E, attualmente, molti dei nostri clienti si trovano in modalità conoscitiva.

I nostri ingegneri rappresentano il gruppo più motivato per scoprire come far funzionare la AI in modo etico. Dibattiti interni hanno fatto emergere questa tematica come di attualità e, cosa più importante, oggi abbiamo l’esigenza di una formazione obbligatoria di tutti nostri ingegneri sui principi dell’etica della AI. La richiesta è arrivata direttamente da loro, ed è parte integrante dei nostri programmi formativi.

Il prossimo passo

L’attività di formazione interna è solo la prima conseguenza dei nostri principi sul processo di sviluppo del prodotto. Stiamo infatti cercando di arricchire con domande sull’etica della AI tutta la nostra documentazione sui requisiti (Product Requirement Documents, PRD). Queste domande faranno da traino per costruire la parte etica di ogni processo quotidiano. Alcuni esempi: “L’uso della AI aggiunge un vantaggio sostanziale ai miei clienti?” oppure “Il cliente può sapere che cosa conosciamo di lui?” o ancora, in modo più scrupoloso, “I motori di AI possono spiegare le decisioni e mostrare i ragionamenti, e l’agente sarebbe a suo agio nel comunicare tale ragionamento a un cliente?”.

Affidare l’argomento a persone che si trovano più spesso di fronte ai dubbi e alle preoccupazioni dei clienti sull’uso della AI significa coinvolgere la parte di dipendenti che ha con loro un rapporto diretto. Per assisterli nella comprensione dell’etica della AI, stiamo quindi realizzando corsi che ne approfondiscono le caratteristiche e l’impatto, da poi erogare agli agenti stessi.

Inoltre continuiamo a monitorare e a preparare nuove regole, alcune delle quali vanno a toccare anche l’etica della AI, come il GDPR e l’imminente California Consumer Privacy Act. Diversi governi stanno poi affrontando in vari modi l’etica della AI, dal Governo di Dubai, cha ha pubblicato le proprie  linee guida, al Governo Australiano, che ha commissionato lo svolgimento di una consultazione attraverso il CSIRO Commonwealth Scientific and Industrial Research Organization (CSIRO), l’organizzazione che ha definito in origine gli standard WiFi negli Anni’ 90.

Mentre non sono ancora state comprese e concretizzate tutte le capacità della AI, dobbiamo procedere attentamente. E continueremo a farlo. Genesys si impegna con passione nella trasformazione della AI in un vero e proprio strumento di vantaggio sociale. Questo significa che dobbiamo essere entusiasti del suo potenziale ma anche rispettosi del suo impatto. Ci aspettiamo che il confronto prosegua per il prossimo futuro mentre il settore tecnologico – e il pubblico – va alla scoperta di questo nuovo mondo pieno di coraggio.

Resta aggiornato con la nostra serie di blog sull’Etica della AI e partecipa al dibattito online.