Es hora de hablar de la ética en la IA

“Ética es conocer la diferencia entre lo que una persona tiene derecho a hacer y lo que es correcto hacer”.

Esta frase tan claramente expresada por un exministro de la Corte Suprema de Justicia de los Estados Unidos, Potter Stewart, es muy pertinente en la actualidad ante el surgimiento de la inteligencia artificial (IA) y sus posibles efectos en la vida de las personas.

Si bien en Genesys estamos muy abocados al desarrollo de nuevas aplicaciones basadas en IA, sabemos de la tremenda responsabilidad que conlleva esta tecnología, así como de su tremendo potencial.

Aunque aún no se hayan materializado todas las posibilidades que ofrece la IA, es imperioso que actuemos con responsabilidad y cautela. Las empresas están en una carrera frenética tratando de descubrir cómo utilizar esta tecnología inteligente para resolver sus problemas cotidianos, simplificar sus vidas y generar mayor eficiencia. El potencial de la IA parece no tener límites, motivo por el cual también debemos pensar en sus efectos en la sociedad. Como ocurre en muchos otros aspectos de la vida, el hecho de que podamos hacer algo no significa que debamos hacerlo.

Y eso nos lleva a explicar por qué pensamos que es importante reconocer el rol fundamental de la tecnología de Genesys en la vida de los consumidores. Si bien no somos una marca de electrodomésticos u otros productos para el hogar, nuestros sistemas son utilizados por miles de empresas alrededor del mundo para ayudar a millones de consumidores a comunicarse y a establecer relaciones duraderas con ellas.

Las empresas utilizan nuestras soluciones para procesar datos en forma masiva todos los días; por ejemplo, los datos que los consumidores esperan que ellas tengan, tales como sus nombres, direcciones y canales preferidos de contacto, así como información más personal, como ubicación, comportamiento, características de voz, demografía, estado emocional, relaciones familiares, dispositivos que utilizan y mucho más.

Esos datos se utilizan en los algoritmos de IA de Genesys y permiten que las empresas brinden las experiencias de servicio más personalizadas y predictivas de la actualidad.

Los cinco puntos incluidos en las pautas éticas de IA de Genesys

Pensamos que es crucial que los consumidores conozcan la tecnología que afecta su privacidad, seguridad, e incluso su igualdad, y que se les dé la opción de elegir. Además, creemos que las organizaciones que desarrollan soluciones de IA deben incorporar las cuestiones éticas.

Guiados por este pensamiento, hemos formado un comité de ética multidisciplinario con miembros de los equipos de Liderazgo, de Gestión de Productos, Ingeniería, Recursos Humanos, Comunicaciones y Legales.

Nuestro objetivo es instalar una conversación en la industria sobre cómo las empresas pueden y deben utilizar la IA. Para ello, durante el próximo año plantearemos una serie de debates e intercambios, tanto a nivel público como privado, con todos nuestros clientes, socios, líderes de pensamiento y otros actores de la industria.

Además, estoy muy complacido en compartir con usted nuestro primer lanzamiento de las pautas éticas de IA que regirán nuestra estrategia de desarrollo. Nuestro objetivo es que estas pautas preliminares se vayan adaptando a medida que evolucione la IA y se expandan las funciones de Genesys, y que nuestra comunidad de socios y clientes aporte al debate.

Los cinco puntos que destacamos en las pautas son:

• Transparencia

A los clientes se les debe informar que están hablando con un bot de IA.

• Equidad

Las empresas deben adoptar todas las medidas necesarias para garantizar que sus sistemas de IA no tienen sesgos raciales, étnicos, de género, nacionalidad, orientación sexual, capacidades, etc.

• Responsabilidad

Las organizaciones asumen la total responsabilidad por los sistemas de IA que crean y por los sistemas creados por tales sistemas de IA. (es decir, las empresas son responsables aun en los casos en los que los bots que han creado creen, a su vez, algo que resulte perjudicial).

• Protección de datos

No debe utilizarse la IA para socavar los derechos sobre los datos o la privacidad de las personas o las comunidades.

• Beneficio social

Genesys pretende generar un beneficio social a través del uso cuidadoso y considerado de la IA.

Para nosotros, esta iniciativa tendrá éxito cuando hayamos comprometido a todo nuestro ecosistema. Esté atento a nuestras novedades y al desarrollo de esta conversación durante los próximos meses. Para conocer más acerca de las cuestiones éticas relacionadas con el servicio al cliente, consulte nuestros recursos y nuestras pautas de IA.