{"id":134657,"date":"2019-03-19T07:00:29","date_gmt":"2019-03-19T14:00:29","guid":{"rendered":"https:\/\/www.genesys.com\/?post_type=blog&p=134657"},"modified":"2019-03-19T06:52:13","modified_gmt":"2019-03-19T13:52:13","slug":"etica-de-la-ia-promueva-la-confianza-brindando-el-nivel-de-transparencia-apropiado","status":"publish","type":"blog","link":"https:\/\/www.genesys.com\/es-mx\/blog\/post\/etica-de-la-ia-promueva-la-confianza-brindando-el-nivel-de-transparencia-apropiado","title":{"rendered":"\u00c9tica de la IA: Promueva la confianza brindando el nivel de transparencia apropiado"},"content":{"rendered":"

[vc_section full_width=”stretch_row”][vc_row][vc_column][vc_column_text]<\/p>\n

Como los chatbots son cada vez m\u00e1s conversacionales, no siempre el consumidor puede discernir si est\u00e1 hablando con una m\u00e1quina o con una persona. La inteligencia artificial (IA) est\u00e1 siendo cada vez m\u00e1s utilizada para manejar un mayor nivel de complejidad en las relaciones con los clientes; por ejemplo, la categorizaci\u00f3n de llamadas entrantes o la atribuci\u00f3n de ofertas personalizadas.\u00a0 De ah\u00ed, los interrogantes que surgen sobre la equidad de las decisiones que toma una m\u00e1quina.<\/p>\n

La mayor\u00eda de los programas que utilizan IA son considerados como una suerte de “cajas negras”. Esta falta de transparencia puede desencadenar problemas de confianza con los consumidores, adem\u00e1s de afectar negativamente a su empresa.<\/p>\n

El primer paso en la transparencia<\/strong><\/p>\n

Las normas de privacidad plasmadas en el GDPR de la Uni\u00f3n Europea son mucho m\u00e1s exigentes que las de EE.UU. Muchos l\u00edderes de pensamiento est\u00e1n tratando de aplicar el nivel de privacidad GDPR al uso dom\u00e9stico. En julio de 2019, el estado de California promulgar\u00e1 una nueva\u00a0ley sobre la transparencia de los bots<\/a>,\u00a0que seguramente se extender\u00e1 a nivel nacional. La ley tiene como objetivo proteger a los consumidores y votantes del posible enga\u00f1o de bots que act\u00faan como humanos. Por ejemplo, leyes como esta pueden impedir que se utilicen bots maliciosos para influenciar las elecciones a trav\u00e9s del uso abusivo de plataformas sociales.<\/p>\n

Las leyes sobre la transparencia de los bots quiz\u00e1 no impidan la r\u00e1pida implementaci\u00f3n de esta tecnolog\u00eda por parte de las empresas, pero ciertamente podr\u00edan causar repercusiones en la eficacia de los bots para fines de venta o marketing, en especial, por tel\u00e9fono. Por ejemplo, una persona que recibe una llamada de un bot que lo primero que dice es “Soy un robot” podr\u00eda tender a colgar o no confiar del todo en el contenido del mensaje. Con el tiempo, \u201ceste tipo de advertencias de que se est\u00e1 interactuando con un bot<\/a>\u201d podr\u00edan correr la misma suerte que los “t\u00e9rminos y condiciones” de un software nuevo: un vocabulario legal que casi nadie lee.<\/p>\n

Cuando la mayor transparencia en la IA genera menos confianza<\/strong><\/p>\n

\u00a0Harvard Business Review cit\u00f3 un estudio<\/a>\u00a0que revela que, si bien los usuarios no aceptan la idea de que la IA es una “caja negra” que toma decisiones, tampoco necesitan ni desean un alto grado de transparencia. De hecho, mucha transparencia podr\u00eda resultar contraproducente y socavar la confianza. En dicho estudio, que trataba sobre ex\u00e1menes escolares, se les dijo a algunos alumnos que las calificaciones hab\u00edan sido otorgadas por sus pares. A otros se les brind\u00f3 un mayor nivel de transparencia y se les comunic\u00f3 que el c\u00e1lculo de su calificaci\u00f3n fue realizado por un algoritmo ajustado para evitar el sesgo de los pares. Luego, se les pidi\u00f3 que calificaran su confianza en el proceso.<\/p>\n

Los resultados demostraron que, cuando las calificaciones fueron satisfactorias, la transparencia estaba fuera de cuesti\u00f3n para los alumnos. Sin embargo, cuando la calificaci\u00f3n no alcanz\u00f3 lo que esperaban, los alumnos cuestionaron la transparencia del algoritmo y solicitaron que se les explicara por qu\u00e9 se les hab\u00eda otorgado esa calificaci\u00f3n. El estudio confirm\u00f3 que las personas desean recibir una explicaci\u00f3n clara cuando un resultado no alcanza lo que ellas esperan. Sin embargo, si creen que el proceso es equitativo, disminuye el impacto en la confianza.<\/p>\n

Caja blanca versus caja negra<\/strong><\/p>\n

Las decisiones que toman las m\u00e1quinas deben poder justificarse cada vez que se lo requiera. Piense en el \u00e1rea de la salud y la tecnolog\u00eda de diagn\u00f3stico por im\u00e1genes que utiliza IA, o los veh\u00edculos autodirigidos de la industria automotriz. Explicar c\u00f3mo se toman las decisiones es un hecho cada vez m\u00e1s importante en las industrias en las que la IA resulta eficaz, incluyendo la experiencia del cliente.<\/p>\n

La “IA explicable” es uno de los grandes desaf\u00edos tecnol\u00f3gicos de la revoluci\u00f3n de la IA. La Agencia de Proyectos de Investigaci\u00f3n Avanzados de Defensa de los Estados Unidos (DARPA), junto con otros institutos de investigaci\u00f3n, invierten mucho dinero en tratar de encontrar formas en las que los algoritmos ayuden a los humanos a interpretar las decisiones tomadas por la IA. Es una paradoja. Considere el machine learning moderno como redes neuronales profundas. Estas redes se alimentan de una incalculable cantidad de datos y tienen una capacidad de c\u00e1lculo pr\u00e1cticamente ilimitada que arroja resultados sin precedentes. No obstante, jam\u00e1s ha sido tan dif\u00edcil explicar c\u00f3mo llegan a las decisiones que toman.<\/p>\n

Por ejemplo, para que haya una perfecta colaboraci\u00f3n entre bots y humanos<\/a>,\u00a0es necesario contar con algoritmos de enrutamiento predictivo complejos que asignen a cada cliente al mejor representante, sobre la base de miles de criterios. Genesys utiliza el machine learning para tomar esas decisiones de enrutamiento, cuando las reglas se quedan a mitad de camino. El rendimiento para el negocio de tales sistemas basados en IA son muy pertinentes, pero tambi\u00e9n hay muchos clientes cuyos administradores desean saber c\u00f3mo se produce ese enrutamiento. Quieren tener transparencia respecto de todos los factores involucrados en la toma de esas decisiones. Es una cuesti\u00f3n de la caja blanca, que representa la transparencia total, versus la caja negra, que no revela nada acerca del funcionamiento del algoritmo.<\/p>\n

Todas estas expectativas fueron las que nos impulsaron a crear un buen nivel de transparencia en nuestro modelo de enrutamiento predictivo. Esta transparencia explica qu\u00e9 factor interviene para llegar a la decisi\u00f3n \u00f3ptima de ruteo, y en qu\u00e9 medida interviene. En este caso, la transparencia permite que las organizaciones mejoren la capacitaci\u00f3n de sus empleados o a\u00f1adan limitaciones al sistema para evitar posibles sesgos.<\/p>\n

Encuentre el nivel apropiado de transparencia de IA<\/strong><\/p>\n

Un paso importante hacia la transparencia de su estrategia de IA es garantizar que a los clientes se les comunique que est\u00e1n hablando con un bot. Sin embargo, se presentan problemas m\u00e1s amplios. Un abordaje de “caja blanca” que revela todos los datos no necesariamente les dar\u00e1 a los clientes informaci\u00f3n \u00fatil, pero el enfoque de “caja negra” tampoco resulta aceptable. Un enfoque m\u00e1s apropiado podr\u00eda ser el de darle a los clientes informaci\u00f3n b\u00e1sica sobre los factores que intervienen en las decisiones de los algoritmos y c\u00f3mo se analizan.<\/p>\n

Los desaf\u00edos que plantea la transparencia imponen una mirada integral sobre la \u00e9tica de la IA, desde el punto de vista de los derechos y las expectativas de los clientes.<\/p>\n

Este blog es parte de una serie que ahonda en las cuestiones relacionadas con la \u00e9tica de la IA. Algunos de los blogs recientes son\u00a0<\/strong><\/em>El beneficio social de la inteligencia artificial<\/em><\/strong><\/a> y <\/strong><\/em>La cuesti\u00f3n de la equidad en los modelos predictivos de IA<\/strong><\/em><\/a>.<\/strong><\/em><\/p>\n

[\/vc_column_text][\/vc_column][\/vc_row][\/vc_section]<\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"

[vc_section full_width=”stretch_row”][vc_row][vc_column][vc_column_text] Como los chatbots son cada vez m\u00e1s conversacionales, no siempre el consumidor puede discernir si est\u00e1 hablando con una m\u00e1quina o con una persona. La inteligencia artificial (IA) est\u00e1 siendo cada vez m\u00e1s utilizada para manejar un mayor nivel de complejidad en las relaciones con los clientes; por ejemplo, la categorizaci\u00f3n de llamadas […]<\/p>\n","protected":false},"author":302,"featured_media":134658,"template":"","tax_priority":[],"tax_blogtype":[17763],"tax_blogcategory":[15938],"tax_contenttheme":[],"tax_bundle":[],"tax_contenttheme2":[],"tax_capability_sitewide":[],"tax_products_programs":[],"tax_buying_job":[],"tax_buyer_persona":[],"tax_sector":[],"tax_segment":[],"class_list":["post-134657","blog","type-blog","status-publish","has-post-thumbnail","hentry","tax_blogtype-genesys-executives-es-mx","tax_blogcategory-ai-and-machine-learning-es-mx"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/blog\/134657","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/types\/blog"}],"author":[{"embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/users\/302"}],"version-history":[{"count":1,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/blog\/134657\/revisions"}],"predecessor-version":[{"id":134659,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/blog\/134657\/revisions\/134659"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/media\/134658"}],"wp:attachment":[{"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/media?parent=134657"}],"wp:term":[{"taxonomy":"tax_priority","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_priority?post=134657"},{"taxonomy":"tax_blogtype","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_blogtype?post=134657"},{"taxonomy":"tax_blogcategory","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_blogcategory?post=134657"},{"taxonomy":"tax_contenttheme","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_contenttheme?post=134657"},{"taxonomy":"tax_bundle","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_bundle?post=134657"},{"taxonomy":"tax_contenttheme2","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_contenttheme2?post=134657"},{"taxonomy":"tax_capability_sitewide","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_capability_sitewide?post=134657"},{"taxonomy":"tax_products_programs","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_products_programs?post=134657"},{"taxonomy":"tax_buying_job","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_buying_job?post=134657"},{"taxonomy":"tax_buyer_persona","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_buyer_persona?post=134657"},{"taxonomy":"tax_sector","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_sector?post=134657"},{"taxonomy":"tax_segment","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_segment?post=134657"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}