{"id":127872,"date":"2019-01-24T05:31:27","date_gmt":"2019-01-24T13:31:27","guid":{"rendered":"https:\/\/www.genesys.com\/?post_type=blog&#038;p=127872"},"modified":"2019-01-24T05:31:27","modified_gmt":"2019-01-24T13:31:27","slug":"hablemos-de-la-etica-de-la-inteligencia-artificial-la-lucha-de-la-equidad-en-los-modelos-predictivos-de-ia","status":"publish","type":"blog","link":"https:\/\/www.genesys.com\/es-mx\/blog\/post\/hablemos-de-la-etica-de-la-inteligencia-artificial-la-lucha-de-la-equidad-en-los-modelos-predictivos-de-ia","title":{"rendered":"Hablemos de la \u00e9tica de la inteligencia artificial: la lucha de la equidad en los modelos predictivos de IA"},"content":{"rendered":"<div class=\"wpb-content-wrapper\"><p>[vc_section full_width=&#8221;stretch_row&#8221;][vc_row][vc_column][vc_column_text]La equidad es uno de los pilares de la \u00e9tica de la inteligencia artificial (IA) en Genesys. Tambi\u00e9n conocido como \u201cIA moral\u201d, este concepto es bastante similar a las teor\u00edas que planteaba <u><a href=\"https:\/\/www.britannica.com\/biography\/Immanuel-Kant\">Immanuel Kant<\/a><\/u>, fil\u00f3sofo alem\u00e1n del siglo xviii, quien defini\u00f3 las leyes de la moralidad como &#8220;absolutos comprobables y aplicables a todos&#8221;, cuya validez no depende ni de los resultados ni del motivo ulterior. \u201cNo mentir\u00e1s\u201d es un buen ejemplo de regla o m\u00e1xima moral y un buen punto de partida para este an\u00e1lisis.<\/p>\n<p>En el primer blog de esta serie sobre la \u00e9tica de la IA, analizamos los\u00a0<u><a href=\"https:\/\/www.genesys.com\/blog\/post\/lets-talk-ai-ethics-the-social-benefits-of-artificial-intelligence\">beneficios sociales de la inteligencia artificial<\/a><\/u> y el gran cambio que produce en la vida de las personas. En este segundo art\u00edculo, examinaremos el sentido de equidad o de justicia detr\u00e1s de la \u00e9tica de la IA y el problema de los sesgos (raciales, \u00e9tnicos, de g\u00e9nero, nacionalidad, orientaci\u00f3n sexual, capacidades, etc.).<\/p>\n<p><strong>Equidad en las oportunidades y en los resultados<\/strong><\/p>\n<p>Una manera de mirar a la IA y al sentido de equidad es decidir qu\u00e9 aspecto de &#8220;equidad&#8221; tendremos en cuenta: si las oportunidades o los resultados. Ambos tipos tienen un lugar en la sociedad.<\/p>\n<p>La equidad en las oportunidades es clara en los deportes, por ejemplo, ya que todos juegan con las mismas reglas. El resultado no est\u00e1 determinado de antemano, pero todos lo aceptan \u2013ganen o pierdan\u2013 si el juego ha sido limpio.<\/p>\n<p>La equidad en los resultados est\u00e1 presente en la mesa familiar. Cuando se sirve la cena, todos reciben una porci\u00f3n equitativa. En otras palabras, independientemente de si el miembro de la familia particip\u00f3 de la preparaci\u00f3n de la comida o no, el resultado es justo o equitativo para todos.<\/p>\n<p>Un modelo predictivo, como el del aprendizaje autom\u00e1tico o machine learning, producir\u00e1 un resultado justo o equitativo a partir de una presunci\u00f3n de oportunidad justa o equitativa sobre la base de:<\/p>\n<ul>\n<li><strong>Datos<\/strong>: \u00bfSus datos est\u00e1n contaminados o sesgados?<\/li>\n<li><strong>Preguntas<\/strong>: Si no es as\u00ed, \u00bfest\u00e1 haciendo las preguntas correctas?<\/li>\n<li><strong>Prioridades y valores<\/strong>: Si es as\u00ed, \u00bfnecesita reevaluar sus prioridades?<\/li>\n<\/ul>\n<p>La pregunta clave no es si existe alg\u00fan sesgo; sino si el sesgo creado por los datos, las preguntas y las prioridades o los valores es moralmente neutro. Si es as\u00ed, entonces el resultado ser\u00e1 equitativo. Tambi\u00e9n, es importante establecer una distinci\u00f3n entre el sesgo socialmente injusto y el que se relaciona con ponderaciones y sesgos t\u00e9cnicos propios del ambiente de la IA.<\/p>\n<p>En otras palabras, ajustar un modelo predictivo de IA para alcanzar resultado positivos se hace de tres maneras:<\/p>\n<ol>\n<li>Escogiendo los datos<\/li>\n<li>Ajustando los sesgos, es decir, se ajusta la variaci\u00f3n entre las predicciones y los valores reales.<\/li>\n<li><u><a href=\"https:\/\/datascience.stackexchange.com\/questions\/19099\/what-is-weight-and-bias-in-deep-learning\">Ajustando las ponderaciones<\/a><\/u>, o sea, se eval\u00faa la solidez de la conexi\u00f3n, y cuando se incrementa el input, se decide el grado de influencia que ha tenido en el output o resultado.<\/li>\n<\/ol>\n<p><strong>Cuando las buenas intenciones terminan mal<\/strong><\/p>\n<p>Incluso con esta metodolog\u00eda, sigue habiendo una zona gris cuando buscamos ajustar la IA para eliminar los sesgos sociales perjudiciales que pueden ser problem\u00e1ticos. Decretar un resultado de antemano porque usted opina que es justo o equitativo, y crear el sesgo correspondiente, constituye en s\u00ed una profec\u00eda autocumplida. Esto puede tener efectos muy negativos, porque implica que \u201cjugar con el sistema\u201d o \u201chacer trampa\u201d en nombre de la justicia est\u00e1 justificado. Si cargamos los sistemas con datos sesgados, obtendremos datos sesgados.<\/p>\n<p>John Giannandrea, director de inteligencia artificial de Google, tambi\u00e9n ve los\u00a0<u><a href=\"https:\/\/www.technologyreview.com\/s\/608986\/forget-killer-robotsbias-is-the-real-ai-danger\/\">peligros presentes en los mismos algoritmos<\/a><\/u>\u00a0utilizados para tomar millones de decisiones por minuto. Los sistemas de machine learning en la nube est\u00e1n pensados para ser mucho m\u00e1s f\u00e1ciles de usar que los algoritmos subyacentes. Ahora bien: aunque esto hace que la tecnolog\u00eda sea m\u00e1s accesible para todos, tambi\u00e9n contribuye a que se filtren f\u00e1cilmente sesgos que son perjudiciales.\u00a0Por ejemplo, los algoritmos de las fuentes de noticias pueden influir en las percepciones del p\u00fablico. Otros algoritmos pueden distorsionar el tipo de atenci\u00f3n m\u00e9dica que recibe una persona o c\u00f3mo es tratada en el\u00a0<u><a href=\"https:\/\/www.propublica.org\/article\/how-we-analyzed-the-compas-recidivism-algorithm\">sistema de justicia penal<\/a><\/u>.<\/p>\n<p>Facebook fue criticado en los \u00faltimos a\u00f1os por usar tecnolog\u00eda que les permit\u00eda a los propietarios discriminar\u00a0<u><a href=\"https:\/\/www.propublica.org\/article\/facebook-lets-advertisers-exclude-users-by-race\">por cuestiones de raza<\/a><\/u>\u00a0y a los empleadores <u><a href=\"https:\/\/www.nytimes.com\/2017\/12\/20\/business\/facebook-job-ads.html?module=inline\">por cuestiones de edad<\/a><\/u>. La tecnolog\u00eda tambi\u00e9n\u00a0<u><a href=\"https:\/\/www.nytimes.com\/2018\/09\/18\/business\/economy\/facebook-job-ads.html\">facilit\u00f3 la discriminaci\u00f3n por g\u00e9nero<\/a><\/u>,\u00a0ya que los empleadores pod\u00edan excluir a las postulantes de las campa\u00f1as de reclutamiento. Todas estas \u00e1reas est\u00e1n protegidas por ley en muchos pa\u00edses. Existen tambi\u00e9n algunas cuestiones a nivel internacional que deben ser tomadas en cuenta. Un\u00a0<u><a href=\"https:\/\/www.technologyreview.com\/s\/612341\/a-global-ethics-study-aims-to-help-ai-solve-the-self-driving-trolley-problem\/\">experimento del laboratorio de medios del MIT<\/a><\/u>\u00a0analiz\u00f3 datos a partir de 40 millones de decisiones sobre preferencias morales y revel\u00f3 cu\u00e1nto difiere la \u00e9tica entre las diversas culturas.<\/p>\n<p>Algunos sostienen que la manera de eliminar el sesgo es publicar detalles de los datos o del algoritmo utilizados. Sin embargo, la forma en que funcionan muchas de las m\u00e1s poderosas y recientes t\u00e9cnicas de machine learning es muy compleja y no demasiado clara. Desaf\u00edan hasta el an\u00e1lisis m\u00e1s minucioso. En nuestra opini\u00f3n, lo mejor es comenzar por el principio, teniendo en mente los imperativos morales de Kant.<\/p>\n<p><strong>Cuando la IA lleva a resultados equitativos<\/strong><\/p>\n<p>Vivimos en la era de la experiencia: <u><a href=\"https:\/\/www.genesys.com\/blog\/post\/build-a-better-customer-experience-future\">la manera en que suceden las cosas es tan importante como el hecho en s\u00ed.<\/a><\/u>\u00a0Si analizamos y comprendemos mejor tanto el modelo predictivo como machine learning, podremos anticipar posibles problemas e incorporar el sentido de equidad en los modelos predictivos de IA. Despu\u00e9s de todo, una experiencia de cliente positiva depende de resultados justos o equitativos.<\/p>\n<p>Siga nuestra pr\u00f3xima serie de blogs en la que continuaremos explorando los aspectos de la \u00e9tica de la IA.\u00a0<strong><a href=\"https:\/\/www.genesys.com\/campaign\/ai-ethics\">S\u00famese al an\u00e1lisis de la \u00e9tica de la IA<\/a><\/strong><strong>.<\/strong><\/p>\n<p>&nbsp;<\/p>\n<p><strong>Gordon Sexton:<\/strong><\/p>\n<p>Gordon Sexton es Gerente de Pr\u00e1cticas de IA de Genesys North American Business Consulting. Es un gran entusiasta de la inteligencia artificial. Ha trabajado en soluciones de experiencia del cliente desde 2000. Su carrera profesional se ha centrado en la ingenier\u00eda de sistemas y en la arquitectura empresarial. No obstante, cree firmemente en la idea de que un enfoque hol\u00edstico que incluye arte, filosof\u00eda, historia y humanidades es un requisito <em>sine qua non<\/em> para &#8220;impregnar&#8221; las soluciones t\u00e9cnicas de pertinencia social y cultural.[\/vc_column_text][\/vc_column][\/vc_row][\/vc_section]<\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"<p>[vc_section full_width=&#8221;stretch_row&#8221;][vc_row][vc_column][vc_column_text]La equidad es uno de los pilares de la \u00e9tica de la inteligencia artificial (IA) en Genesys. Tambi\u00e9n conocido como \u201cIA moral\u201d, este concepto es bastante similar a las teor\u00edas que planteaba Immanuel Kant, fil\u00f3sofo alem\u00e1n del siglo xviii, quien defini\u00f3 las leyes de la moralidad como &#8220;absolutos comprobables y aplicables a todos&#8221;, cuya [&hellip;]<\/p>\n","protected":false},"author":591,"featured_media":127873,"template":"","tax_priority":[],"tax_blogtype":[17763],"tax_blogcategory":[15938],"tax_contenttheme":[],"tax_bundle":[],"tax_contenttheme2":[],"tax_capability_sitewide":[],"tax_products_programs":[],"tax_buying_job":[],"tax_buyer_persona":[],"tax_sector":[],"tax_segment":[],"class_list":["post-127872","blog","type-blog","status-publish","has-post-thumbnail","hentry","tax_blogtype-genesys-executives-es-mx","tax_blogcategory-ai-and-machine-learning-es-mx"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/blog\/127872","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/types\/blog"}],"author":[{"embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/users\/591"}],"version-history":[{"count":1,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/blog\/127872\/revisions"}],"predecessor-version":[{"id":127874,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/blog\/127872\/revisions\/127874"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/media\/127873"}],"wp:attachment":[{"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/media?parent=127872"}],"wp:term":[{"taxonomy":"tax_priority","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_priority?post=127872"},{"taxonomy":"tax_blogtype","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_blogtype?post=127872"},{"taxonomy":"tax_blogcategory","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_blogcategory?post=127872"},{"taxonomy":"tax_contenttheme","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_contenttheme?post=127872"},{"taxonomy":"tax_bundle","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_bundle?post=127872"},{"taxonomy":"tax_contenttheme2","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_contenttheme2?post=127872"},{"taxonomy":"tax_capability_sitewide","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_capability_sitewide?post=127872"},{"taxonomy":"tax_products_programs","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_products_programs?post=127872"},{"taxonomy":"tax_buying_job","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_buying_job?post=127872"},{"taxonomy":"tax_buyer_persona","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_buyer_persona?post=127872"},{"taxonomy":"tax_sector","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_sector?post=127872"},{"taxonomy":"tax_segment","embeddable":true,"href":"https:\/\/www.genesys.com\/es-mx\/wp-json\/wp\/v2\/tax_segment?post=127872"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}