{"id":127869,"date":"2019-01-24T05:22:44","date_gmt":"2019-01-24T13:22:44","guid":{"rendered":"https:\/\/www.genesys.com\/?post_type=blog&#038;p=127869"},"modified":"2019-01-24T05:22:44","modified_gmt":"2019-01-24T13:22:44","slug":"vamos-conversar-sobre-a-etica-da-inteligencia-artificial-a-luta-pela-equidade-nos-modelos-preditivos-de-ia","status":"publish","type":"blog","link":"https:\/\/www.genesys.com\/pt-br\/blog\/post\/vamos-conversar-sobre-a-etica-da-inteligencia-artificial-a-luta-pela-equidade-nos-modelos-preditivos-de-ia","title":{"rendered":"Vamos conversar sobre a \u00e9tica da intelig\u00eancia artificial: a luta pela equidade nos modelos preditivos de IA"},"content":{"rendered":"<div class=\"wpb-content-wrapper\"><p>[vc_section full_width=&#8221;stretch_row&#8221;][vc_row][vc_column][vc_column_text]A equidade \u00e9 um dos pilares da \u00e9tica da intelig\u00eancia artificial (IA) na Genesys. Tamb\u00e9m conhecido como &#8220;IA moral&#8221;, esse conceito \u00e9 bastante semelhante \u00e0s teorias de <u><a href=\"https:\/\/www.britannica.com\/biography\/Immanuel-Kant&amp;amp;quot;%20\/t%20&amp;amp;quot;_blank\">Immanuel Kant<\/a><\/u>, fil\u00f3sofo alem\u00e3o do s\u00e9culo XVIII, que definiu as leis morais como &#8220;absolutos comprov\u00e1veis que s\u00e3o aplic\u00e1veis a todos&#8221;, cuja validez n\u00e3o depende de motivos ou resultados ulteriores. &#8220;N\u00e3o mentir\u00e1s&#8221; \u00e9 um bom exemplo de uma regra moral ou m\u00e1xima, e \u00e9 um bom ponto de partida para essa an\u00e1lise.<\/p>\n<p>O primeiro blog desta s\u00e9rie sobre \u00e9tica aplicada \u00e0 IA analisou os <u><a href=\"https:\/\/www.genesys.com\/blog\/post\/lets-talk-ai-ethics-the-social-benefits-of-artificial-intelligence&amp;amp;quot;%20\/t%20&amp;amp;quot;_blank\">benef\u00edcios sociais da IA<\/a><\/u> e como ela pode melhorar a vida das pessoas em todo o mundo. Neste segundo artigo, vamos examinar o sentido de equidade ou justi\u00e7a na \u00e9tica da IA e o problema da tendenciosidade e dos preconceitos (em rela\u00e7\u00e3o a ra\u00e7a, etnia, g\u00eanero, nacionalidade, orienta\u00e7\u00e3o sexual, capacidades, etc.).<\/p>\n<p><strong>Equidade de oportunidades e equidade nos resultados<\/strong><\/p>\n<p>Uma forma de ver a IA e a equidade \u00e9 decidir que aspecto da &#8220;equidade&#8221; teremos em conta: se as oportunidades ou os resultados. Os dois tipos t\u00eam seu lugar na sociedade.<\/p>\n<p>A equidade nas oportunidades \u00e9 clara nos esportes, por exemplo, j\u00e1 que todos jogam de acordo com as mesmas regras. O resultado n\u00e3o est\u00e1 predeterminado, mas todo mundo aceita os resultados \u2013 ganhando ou perdendo \u2013 se o jogo foi limpo.<\/p>\n<p>A equidade nos resultados est\u00e1 presente na mesa de jantar da fam\u00edlia. Quando a comida \u00e9 servida, todos recebem uma por\u00e7\u00e3o justa e igual. Em outras palavras, independentemente de ter participado na prepara\u00e7\u00e3o da refei\u00e7\u00e3o, cada membro da fam\u00edlia obt\u00e9m um resultado igual ou justo.<\/p>\n<p>Um modelo preditivo, como a aprendizagem autom\u00e1tica, produzir\u00e1 um resultado justo em termos de oportunidades se est\u00e1 baseado em:<\/p>\n<ul>\n<li><strong>Dados<\/strong>: Seus dados est\u00e3o contaminados ou distorcidos?<\/li>\n<li><strong>Perguntas<\/strong>: Se a resposta \u00e9 n\u00e3o, voc\u00ea est\u00e1 realizando as perguntas certas?<\/li>\n<li><strong>Prioridades e valores<\/strong>: Se \u00e9 sim, voc\u00ea precisa reavaliar suas prioridades?<\/li>\n<\/ul>\n<p>A quest\u00e3o chave n\u00e3o \u00e9 se existe preconceito, mas se a tendenciosidade criada pelos dados, pelas perguntas, prioridades e valores \u00e9 moralmente neutra. Se for assim, os resultados ser\u00e3o imparciais. Tamb\u00e9m \u00e9 importante distinguir entre tendenciosidade socialmente injusta e aquela relacionada com pondera\u00e7\u00f5es e dados t\u00e9cnicos pr\u00f3prios do ambiente da IA.<\/p>\n<p>Dito de outro modo, ajustar um modelo preditivo de IA para obter resultados favor\u00e1veis pode ser feito de tr\u00eas maneiras:<\/p>\n<ol>\n<li>Escolhendo os dados<\/li>\n<li>Ajustando as tend\u00eancias, ou seja, ajustando a varia\u00e7\u00e3o entre as predi\u00e7\u00f5es e os valores reais<\/li>\n<li><u><a href=\"https:\/\/datascience.stackexchange.com\/questions\/19099\/what-is-weight-and-bias-in-deep-learning&amp;amp;quot;%20\/t%20&amp;amp;quot;_blank\">Ajustando as pondera\u00e7\u00f5es<\/a><\/u>, ou seja, avaliando a solidez da conex\u00e3o. E se o input aumentar, definir o quanto ele influiu no resultado<\/li>\n<\/ol>\n<p><strong>Quando as boas inten\u00e7\u00f5es acabam mal<\/strong><\/p>\n<p>Inclusive utilizando essa metodologia, continua existindo uma \u00e1rea indefinida quando queremos ajustar a IA para eliminar preconceitos sociais nocivos que podem se tornar problem\u00e1ticos. Predeterminar um resultado somente porque voc\u00ea o considera justo, e criar uma situa\u00e7\u00e3o tendenciosa, \u00e9 um caso de profecia autorrealiz\u00e1vel. Isso pode trazer consequ\u00eancias muito negativas, porque implica que &#8220;manipular o sistema&#8221; ou &#8220;trapacear&#8221; em nome da justi\u00e7a \u00e9 justific\u00e1vel. Se carregarmos o sistema com dados tendenciosos, obteremos dados tendenciosos.<\/p>\n<p>John Giannandrea, diretor de IA de Google, tamb\u00e9m v\u00ea os <u><a href=\"https:\/\/www.technologyreview.com\/s\/608986\/forget-killer-robotsbias-is-the-real-ai-danger\/&amp;amp;quot;%20\/t%20&amp;amp;quot;_blank\">perigos dentro dos algoritmos<\/a><\/u> utilizados para tomar milh\u00f5es de decis\u00f5es a cada minuto. Os sistemas de aprendizagem autom\u00e1tica baseados na nuvem s\u00e3o concebidos para serem mais f\u00e1ceis de usar do que os algoritmos subjacentes. Embora isso torne a tecnologia mais acess\u00edvel, tamb\u00e9m pode facilitar a infiltra\u00e7\u00e3o de preconceitos nocivos. Por exemplo, os algoritmos das fontes de not\u00edcias podem influenciar as percep\u00e7\u00f5es do p\u00fablico. Outros algoritmos podem distorcer o tipo de tratamento m\u00e9dico que uma pessoa recebe ou como \u00e9 tratada no <u><a href=\"https:\/\/www.propublica.org\/article\/how-we-analyzed-the-compas-recidivism-algorithm&amp;amp;quot;%20\/t%20&amp;amp;quot;_blank\">sistema de justi\u00e7a penal<\/a><\/u>.<\/p>\n<p>O Facebook tem sido criticado nos \u00faltimos anos por utilizar uma tecnologia que permite aos propriet\u00e1rios de im\u00f3veis <u><a href=\"https:\/\/www.propublica.org\/article\/facebook-lets-advertisers-exclude-users-by-race&amp;amp;quot;%20\/t%20&amp;amp;quot;_blank\">discriminar com base na ra\u00e7a<\/a><\/u> e aos empregadores <u><a href=\"https:\/\/www.nytimes.com\/2017\/12\/20\/business\/facebook-job-ads.html?module=inline&amp;amp;quot;%20%5Ct%20&amp;amp;quot;_blank\">discriminar com base na idade<\/a><\/u> das pessoas. Essa tecnologia tamb\u00e9m <u><a href=\"https:\/\/www.nytimes.com\/2018\/09\/18\/business\/economy\/facebook-job-ads.html&amp;amp;quot;%20\/t%20&amp;amp;quot;_blank\">facilitou a discrimina\u00e7\u00e3o por g\u00eanero<\/a><\/u>, porque os empregadores podiam excluir as candidatas do sexo feminino das campanhas de recrutamento. Todas estas \u00e1reas est\u00e3o protegidas por leis em muitos pa\u00edses. Existem tamb\u00e9m outras quest\u00f5es a n\u00edvel internacional que devem ser levadas em considera\u00e7\u00e3o. Um <u><a href=\"https:\/\/www.technologyreview.com\/s\/612341\/a-global-ethics-study-aims-to-help-ai-solve-the-self-driving-trolley-problem\/&amp;amp;quot;%20\/t%20&amp;amp;quot;_blank\">experimento do laborat\u00f3rio de m\u00eddia do MIT<\/a><\/u> analisou dados de 40 milh\u00f5es de decis\u00f5es sobre prefer\u00eancias morais, revelando o quanto a \u00e9tica \u00e9 diferente nas diferentes culturas.<\/p>\n<p>Alguns especialistas sugerem que a maneira de eliminar os preconceitos e a tendenciosidade \u00e9 publicar detalhes dos dados ou do algoritmo usado. No entanto, muitas das mais poderosas t\u00e9cnicas de aprendizagem autom\u00e1tica s\u00e3o muito complexas e pouco claras em rela\u00e7\u00e3o a seu funcionamento. Elas requerem uma an\u00e1lise muito mais cuidadosa. Na nossa opini\u00e3o, o melhor \u00e9 come\u00e7ar pelo princ\u00edpio, levando em considera\u00e7\u00e3o os imperativos morais de Kant.<\/p>\n<p><strong>Quando a IA leva a resultados iguais e justos<\/strong><\/p>\n<p>Estamos vivendo na era da experi\u00eancia, <u><a href=\"https:\/\/www.genesys.com\/blog\/post\/build-a-better-customer-experience-future&amp;amp;quot;%20\/t%20&amp;amp;quot;_blank\">onde a forma como as coisas acontecem \u00e9 t\u00e3o importante como o fato em si<\/a><\/u>.\u00a0Se analisamos e entendemos melhor o modelo preditivo e a aprendizagem autom\u00e1tica, poderemos prever poss\u00edveis problemas e incorporar a imparcialidade nos modelos preditivos de IA. Afinal, uma experi\u00eancia do cliente positiva depende de resultados justos.<\/p>\n<p>Siga a nossa s\u00e9rie de blogs que continuar\u00e3o explorando os aspectos da \u00e9tica aplicada \u00e0 IA.\u00a0<strong><a href=\"https:\/\/www.genesys.com\/campaign\/ai-ethics&amp;amp;quot;%20\/t%20&amp;amp;quot;_blank\">Participe conosco da discuss\u00e3o sobre \u00e9tica aplicada \u00e0 IA<\/a>.<\/strong><\/p>\n<p><strong>Gordon Sexton:<\/strong><\/p>\n<p>Gordon Sexton \u00e9 Gerente de Pr\u00e1ticas de IA de Genesys North America Business Consulting. Tem um grande interesse pela IA e trabalha em solu\u00e7\u00f5es de experi\u00eancia do cliente desde 2000. Sua carreira profissional tem se concentrado na engenharia de sistemas e na arquitetura empresarial. Por\u00e9m, est\u00e1 totalmente convencido de que uma abordagem abrangente, que inclua arte, filosofia, hist\u00f3ria e humanidades, \u00e9 fundamental para imbuir as solu\u00e7\u00f5es tecnol\u00f3gicas de relev\u00e2ncia social e cultural.[\/vc_column_text][\/vc_column][\/vc_row][\/vc_section]<\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"<p>[vc_section full_width=&#8221;stretch_row&#8221;][vc_row][vc_column][vc_column_text]A equidade \u00e9 um dos pilares da \u00e9tica da intelig\u00eancia artificial (IA) na Genesys. Tamb\u00e9m conhecido como &#8220;IA moral&#8221;, esse conceito \u00e9 bastante semelhante \u00e0s teorias de Immanuel Kant, fil\u00f3sofo alem\u00e3o do s\u00e9culo XVIII, que definiu as leis morais como &#8220;absolutos comprov\u00e1veis que s\u00e3o aplic\u00e1veis a todos&#8221;, cuja validez n\u00e3o depende de motivos ou [&hellip;]<\/p>\n","protected":false},"author":591,"featured_media":127870,"template":"","tax_priority":[],"tax_blogtype":[17764],"tax_blogcategory":[15941],"tax_contenttheme":[],"tax_bundle":[],"tax_contenttheme2":[],"tax_capability_sitewide":[],"tax_products_programs":[],"tax_buying_job":[],"tax_buyer_persona":[],"tax_sector":[],"tax_segment":[],"class_list":["post-127869","blog","type-blog","status-publish","has-post-thumbnail","hentry","tax_blogtype-genesys-executives-pt-br","tax_blogcategory-ai-and-machine-learning-pt-br"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/blog\/127869","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/types\/blog"}],"author":[{"embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/users\/591"}],"version-history":[{"count":2,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/blog\/127869\/revisions"}],"predecessor-version":[{"id":385292,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/blog\/127869\/revisions\/385292"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/media\/127870"}],"wp:attachment":[{"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/media?parent=127869"}],"wp:term":[{"taxonomy":"tax_priority","embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/tax_priority?post=127869"},{"taxonomy":"tax_blogtype","embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/tax_blogtype?post=127869"},{"taxonomy":"tax_blogcategory","embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/tax_blogcategory?post=127869"},{"taxonomy":"tax_contenttheme","embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/tax_contenttheme?post=127869"},{"taxonomy":"tax_bundle","embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/tax_bundle?post=127869"},{"taxonomy":"tax_contenttheme2","embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/tax_contenttheme2?post=127869"},{"taxonomy":"tax_capability_sitewide","embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/tax_capability_sitewide?post=127869"},{"taxonomy":"tax_products_programs","embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/tax_products_programs?post=127869"},{"taxonomy":"tax_buying_job","embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/tax_buying_job?post=127869"},{"taxonomy":"tax_buyer_persona","embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/tax_buyer_persona?post=127869"},{"taxonomy":"tax_sector","embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/tax_sector?post=127869"},{"taxonomy":"tax_segment","embeddable":true,"href":"https:\/\/www.genesys.com\/pt-br\/wp-json\/wp\/v2\/tax_segment?post=127869"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}