{"id":11514,"date":"2019-03-18T17:42:26","date_gmt":"2019-03-18T20:42:26","guid":{"rendered":"https:\/\/www.kaspersky.com.br\/blog\/?p=11514"},"modified":"2019-11-22T07:08:30","modified_gmt":"2019-11-22T10:08:30","slug":"when-ai-decides","status":"publish","type":"post","link":"https:\/\/www.kaspersky.com.br\/blog\/when-ai-decides\/11514\/","title":{"rendered":"Quando a intelig\u00eancia artificial afeta nossas vidas"},"content":{"rendered":"

Apesar das nossas \u00faltimas publica\u00e7\u00f5es sobre problemas s\u00e9rios com a IA\u00a0<\/a>(intelig\u00eancia artificial), as pessoas continuam a confiar partes importantes aos assistentes rob\u00f4s. Sistemas autodidatas auxiliam ju\u00edzes e m\u00e9dicos a tomarem decis\u00f5es, e s\u00e3o capazes de prever crimes que ainda n\u00e3o ocorreram. Ainda assim, usu\u00e1rios desses sistemas n\u00e3o tem completa consci\u00eancia de como os sistemas chegam a essas conclus\u00f5es.<\/p>\n

Todos de p\u00e9, o tribunal est\u00e1 em sess\u00e3o<\/h3>\n

Nas cortes americanas, IA \u00e9 implementada em decis\u00f5es relacionadas \u00e0s senten\u00e7as, medidas preventivas e mitiga\u00e7\u00e3o<\/a>. Depois de estudar os dados relevantes, os sistemas de IA consideram se o suspeito \u00e9 suscet\u00edvel \u00e0 reabilita\u00e7\u00e3o ou reincid\u00eancia. Essa decis\u00e3o pode converter a liberdade condicional em uma senten\u00e7a ou fian\u00e7a.<\/p>\n

Por exemplo, Eric Loomis recebeu senten\u00e7a de seis anos de cadeia<\/a> por dirigir um carro em que um passageiro atirou em um pr\u00e9dio. A decis\u00e3o foi baseada no algoritmo COMPAS, que avalia o perigo provocado por indiv\u00edduos \u00e0 sociedade. O COMPAS foi alimentado com o perfil do acusado e ficha criminal, o qual identificou como \u201cindiv\u00edduo de alto risco \u00e0 comunidade\u201d. A defesa recorreu da decis\u00e3o alegando que os detalhes do algoritmo n\u00e3o eram claros, tornando imposs\u00edvel avaliar a justi\u00e7a de suas conclus\u00f5es. O tribunal rejeitou esse argumento.<\/p>\n

Videntes eletr\u00f4nicos: AI como assistente policial<\/h3>\n

Algumas leis chinesas foram mais adiante:\u00a0por meio de algoritmos identificam criminosos em potencial<\/a>. C\u00e2meras de reconhecimento facial monitoram o p\u00fablico e reportam \u00e0s autoridades se algo suspeito aparece. Por exemplo, algu\u00e9m que compre uma quantidade muito grande de fertilizante pode estar preparando um ataque terrorista. Algu\u00e9m que age de forma suspeita pode ser preso e enviado para um campo de reeduca\u00e7\u00e3o.<\/p>\n

Tecnologias preventivas contra crimes tamb\u00e9m est\u00e3o em desenvolvimento em outros pa\u00edses. Policiais em algumas partes dos Estados Unidos e no Reino Unido j\u00e1 as utilizam<\/a> para prever a ocorr\u00eancia do pr\u00f3ximo incidente. Muitos fatores s\u00e3o considerados: o hist\u00f3rico de crimes da \u00e1rea, estado socioecon\u00f4mico, at\u00e9 a previs\u00e3o do tempo. Nota-se, que desde a implementa\u00e7\u00e3o dessas ferramentas nos distritos de Chicago, crimes com arma de fogo ca\u00edram em um ter\u00e7o.<\/a><\/p>\n

O computador vai atend\u00ea-lo agora<\/h3>\n

Novas tecnologias tamb\u00e9m s\u00e3o utilizadas na \u00e1rea de sa\u00fade. M\u00e9dicos artificiais realizam consultas em pacientes<\/a>, fazem diagn\u00f3sticos<\/a>, analisam exames, e assistem cirurgi\u00f5es durante opera\u00e7\u00f5es.<\/a><\/p>\n

Um dos sistemas de autoaprendizado mais conhecido na \u00e1rea de sa\u00fade \u00e9 o IBM Watson Health<\/a>. M\u00e9dicos ensinam a IA a diagnosticar doen\u00e7as e a prescrever terapia. Watson Health recebeu muitos feedbacks positivos. Em 2013, por exemplo, a chance de o supercomputador selecionar o melhor plano de tratamento<\/a> chegou a 90%.<\/p>\n

Entretanto, no ver\u00e3o de 2018, foi revelado que algumas das recomenda\u00e7\u00f5es do sistema relacionadas ao tratamento de c\u00e2ncer eram impr\u00f3prias<\/a>. Em particular, o Watson sugeriu que um paciente com sangramentos severos recebesse um medicamento que intensificaria a perda de sangue. Felizmente, os cen\u00e1rios eram hipot\u00e9ticos.<\/p>\n

Claro, m\u00e9dicos humanos tamb\u00e9m cometem erros, mas quando IA entra no meio, as linhas de responsabilidade ficam turvas. Um m\u00e9dico de carne e osso arriscaria contradizer um colega digital que foi criado com acesso a centenas de milhares de artigos cient\u00edficos, livros e estudos de caso? E se n\u00e3o, o m\u00e9dico deve ser responsabilizado pelas consequ\u00eancias negativas?<\/p>\n

IA precisa ser transparente<\/strong><\/h3>\n

Um dos principais problemas ao usar IA para decidir o destino da humanidade \u00e9 que esses algoritmos s\u00e3o em geral opacos, e identificar a causa de erros de forma a evitar sua recorr\u00eancia n\u00e3o \u00e9 tarefa f\u00e1cil. Do ponto de vista do desenvolvedor de sistemas de aprendizado autom\u00e1tico, isso \u00e9 compreens\u00edvel: afinal, quem quer compartilhar conhecimento com competidores em potencial? Entretanto, quando as vidas das pessoas est\u00e3o em jogo, deve o segredo comercial ser prioridade?<\/p>\n

Pol\u00edticos ao redor do mundo tentam estruturar leis acerca de IA pouco transparente<\/a>. Na Uni\u00e3o Europeia, \u201ctitulares de dados\u201d possuem o direito de conhecer quais os fundamentos da IA afetam seus interesses. O Jap\u00e3o percorre caminho similar, mas a lei relevante est\u00e1 apenas em considera\u00e7\u00e3o.<\/a><\/p>\n

Alguns desenvolvedores est\u00e3o em favor da transpar\u00eancia, mas n\u00e3o avan\u00e7am profundamente. Um desses se trata da empresa de tecnologia CivicScape, que em 2017 liberou o c\u00f3digo fonte de seus sistemas de previs\u00e3o e policiamento<\/a>. Entretanto, trata-se de uma exce\u00e7\u00e3o.<\/p>\n

Agora que o g\u00eanio da IA saiu da garrafa, h\u00e1 pouca chance que a humanidade o aprisionar\u00e1 de volta. Isso significa que at\u00e9 que as decis\u00f5es pautadas em IA se provem justas e precisas, o uso desse recurso deve depender de leis bem feitas e a compet\u00eancia tanto de criadores e usu\u00e1rios de sistemas de autoaprendizado.
\n<\/p>\n","protected":false},"excerpt":{"rendered":"

As tecnologias de aprendizado de m\u00e1quina auxiliam ju\u00edzes, policiais e m\u00e9dicos a tomarem decis\u00f5es, por\u00e9m a falta de transpar\u00eancia levanta d\u00favidas nos ativistas dos direitos humanos.<\/p>\n","protected":false},"author":2049,"featured_media":11515,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[14,1028],"tags":[1382,1342,766,77],"class_list":{"0":"post-11514","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-news","8":"category-privacy","9":"tag-aprendizado-de-maquina","10":"tag-ia","11":"tag-inteligencia-artificial","12":"tag-tecnologia"},"hreflang":[{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/when-ai-decides\/11514\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/when-ai-decides\/15239\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/when-ai-decides\/12808\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/when-ai-decides\/17177\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/when-ai-decides\/15338\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/when-ai-decides\/14056\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/when-ai-decides\/17854\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/when-ai-decides\/16903\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/when-ai-decides\/22243\/"},{"hreflang":"tr","url":"https:\/\/www.kaspersky.com.tr\/blog\/when-ai-decides\/5693\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/when-ai-decides\/25607\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/when-ai-decides\/11430\/"},{"hreflang":"pl","url":"https:\/\/plblog.kaspersky.com\/when-ai-decides\/10353\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/when-ai-decides\/18553\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/when-ai-decides\/22440\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/when-ai-decides\/17938\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/when-ai-decides\/22111\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/when-ai-decides\/22046\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.com.br\/blog\/tag\/ia\/","name":"IA"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/11514","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/users\/2049"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/comments?post=11514"}],"version-history":[{"count":4,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/11514\/revisions"}],"predecessor-version":[{"id":12766,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/11514\/revisions\/12766"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/media\/11515"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/media?parent=11514"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/categories?post=11514"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/tags?post=11514"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}