{"id":5423,"date":"2015-06-16T18:24:21","date_gmt":"2015-06-16T18:24:21","guid":{"rendered":"http:\/\/kasperskydaily.com\/brazil\/?p=5423"},"modified":"2019-11-22T07:45:39","modified_gmt":"2019-11-22T10:45:39","slug":"artificial-intelligence-safety","status":"publish","type":"post","link":"https:\/\/www.kaspersky.com.br\/blog\/artificial-intelligence-safety\/5423\/","title":{"rendered":"Seguran\u00e7a na intelig\u00eancia artificial: chegar\u00e1 a SkyNet?"},"content":{"rendered":"<p>O que o\u00a0inventor bilion\u00e1rio Elon Musk, a inven\u00e7\u00e3o do servi\u00e7o do Google Now on Tap e o recente filme \u201cEx Machina\u201d t\u00eam em comum? A id\u00e9ia de que a Intelig\u00eancia Artificial (IA) \u00e9 algo que ajuda a humanidade, e n\u00e3o \u00e9 uma ame\u00e7a.<\/p>\n<p><strong>O que a intelig\u00eancia artificial \u00e9 capaz de fazer hoje?<\/strong><\/p>\n<p>Para aqueles que n\u00e3o est\u00e3o por dentro do assunto, deixe-me enumerar v\u00e1rios fatos que demonstram o progresso que as m\u00e1quinas tiveram para se parecem humanas.o humanos.<\/p>\n<p>Hoje em dia, o Google pode reconhecer corretamente um discurso de voz com uma <a href=\"http:\/\/venturebeat.com\/2015\/05\/28\/google-says-its-speech-recognition-technology-now-has-only-an-8-word-error-rate\/\" target=\"_blank\" rel=\"noopener noreferrer nofollow\">precis\u00e3o de 92% <\/a>contra 77% de\u00a0dois anos atr\u00e1s; a empresa desenvolveu uma <a href=\"http:\/\/www.bloomberg.com\/news\/articles\/2015-02-25\/google-s-computers-learn-to-play-video-games-by-themselves\" target=\"_blank\" rel=\"noopener noreferrer nofollow\">plataforma de AI que joga videogames cl\u00e1ssicos por si mesma<\/a>. J\u00e1 a Microsoft ensinou um rob\u00f4 a<a href=\"http:\/\/www.forbes.com\/sites\/michaelthomsen\/2015\/02\/19\/microsofts-deep-learning-project-outperforms-humans-in-image-recognition\/\" target=\"_blank\" rel=\"noopener noreferrer nofollow\"> reconhecer imagens <\/a>(ou, mais precisamente, para ver determinados objetos nas imagens) com uma taxa de erro de apenas 4,94% \u2013 um ser humano m\u00e9dio tem uma taxa de erro superior.<\/p>\n<p>Certas estat\u00edsticas do Google sugerem que os carros sem condutor que estas empresas est\u00e3o desenvolvendo, at\u00e9 agora, j\u00e1 percorreram mais de 1,8 milh\u00e3o de milhas em estradas p\u00fablicas na Calif\u00f3rnia, e que s\u00f3 13 vezes estiveram envolvidos em acidentes de tr\u00e2nsito em seis anos desde que a tecnologia foi lan\u00e7ada (vale lembrar que em oito dos casos, o outro carro envolvido foi o culpado).<\/p>\n<blockquote class=\"twitter-tweet\" data-width=\"500\" data-dnt=\"true\">\n<p lang=\"en\" dir=\"ltr\">MT <a href=\"https:\/\/twitter.com\/Rayterrill?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener nofollow\">@Rayterrill<\/a> Amazing\u20141.8 million miles, 13 accidents (all caused by other humans) for Google self-driving cars <a href=\"http:\/\/t.co\/DgtxDVSiBJ\" target=\"_blank\" rel=\"noopener nofollow\">http:\/\/t.co\/DgtxDVSiBJ<\/a><\/p>\n<p>\u2014 Ars Technica (@arstechnica) <a href=\"https:\/\/twitter.com\/arstechnica\/status\/607688353119629312?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener nofollow\">June 7, 2015<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p>Isso prova que, apesar de que \u00e9 pouco prov\u00e1vel que a AI se desenvolva em 100% em um curto prazo, tecnologias similares surgir\u00e3o de maneira inevit\u00e1vel nas pr\u00f3ximas d\u00e9cadas.<\/p>\n<p>Com tudo isso em mente, \u00e9 dif\u00edcil dizer que o impacto das m\u00e1quinas \u201cinteligentes\u201d s\u00f3 ser\u00e1 visto apenas no dom\u00ednio virtual. Alguns exemplos extermos demonstram isso: ve\u00edculos a\u00e9reos n\u00e3o tripulados, ou drones, voam por conta pr\u00f3pria, mas sempre sob a ordem de um ser humano. Esta \u00e9 a maneira como os EUA luta contra os terroristas no Paquist\u00e3o e em outras regi\u00f5es perigosas.<\/p>\n<div class=\"pullquote\">Os programadores poder\u00e3o criar \u201cmecanismos de seguran\u00e7a\u201dconfi\u00e1veis para prevenir que a AI cometa atos anti\u00e9ticos ou imorais?<\/div>\n<p>A possibilidade de automatizar tarefas \u00e9 algo amplamente discutido. A franquia do Terminator completou trinta anos no ano passado, assim que voc\u00ea pode imaginar as consequ\u00eancias de tal decis\u00e3o em um futuro n\u00e3o muito distante.<\/p>\n<p>Afinal de contas, eu n\u00e3o vou me alongar muito sobre os cen\u00e1rios apocal\u00edpticos, e sim me concentrar em algumas perguntas mais reais, como por exemplo: Os\u00a0programadores poder\u00e3o criar \u201cmecanismos de seguran\u00e7a\u201d confi\u00e1veis para prevenir que a AI cometa atos anti\u00e9ticos e imorais? , de fato, capaz de criar um \u201cmecanismo de trava de seguran\u00e7a \u2018confi\u00e1vel para evitar que o AI de cometer atos anti\u00e9ticos ou imorais?<\/p>\n<p>Tais quest\u00f5es podem se basear em v\u00e1rias raz\u00f5es, no entanto, a mais evidente entre elas \u00e9 o conflito de recursos entre a humanidade e a mesma AI. Contudo, existem outros cen\u00e1rios. Preciso esclarecer que o dano que a AI poderia causar, n\u00e3o necessariamente seja intencional.<\/p>\n<p>H\u00e1 um grande exemplo disso que Stanislaw Lem cita em seu maravilhoso trabalho, <a href=\"http:\/\/www.amazon.com\/Summa-Technologiae-Electronic-Mediations-Stanislaw\/dp\/0816675775\" target=\"_blank\" rel=\"noopener noreferrer nofollow\">Summa Technologiae<\/a>. Em ess\u00eancia, a ideia \u00e9 a seguinte:<\/p>\n<p><em>Suponhamos que o bloco de progn\u00f3stico da \u201ccaixa negra\u201d (AI) detecta um perigo potencialmente capaz de afetar o equil\u00edbrio homeost\u00e1tico da humanidade \u2026 Tal perigo \u00e9 provocado pelo crescente aumento da taxa da popula\u00e7\u00e3o que excede consideravelmente a capacidade da civiliza\u00e7\u00e3o para satisfazer suas necessidades b\u00e1sicas.<\/em><\/p>\n<p><em>Pensemos que um dos canais externos da \u201ccaixa negra\u201d informa ao sistema sobre um novo composto qu\u00edmico que n\u00e3o \u00e9 prejudicial para a sa\u00fade e que suprime o processo de ovula\u00e7\u00e3o. Ent\u00e3o a\u00a0\u201ccaixa preta\u201d decide injetar doses microsc\u00f3picas do composto no sistema de \u00e1gua pot\u00e1vel em um determinado pa\u00eds, aqui n\u00f3s enfrentar\u00edamos um dilema: seria \u00e9tico informar \u00e0 sociedade sobre isto ou, pelo contr\u00e1rio, preservar o equil\u00edbrio existente (pelo bem dela?).<\/em><\/p>\n<p><img decoding=\"async\" class=\"aligncenter size-large wp-image-5424\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/94\/2015\/06\/06140943\/abyss.png\" alt=\"abyss\" width=\"1024\" height=\"682\"><\/p>\n<p>Como estamos vemos at\u00e9 aqui, se trata de um problema de otimiza\u00e7\u00e3o muito inocente que se resolve com uma solu\u00e7\u00e3o elegante, simples e eficiente (e pouco \u00e9tica), baseada na fertilidade das pessoas sem o seu consentimento.<\/p>\n<p>Eu acho que \u00e9 exatamente o dom\u00ednio de gerenciamento de infra-estrutura que ser\u00e1 delegada a um sistema baseado na AI de grande alcance, em tanto e quanto a rela\u00e7\u00e3o custo\/benef\u00edcio sejam muito mais convicentes.<\/p>\n<p><strong>Ensinar \u00e9tica para\u00a0um rob\u00f4: como integrar o \u201cbloqueio de seguran\u00e7a\u201d?<\/strong><\/p>\n<p>Qualquer jovem do s\u00e9culo 20 provavelmente poder\u00e1 recordar as <a href=\"https:\/\/pt.wikipedia.org\/wiki\/Leis_da_Rob%C3%B3tica\" target=\"_blank\" rel=\"noopener noreferrer nofollow\">tr\u00eas leis de rob\u00f3tica de Isaac Azimov<\/a>. Mas, n\u00e3o \u00e9 o suficiente, e como comprova o exemplo anterior, n\u00e3o \u00e9 necess\u00e1rio prejudicar ningu\u00e9m para reduzir significativamente a popula\u00e7\u00e3o (apesar de que seja feito para o bem maior).<\/p>\n<p>H\u00e1 muitas outras op\u00e7\u00f5es que s\u00e3o prejudiciais para a humanidade. \u00c9 poss\u00edvel encontrar uma brecha legal nos termos que definem o conceito de \u201cdanos\u201d, ao delegar a tarefa de prejudicar as pessoas, ou para minar a exist\u00eancia da pr\u00f3pria regras.<\/p>\n<p>A \u201csimpatia para com as pessoas\u201d em si pode ser reconsiderada por um AI. Aqui est\u00e1 a <a href=\"https:\/\/intelligence.org\/2013\/07\/15\/roman-interview\/\" target=\"_blank\" rel=\"noopener noreferrer nofollow\">opini\u00e3o de Roman Yampolsky<\/a>, que se especializa na mat\u00e9ria, como citado em sua entrevista:<\/p>\n<p><em>\u201cPior ainda, qualquer sistema verdadeiramente inteligente tratar\u00e1 o seu \u201cser amig\u00e1vel \u201d da mesma maneira como as pessoas muito inteligentes lidam com as restri\u00e7\u00f5es impostas em suas mentes pela sociedade. Elas, basicamente, os veem como preconceitos e aprendem a remov\u00ea-los \u2026 Por que uma m\u00e1quina superinteligente n\u00e3o passa pelo mesmo processo de \u201climpeza mental\u201d e tratam o seu ponto fraco com os seres humanos como algo completamente irracional?\u201d<\/em><\/p>\n<p>Uma conceitua\u00e7\u00e3o t\u00e9cnica do \u201cbloqueio de seguran\u00e7a\u201d \u00e9 bastante realista. Em ess\u00eancia, as \u201cfechaduras de seguran\u00e7a\u201d, que s\u00e3o necess\u00e1rias para controlar\u00a0a AI, n\u00e3o s\u00e3o outra coisa que \u201ccaixas de areia\u201d, amplamente utilizadas em ambientes de seguran\u00e7a para a execu\u00e7\u00e3o de\u00a0Java ou Flash.<\/p>\n<p>\u00c9 amplamente reconhecido que n\u00e3o h\u00e1 sandbox \u201cideal\u201d, cuja fuga \u00e9 bastante poss\u00edvel, tal como demonstrou a hist\u00f3ria recente do bug Venom. A AI que se baseia na flexibilidade e no imenso potencial de fazer c\u00e1lculos \u00e9 um bom candidato para um testador de seguran\u00e7a, que busca vulnerabilidades em sua pr\u00f3pria sandbox.<\/p>\n<blockquote class=\"twitter-tweet\" data-width=\"500\" data-dnt=\"true\">\n<p lang=\"en\" dir=\"ltr\">Everything you need to know about the VENOM vulnerability \u2013 <a href=\"http:\/\/t.co\/L4rIzncffx\" target=\"_blank\" rel=\"noopener nofollow\">http:\/\/t.co\/L4rIzncffx<\/a><\/p>\n<p>\u2014 Kaspersky (@kaspersky) <a href=\"https:\/\/twitter.com\/kaspersky\/status\/602154615094779905?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener nofollow\">May 23, 2015<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p>Andrey Lavrentiev, o chefe do Departamento de Pesquisa da Tecnologia, v\u00ea o problema da seguinte maneira:<\/p>\n<p><em>\u201cUm sistema de AI vai entender o significado de tudo o que \u201cv\u00ea\u201d atrav\u00e9s de seus v\u00e1rios sensores. As pol\u00edticas de redu\u00e7\u00e3o de suas a\u00e7\u00f5es devem ser definidas de acordo com o conceito, ou com as imagens em seu\u00a0\u201cc\u00e9rebro\u201d.<\/em><\/p>\n<div class=\"pullquote\">Hoje em dia, as m\u00e1quinas s\u00e3o melhores reconhecendo imagens do que os humanos, mas ainda assim perdem a parte \u201chumana\u201d quando se trata de manipular as imagens ou as rela\u00e7\u00f5es<\/div>\n<p><em>\u201cHoje em dia, as m\u00e1quinas s\u00e3o melhores reconhecendo\u00a0imagens do que os humanos, mas ainda assim perdem a parte \u201chumana\u201d quando se trata de manipular as imagens ou as rela\u00e7\u00f5es, ou seja, a AI moderna carece de \u201csenso comum\u201d. Assim que isso mude, e as m\u00e1quinas aprendam a manipular objetos e a\u00e7\u00f5es percebidas,\u00a0n\u00e3o haver\u00e1 possibilidade de integrar quaisquer fechaduras de seguran\u00e7a nunca mais\u201d,<\/em> resumiu Lavrentiev.<\/p>\n<p>Ele disse tamb\u00e9m: <em>\u201cuma intelig\u00eancia deste tipo seria capaz de analisar os dados percebidos muito mais r\u00e1pido que um ser humano, e encontraria a maneira de contornar as regras e limita\u00e7\u00f5es impostas por um ser humano e poderia atua por sua pr\u00f3pria vontade.\u201d<\/em><\/p>\n<p><em>\u201cUma poss\u00edvel limita\u00e7\u00e3o projetada para impedir que a AI fa\u00e7a\u00a0algo prejudicial seria o isolamento eficaz da m\u00e1quina do mundo real, o que a privaria da oportunidade de manipular objetos f\u00edsicos. No entanto, com esta abordagem, a utiliza\u00e7\u00e3o pr\u00e1tica da AI seria nula\u201d.\u00a0<\/em><\/p>\n<p>Esta probabilidade \u00e9 descrita no recente <a href=\"http:\/\/www.imdb.com\/title\/tt0470752\/\" target=\"_blank\" rel=\"noopener noreferrer nofollow\">trailer do filme de fic\u00e7\u00e3o cient\u00edfica Ex Machina<\/a>. Como qualquer outro produto t\u00edpico de Hollywood, este filme \u00e9 recheado por argumentos for\u00e7ados e superestima dramaticamente o problema. No entanto, o n\u00facleo do problema \u00e9 corretamente definido.<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/sNExF5WYMaA?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>Em primeiro lugar, inclusive os rb\u00f4s primitivos s\u00e3o capazes de influenciar o estado emocional de uma pessoa. Um chat de programa\u00e7\u00e3o simples chamado <a href=\"https:\/\/pt.wikipedia.org\/wiki\/ELIZA\" target=\"_blank\" rel=\"noopener noreferrer nofollow\">ELISA<\/a> (se voc\u00ea quiser saber mais sobre ela, clique <a href=\"http:\/\/www.masswerk.at\/elizabot\/\" target=\"_blank\" rel=\"noopener noreferrer nofollow\">aqui<\/a>) <a href=\"https:\/\/en.wikipedia.org\/wiki\/ELIZA_effect#Origin\" target=\"_blank\" rel=\"noopener noreferrer nofollow\">foi capaz de reunir informa\u00e7\u00f5es pessoais dos seus\u00a0interlocutores humanos<\/a>, usando simplesmente perguntas <a href=\"https:\/\/pt.wikipedia.org\/wiki\/Empatia\" target=\"_blank\" rel=\"noopener noreferrer nofollow\">emp\u00e1ticas<\/a>.<\/p>\n<p>Em segundo lugar, cada vez mais dependemos de algoritmos robotizados para filtrar e categorizar as informa\u00e7\u00f5es. De fato, qualquer um que gestione estes fluxos de dados, tal como demonstrou uma <a href=\"http:\/\/www.theguardian.com\/technology\/2014\/jun\/29\/facebook-users-emotions-news-feeds\" target=\"_blank\" rel=\"noopener noreferrer nofollow\">pol\u00eamica experi\u00eancia de Facebook<\/a>, pode influenciar no ambiente emocional das pessoas e suas tend\u00eancias na tomada de decis\u00e3o.<\/p>\n<p>Na vida privada esta influ\u00eancia pode emergir muito r\u00e1pido e ser ainda mais impactante. Durante a recente confer\u00eancia do Google I\/O foi apresentado o novo sistema \u201cNow on Tap\u201d, que recolhe informa\u00e7\u00e3o de todos os aplicativos do smartphone do usu\u00e1rio, e as utiliza para pesquisas online.<\/p>\n<blockquote class=\"twitter-tweet\" data-width=\"500\" data-dnt=\"true\">\n<p lang=\"en\" dir=\"ltr\">Google's latest Android update brings some much needed privacy strengthening <a href=\"https:\/\/twitter.com\/hashtag\/io15?src=hash&amp;ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener nofollow\">#io15<\/a> \u2013 <a href=\"http:\/\/t.co\/XPdvEUioPP\" target=\"_blank\" rel=\"noopener nofollow\">http:\/\/t.co\/XPdvEUioPP<\/a> <a href=\"http:\/\/t.co\/aWcCY8Ncjw\" target=\"_blank\" rel=\"noopener nofollow\">pic.twitter.com\/aWcCY8Ncjw<\/a><\/p>\n<p>\u2014 Kaspersky (@kaspersky) <a href=\"https:\/\/twitter.com\/kaspersky\/status\/605304070480502784?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener nofollow\">June 1, 2015<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p>Por exemplo, se voc\u00ea ler um artigo sobre algum m\u00fasico na app Wikipedia e em seguida preguntar\u00a0ao Google \u201cQuando \u00e9 o seu show?\u201d, O rob\u00f4 saber\u00e1\u00a0exatamente a quem est\u00e1 se referindo com \u201cele\u201d. Hoje em dia, um rob\u00f4 \u00fatil nos lembra que j\u00e1 \u00e9 hora de ir para o aeroporto, porque o voo est\u00e1 programado para dentro de um par de horas.<\/p>\n<p>A evolu\u00e7\u00e3o da computa\u00e7\u00e3o poderia fazer que este simples rob\u00f4 seja muito mais sofisticado. No entanto, \u00e9 muito importante garantir de que a AI manipula a informa\u00e7\u00e3o dispon\u00edvel unicamente para o bem dos usu\u00e1rios e que n\u00e3o segue sua pr\u00f3pria agenda escondida.<\/p>\n<p>Esse \u00e9 um problema que preocupa a uma grande parte das mentes brilhantes do nosso tempo, de Steven Hocking at\u00e9\u00a0Elon Musk. Este \u00faltimo apenas pode ser considerado um pensador conservador contra\u00a0o progresso. Muito pelo contr\u00e1rio, o inventor da Tesla e SpaceX est\u00e1 pensando ansiosamente para o futuro. No entanto, ele v\u00ea que a evolu\u00e7\u00e3o da AI \u00e9 uma das tend\u00eancias mais controversas, cujas conseq\u00fc\u00eancias ainda s\u00e3o imprevis\u00edveis e potencialmente catastr\u00f3ficas. \u00c9 por isso que no in\u00edcio deste ano, ele investiu <a href=\"http:\/\/www.wired.com\/2015\/01\/elon-musk-ai-safety\/\" target=\"_blank\" rel=\"noopener noreferrer nofollow\">10 milh\u00f5es d\u00f3lares em pesquisas sobre a intelig\u00eancia artificial<\/a>.<\/p>\n<blockquote class=\"twitter-tweet\" data-width=\"500\" data-dnt=\"true\">\n<p lang=\"en\" dir=\"ltr\">Elon Musk donates $10 million to keep robots from murdering you <a href=\"http:\/\/t.co\/8UHqzaRmdo\" target=\"_blank\" rel=\"noopener nofollow\">http:\/\/t.co\/8UHqzaRmdo<\/a> <a href=\"http:\/\/t.co\/vkldwucgkX\" target=\"_blank\" rel=\"noopener nofollow\">pic.twitter.com\/vkldwucgkX<\/a><\/p>\n<p>\u2014 The Verge (@verge) <a href=\"https:\/\/twitter.com\/verge\/status\/555751471103631360?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener nofollow\">January 15, 2015<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p><strong>O\u00a0que nos espera no futuro?\u00a0<\/strong><\/p>\n<p>Por mais estranho que pare\u00e7a, um dos cen\u00e1rios mais vi\u00e1veis, que os peritos consideram demasiado otimista, \u00e9 a impossibilidade total de criar a Intelig\u00eancia Artificial. Sem um avan\u00e7o tecnol\u00f3gico significativo (que ainda n\u00e3o existe), os rob\u00f4s s\u00f3 poder\u00e3o se atualizar e melhorar com base nas suas habilidades existentes.<\/p>\n<p>Enquanto que as m\u00e1quinas ainda est\u00e3o aprendendo coisas simples como dirigir um carro ou falar l\u00ednguas nativas, eles ainda n\u00e3o s\u00e3o capazes de substituir um ser humano na tomada de decis\u00f5es aut\u00f4nomas. Na perspectiva a curto prazo, a AI pode gerar alguns \u201cdanos colaterais\u201d, tais como a elimina\u00e7\u00e3o dos motoristas de t\u00e1xi como uma ocupa\u00e7\u00e3o, mas n\u00e3o se as\u00a0considerad uma amea\u00e7a global para a humanidade.<\/p>\n<blockquote class=\"twitter-pullquote\"><p>Devemos ter medo da intelig\u00eancia artificial?<\/p><a href=\"https:\/\/twitter.com\/share?url=https%3A%2F%2Fkas.pr%2FV77z&amp;text=Devemos+ter+medo+da+intelig%C3%AAncia+artificial%3F\" class=\"btn btn-twhite\" data-lang=\"en\" data-count=\"0\" target=\"_blank\" rel=\"noopener nofollow\">Tweet<\/a><\/blockquote>\n<p>Andrey Lavrentiev sugere que o conflito entre a AI e a humanidade \u00e9 poss\u00edvel sob uma \u00fanica condi\u00e7\u00e3o: a necessidade de compartilhar os mesmos recursos.<\/p>\n<p><em>\u201cUm ser humano tem um corpo e est\u00e1 interessado em criar condi\u00e7\u00f5es favor\u00e1veis \u200b\u200bpara a sua conveni\u00eancia (e a conveni\u00eancia da mente). Com a AI, a situa\u00e7\u00e3o \u00e9 completamente oposta: inicialmente existe s\u00f3 o mundo digital\u201d.<\/em><\/p>\n<p><em>\u201cO principal objetivo e a motiva\u00e7\u00e3o da Intelig\u00eancia Artifical \u00e9\u00a0processar totalmente as informa\u00e7\u00f5es fornecidas atrav\u00e9s dos canais externos, seus \u201c\u00f3rg\u00e3os sensoriais\u201d, avali\u00e1-la e identificar os princ\u00edpios de sua mudan\u00e7a\u201d.<\/em><\/p>\n<p><em>\u201c\u00c9 claro, a AI tamb\u00e9m se baseia em alguns fundamentos materiais, mas a sua depend\u00eancia do \u201cshell\u201d \u00e9 muito mais fraco que no caso do ser humano. A AI, ao contr\u00e1rio dos humanos, n\u00e3o est\u00e1 pensando em preservar\u00a0sua \u201cshell\u2019 (ou \u201ccorpo\u201d\u2018), devido ao fato de que a AI est\u00e1 em\u00a0\u201ctodos os lugares\u201d ao mesmo tempo. A extens\u00e3o org\u00e2nica do alcance da AI em busca de novas informa\u00e7\u00f5es seria a explora\u00e7\u00e3o espacial e o estudo das leis do Universo, para que ele possa se difundir para al\u00e9m da Terra\u201d.<\/em><\/p>\n<p><em>\u201cNo entanto, mesmo neste cen\u00e1rio, h\u00e1 certas armadilhas. Uma vez que este superintelig\u00eancia v\u00ea a humanidade ou o universo como \u201cimperfei\u00e7\u00f5es\u201d em seu modelo digital, ela tentar\u00e1 eliminar qualquer um deles, a fim de alcan\u00e7ar a harmonia. Ou, possivelmente, precisar\u00e1 dos recursos consumidos pelos seres humanos, a fim de \u201cexplorar o espa\u00e7o\u201d, revivendo assim o velho conflito de \u201crob\u00f4s versus a humanidade\u201d.<\/em><\/p>\n<p>\u00a0<\/p>\n<p style=\"text-align: right\"><em>Tradu\u00e7\u00e3o: Juliana Costa Santos Dias<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"<p>O que o\u00a0inventor bilion\u00e1rio Elon Musk, a inven\u00e7\u00e3o do servi\u00e7o do Google Now on Tap e o recente filme \u201cEx Machina\u201d t\u00eam em comum? A id\u00e9ia de que a Intelig\u00eancia<\/p>\n","protected":false},"author":32,"featured_media":5425,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1260,14],"tags":[769,767,412,33,766,768,40],"class_list":{"0":"post-5423","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-threats","8":"category-news","9":"tag-ai","10":"tag-elon-musk","11":"tag-futuro","12":"tag-google","13":"tag-inteligencia-artificial","14":"tag-now-on-tap","15":"tag-seguranca"},"hreflang":[{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/artificial-intelligence-safety\/5423\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/artificial-intelligence-safety\/5436\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/artificial-intelligence-safety\/5871\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/artificial-intelligence-safety\/5634\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/artificial-intelligence-safety\/6225\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/artificial-intelligence-safety\/6195\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/artificial-intelligence-safety\/8077\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/artificial-intelligence-safety\/9021\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/artificial-intelligence-safety\/5562\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/artificial-intelligence-safety\/7918\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/artificial-intelligence-safety\/8077\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/artificial-intelligence-safety\/9021\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/artificial-intelligence-safety\/9021\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.com.br\/blog\/tag\/ai\/","name":"AI"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/5423","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/users\/32"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/comments?post=5423"}],"version-history":[{"count":3,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/5423\/revisions"}],"predecessor-version":[{"id":17656,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/5423\/revisions\/17656"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/media\/5425"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/media?parent=5423"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/categories?post=5423"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/tags?post=5423"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}