{"id":17546,"date":"2021-05-26T20:13:46","date_gmt":"2021-05-26T23:13:46","guid":{"rendered":"https:\/\/www.kaspersky.com.br\/blog\/?p=17546"},"modified":"2021-05-26T20:17:31","modified_gmt":"2021-05-26T23:17:31","slug":"rsa2021-tesla-mobileye-perception-gap","status":"publish","type":"post","link":"https:\/\/www.kaspersky.com.br\/blog\/rsa2021-tesla-mobileye-perception-gap\/17546\/","title":{"rendered":"Pilotos autom\u00e1ticos da Tesla e da Mobileye enganados por &#8220;fantasmas&#8221;"},"content":{"rendered":"<p>\u00c9 um roteiro batido de enredo de filmes: o personagem principal pensando que viu algu\u00e9m na estrada, ent\u00e3o desviam e terminam em uma vala. Agora imagine que \u00e9 real \u2013 mais ou menos \u2013 e em vez de um truque da luz ou da mente, essa imagem vem de um cibercriminoso projetando, por uma fra\u00e7\u00e3o de segundo, algo para o qual o piloto autom\u00e1tico do carro est\u00e1 programado para responder. Pesquisadores da Georgia Tech e da Ben-Gurion University of the Negev <a href=\"https:\/\/www.rsaconference.com\/usa\/agenda\/session\/securing-tesla-and-mobileye-from-splitsecond-phantom-attacks\" target=\"_blank\" rel=\"noopener nofollow\">demonstraram<\/a> esse tipo de amea\u00e7a de \u201cataque fantasma\u201d na RSA Conference 2021.<\/p>\n<p>A ideia de mostrar imagens perigosas para sistemas de IA n\u00e3o \u00e9 nova. As t\u00e9cnicas geralmente envolvem o uso de imagens modificadas para for\u00e7ar a IA a tirar uma conclus\u00e3o inesperada. Todos os algoritmos de aprendizado de m\u00e1quina t\u00eam esse calcanhar de Aquiles; saber quais atributos s\u00e3o fundamentais para o reconhecimento de imagens \u2013 ou seja, conhecer um pouco sobre o algoritmo \u2013 permite modificar as imagens de forma a dificultar a tomada de decis\u00e3o da m\u00e1quina ou mesmo for\u00e7\u00e1-la a cometer um erro.<\/p>\n<p>A novidade da abordagem demonstrada na RSA Conference 2021 \u00e9 que o piloto autom\u00e1tico mostrou imagens n\u00e3o modificadas \u2013 um invasor n\u00e3o precisa saber como o algoritmo funciona ou quais atributos ele usa. As imagens foram projetadas brevemente na estrada e em objetos estacion\u00e1rios pr\u00f3ximos, com as seguintes consequ\u00eancias:<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/1cSw4fXYqWI?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>Em uma varia\u00e7\u00e3o do tema, as imagens apareceram por uma fra\u00e7\u00e3o de segundo em um comercial em uma placa \u00e0 beira da estrada, com basicamente o mesmo resultado:<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/-E0t_s6bT_4?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>Assim, conclu\u00edram os autores do estudo, os cibercriminosos podem causar estragos a uma dist\u00e2ncia segura, sem perigo de deixar provas na cena do crime. Tudo o que eles precisam saber \u00e9 quanto tempo eles t\u00eam para projetar a imagem para enganar a IA (carros aut\u00f4nomos t\u00eam um limite de gatilho para reduzir a probabilidade de produzir falsos positivos a partir de, por exemplo, sujeira ou detritos na lente da c\u00e2mera ou lidar) .<\/p>\n<p>Agora, a dist\u00e2ncia de frenagem de um carro \u00e9 medida em dezenas de metros, ent\u00e3o adicionar alguns metros para permitir uma melhor avalia\u00e7\u00e3o da situa\u00e7\u00e3o n\u00e3o era um grande problema para os desenvolvedores de IA.<\/p>\n<div id=\"attachment_17548\" style=\"width: 1810px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-17548\" class=\"wp-image-17548 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/94\/2021\/05\/26200943\/rsa2021-tesla-mobileye-perception-gap-chart.png\" alt=\"Tempo de rea\u00e7\u00e3o dos sistemas de reconhecimento Tesla e Mobileye a uma imagem fantasma\" width=\"1800\" height=\"1400\"><p id=\"caption-attachment-17548\" class=\"wp-caption-text\">Tempo de rea\u00e7\u00e3o dos sistemas de reconhecimento Tesla e Mobileye a uma imagem fantasma<\/p><\/div>\n<p>\u00a0<\/p>\n<p>No entanto, o n\u00famero de alguns metros aplica-se ao sistema de vis\u00e3o artificial Mobileye e a uma velocidade de 60 km\/h. Nesse caso, o tempo de resposta \u00e9 de cerca de 125 milissegundos. O limite de resposta do piloto autom\u00e1tico de Tesla, conforme determinado experimentalmente pelos pesquisadores, \u00e9 quase tr\u00eas vezes mais longo, 400 milissegundos. Na mesma velocidade, isso adicionaria quase 7 metros. De qualquer forma, ainda \u00e9 uma fra\u00e7\u00e3o de segundo. Consequentemente, os pesquisadores acreditam que tal ataque pode vir do nada \u2013 antes que voc\u00ea perceba, voc\u00ea est\u00e1 em uma vala e o drone de proje\u00e7\u00e3o de imagem se foi.<\/p>\n<p>Uma peculiaridade do sistema inspira esperan\u00e7a de que os pilotos autom\u00e1ticos consigam repelir esse tipo de ataque: as imagens projetadas em superf\u00edcies inadequadas para a exibi\u00e7\u00e3o de fotos s\u00e3o muito diferentes da realidade. Distor\u00e7\u00e3o de perspectiva, bordas irregulares, cores n\u00e3o naturais, contraste extremo e outras estranhezas tornam as imagens fantasmas muito f\u00e1ceis para o olho humano distinguir de objetos reais.<\/p>\n<p>Como tal, a vulnerabilidade do piloto autom\u00e1tico a ataques fantasmas \u00e9 uma consequ\u00eancia da lacuna de percep\u00e7\u00e3o entre a IA e o c\u00e9rebro humano. Para superar a lacuna, os autores do estudo prop\u00f5em sistemas de piloto autom\u00e1tico de autom\u00f3veis com verifica\u00e7\u00f5es adicionais de consist\u00eancia em recursos como perspectiva, suavidade das bordas, cor, contraste e brilho, garantindo resultados consistentes antes de tomar qualquer decis\u00e3o. Como um j\u00fari humano, as redes neurais deliberar\u00e3o sobre os par\u00e2metros que ajudam a distinguir os sinais reais de c\u00e2meras ou sinais fracos de um fantasma fugaz.<\/p>\n<p>Isso, \u00e9 claro, aumentaria a carga computacional dos sistemas e efetivamente levaria \u00e0 opera\u00e7\u00e3o paralela de v\u00e1rias redes neurais ao mesmo tempo, todas necessariamente treinadas (um processo longo e que consome muita energia). E os carros, que j\u00e1 s\u00e3o pequenos aglomerados de computadores sobre rodas, ter\u00e3o de se transformar em pequenos aglomerados de supercomputadores sobre rodas.<\/p>\n<p>\u00c0 medida que os aceleradores de IA s\u00e3o desenvolvidos e melhorados, os carros podem ser capazes de carregar v\u00e1rias redes neurais, trabalhando em paralelo e n\u00e3o drenando energia a bordo. Mas isso \u00e9 hist\u00f3ria para outro dia.<\/p>\n<input type=\"hidden\" class=\"category_for_banner\" value=\"kesb-trial\">\n","protected":false},"excerpt":{"rendered":"<p>Pesquisadores da RSA Conference 2021 demonstraram como os pilotos autom\u00e1ticos da Tesla e da Mobileye podem ser enganados por imagens &#8220;fantasmas&#8221;.<\/p>\n","protected":false},"author":2454,"featured_media":17547,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1119,1655,1029],"tags":[1185,1035,1342,766,2728,1888,1889,77,2729],"class_list":{"0":"post-17546","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-business","8":"category-enterprise","9":"category-technology","10":"tag-business","11":"tag-carros-autonomos","12":"tag-ia","13":"tag-inteligencia-artificial","14":"tag-rsa-2021","15":"tag-rsa-conference","16":"tag-rsac","17":"tag-tecnologia","18":"tag-tesla"},"hreflang":[{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/rsa2021-tesla-mobileye-perception-gap\/17546\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/rsa2021-tesla-mobileye-perception-gap\/22909\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/18394\/"},{"hreflang":"ar","url":"https:\/\/me.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/9143\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/24828\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/rsa2021-tesla-mobileye-perception-gap\/22821\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/22002\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/rsa2021-tesla-mobileye-perception-gap\/25378\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/rsa2021-tesla-mobileye-perception-gap\/24764\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/rsa2021-tesla-mobileye-perception-gap\/30814\/"},{"hreflang":"tr","url":"https:\/\/www.kaspersky.com.tr\/blog\/rsa2021-tesla-mobileye-perception-gap\/9684\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/40064\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/rsa2021-tesla-mobileye-perception-gap\/17008\/"},{"hreflang":"pl","url":"https:\/\/plblog.kaspersky.com\/rsa2021-tesla-mobileye-perception-gap\/14879\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/rsa2021-tesla-mobileye-perception-gap\/26837\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/rsa2021-tesla-mobileye-perception-gap\/30846\/"},{"hreflang":"nl","url":"https:\/\/www.kaspersky.nl\/blog\/rsa2021-tesla-mobileye-perception-gap\/27100\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/rsa2021-tesla-mobileye-perception-gap\/23966\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/rsa2021-tesla-mobileye-perception-gap\/29286\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/rsa2021-tesla-mobileye-perception-gap\/29083\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.com.br\/blog\/tag\/business\/","name":"Business"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/17546","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/users\/2454"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/comments?post=17546"}],"version-history":[{"count":1,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/17546\/revisions"}],"predecessor-version":[{"id":17549,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/17546\/revisions\/17549"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/media\/17547"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/media?parent=17546"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/categories?post=17546"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/tags?post=17546"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}