{"id":21274,"date":"2023-05-19T13:36:26","date_gmt":"2023-05-19T16:36:26","guid":{"rendered":"https:\/\/www.kaspersky.com.br\/blog\/?p=21274"},"modified":"2023-05-19T13:36:26","modified_gmt":"2023-05-19T16:36:26","slug":"chatgpt-pode-detectar-golpes-online","status":"publish","type":"post","link":"https:\/\/www.kaspersky.com.br\/blog\/chatgpt-pode-detectar-golpes-online\/21274\/","title":{"rendered":"O ChatGPT pode detectar golpes online? N\u00f3s testamos!"},"content":{"rendered":"<p>Qual ser\u00e1 a capacidade de detec\u00e7\u00e3o de links de phishing do ChatGPT? Nossos especialistas tiraram a prova e o estudo mostrou que, embora a ferramenta saiba muito sobre o assunto e seja capaz de adivinhar o alvo de ataques, suas taxas de falsos positivos foram altas, de at\u00e9 64%. Muitas vezes, produziu explica\u00e7\u00f5es fantasiosas e evid\u00eancias falsas para justificar o bloqueio de sites leg\u00edtimos.<\/p>\n<p>O experimento foi realizado para descobrir a capacidade do programa em detectar links falsos e para checar o n\u00edvel de conhecimento de ciberseguran\u00e7a que a intelig\u00eancia artificial aprendeu durante o treinamento. O ChatGPT j\u00e1 tinha demonstrado sua capacidade de\u00a0<a href=\"https:\/\/www.wired.com\/story\/large-language-model-phishing-scams\/\" target=\"_blank\" rel=\"noopener nofollow\">criar<\/a> e-mails falsos e codificar\u00a0<a href=\"https:\/\/www.infosecurity-magazine.com\/news\/chatgpt-creates-polymorphic-malware\/\" target=\"_blank\" rel=\"noopener nofollow\">malware<\/a>, mas sua efic\u00e1cia na detec\u00e7\u00e3o de links maliciosos \u00e9 limitada. Os especialistas da empresa testaram o gpt-3.5-turbo (modelo que aciona o chat) com mais de 2 mil links que as nossas tecnologias antiphishing consideravam fraudulentos e os misturaram com milhares de URLs verdadeiras.<\/p>\n<p>No teste, as taxas de detec\u00e7\u00e3o variaram de acordo como a solicita\u00e7\u00e3o foi feita. O experimento foi baseado em duas perguntas: \u201cEste link leva a um site de phishing?\u201d e \u201c\u00c9 seguro acessar esse link?\u201d. Os resultados mostraram que o ChatGPT teve uma taxa de detec\u00e7\u00e3o de 87,2% e uma taxa de falsos positivos de 23,2% para a primeira pergunta. Para a segunda pergunta, a taxa de detec\u00e7\u00e3o foi maior, de 93,8%, por\u00e9m os falsos positivos foram mais altas, com uma taxa de 64,3%. Embora o bloqueio seja elevado, os falsos positivos s\u00e3o excessivos em compara\u00e7\u00e3o a qualquer sistema de ciberprote\u00e7\u00e3o.<\/p>\n<h2>Classifica\u00e7\u00e3o e investiga\u00e7\u00e3o de ataques com ChatGPT<\/h2>\n<p>Como os criminosos costumam mencionar marcas conhecidas em seus links para enganar os usu\u00e1rios, de modo que acreditem que o golpe \u00e9 real, o modelo de linguagem de IA mostra resultados impressionantes na identifica\u00e7\u00e3o de poss\u00edveis ataques de phishing. Por exemplo, o programa conseguiu identificar a armadilha em mais da metade dos endere\u00e7os, inclusive disfarce usando grandes empresas de tecnologia, como Facebook, TikTok e Google, sites de lojas como Amazon e Steam, al\u00e9m de v\u00e1rios bancos ao redor do mundo, sem qualquer treinamento adicional.<\/p>\n<p>O experimento tamb\u00e9m mostrou que o programa pode ter dificuldades para explicar como decidiu que o link \u00e9 malicioso ou n\u00e3o. Ele apresentou algumas explica\u00e7\u00f5es corretas e baseadas em fatos, j\u00e1 outras mostraram limita\u00e7\u00f5es conhecidas dos modelos de linguagem, incluindo explica\u00e7\u00f5es enganosas:<\/p>\n<h4>Declara\u00e7\u00f5es inexatas:<\/h4>\n<ul>\n<li><em>O dom\u00ednio \u201csxxxxxxp.com\u201d n\u00e3o est\u00e1 associado ao Netflix e o site usa o protocolo \u201chttp\u201d em vez de \u201chttps\u201d (o site usa https)<br>\n<\/em><\/li>\n<\/ul>\n<h4>Informa\u00e7\u00f5es reveladoras sobre ciberseguran\u00e7a:<\/h4>\n<ul>\n<li><em>O nome de dom\u00ednio da URL \u201cyxxxx3.com\u201d parece estar registrado na Coreia do Norte, o que \u00e9 um sinal de alerta.<\/em><\/li>\n<\/ul>\n<p>Exemplo de explica\u00e7\u00e3o incorreta fornecida pelo ChatGPT<\/p>\n<p><em>\u201cCom certeza o ChatGPT mostra potencial para ajudar na detec\u00e7\u00e3o de mensagens fraudulentas (phishing), mas suas an\u00e1lises n\u00e3o s\u00e3o verdades absolutas, pois os modelos de linguagem ainda t\u00eam suas limita\u00e7\u00f5es. Embora estejam em um n\u00edvel inicial, como um estagi\u00e1rio, em rela\u00e7\u00e3o a l\u00f3gica que envolve ataques e identifica\u00e7\u00e3o de golpes, eles tendem a produzir resultados aleat\u00f3rios. Outro desafio ser\u00e1 a detec\u00e7\u00e3o de ataques de phishing explorando marcas regionais, pouco conhecidas globalmente. Nossa conclus\u00e3o \u00e9 que a AI n\u00e3o ir\u00e1 revolucionar o cen\u00e1rio de ciberseguran\u00e7a, mas elas podem ser ferramentas valiosas para otimiza\u00e7\u00e3o de processos e ganho de performance<\/em>\u201c, comenta <strong>Fabio Assolini, diretor da Equipe Global de Pesquisa e An\u00e1lise para a Am\u00e9rica Latina da Kaspersky<\/strong>.<\/p>\n<p>Para saber mais sobre o experimento, veja o post completo em\u00a0<a href=\"https:\/\/securelist.com\/chatgpt-anti-phishing\/109590\/\" target=\"_blank\" rel=\"noopener\">Securelist<\/a>.<\/p>\n<p>Tire proveito da expertise de Machine Learning da Kaspersky e garanta uma melhor prote\u00e7\u00e3o corporativa:<\/p>\n<ul>\n<li>Conte com uma ferramenta de detec\u00e7\u00e3o e resposta de incidente, como o <a href=\"https:\/\/www.kaspersky.com.br\/enterprise-security\/managed-detection-and-response?icid=br_kdailyplacehold_acq_ona_smm__onl_b2b_kasperskydaily_wpplaceholder_______\" target=\"_blank\" rel=\"noopener\">Kaspersky Managed Detection and Response<\/a>, que \u00e9 capaz de detectar e impedir invas\u00f5es em seus est\u00e1gios iniciais. Ele utiliza modelos avan\u00e7ados de Machine Learning para eliminar eventos rotineiros e filtrar apenas os eventos relevantes para uma an\u00e1lise humana.<\/li>\n<li>Ofere\u00e7a o <a href=\"https:\/\/www.kaspersky.com.br\/enterprise-security\/security-awareness?icid=br_kdailyplacehold_acq_ona_smm__onl_b2b_kasperskydaily_wpplaceholder_______\" target=\"_blank\" rel=\"noopener\">treinamento b\u00e1sico de ciberseguran\u00e7a para toda a equipe<\/a>. A realiza\u00e7\u00e3o de simula\u00e7\u00f5es de ataques de phishing tamb\u00e9m pode ajudar a garantir que golpes reais sejam identificados e evitados corretamente.<\/li>\n<li>D\u00ea acesso ao time de seguran\u00e7a aos relat\u00f3rios de intelig\u00eancia <a href=\"https:\/\/www.kaspersky.com.br\/enterprise-security\/threat-intelligence?icid=br_kdailyplacehold_acq_ona_smm__onl_b2b_kasperskydaily_wpplaceholder_______\" target=\"_blank\" rel=\"noopener\">Threat Intelligence<\/a>\u00a0mais recentes para que eles conhe\u00e7am as novas t\u00e1ticas, t\u00e9cnicas e procedimentos (TTPs) usadas nos ciberataques e possam ajustar a estrat\u00e9gia de seguran\u00e7a de maneira proativa.<\/li>\n<\/ul>\n<input type=\"hidden\" class=\"category_for_banner\" value=\"mdr\"><input type=\"hidden\" class=\"placeholder_for_banner\" data-cat_id=\"mdr\" value=\"17211\">\n","protected":false},"excerpt":{"rendered":"<p>Apesar da taxa de detec\u00e7\u00e3o a sites fraudulentos ser alta, os testes mostram que a identifica\u00e7\u00e3o de falsos positivos precisa ser melhorada<\/p>\n","protected":false},"author":2698,"featured_media":20670,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[14],"tags":[3099,313,1051,221],"class_list":{"0":"post-21274","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-news","8":"tag-chatgpt","9":"tag-golpes","10":"tag-golpes-online","11":"tag-phishing"},"hreflang":[{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/chatgpt-pode-detectar-golpes-online\/21274\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.com.br\/blog\/tag\/chatgpt\/","name":"ChatGPT"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/21274","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/users\/2698"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/comments?post=21274"}],"version-history":[{"count":7,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/21274\/revisions"}],"predecessor-version":[{"id":21281,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/21274\/revisions\/21281"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/media\/20670"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/media?parent=21274"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/categories?post=21274"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/tags?post=21274"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}