{"id":20669,"date":"2023-02-08T16:41:58","date_gmt":"2023-02-08T19:41:58","guid":{"rendered":"https:\/\/www.kaspersky.com.br\/blog\/?p=20669"},"modified":"2023-02-08T16:41:58","modified_gmt":"2023-02-08T19:41:58","slug":"chatgpt-cybersecurity","status":"publish","type":"post","link":"https:\/\/www.kaspersky.com.br\/blog\/chatgpt-cybersecurity\/20669\/","title":{"rendered":"Como o ChatGPT vai mudar a ciberseguran\u00e7a"},"content":{"rendered":"

Embora as diretrizes do aprendizado de m\u00e1quina tenham sido estabelecidas h\u00e1 meio s\u00e9culo, apenas recentemente amplas aplica\u00e7\u00f5es pr\u00e1ticas foram encontradas. \u00c0 medida que o poder da computa\u00e7\u00e3o cresceu, os computadores aprenderam primeiro a distinguir objetos em imagens e a jogar Go<\/a> melhor que os humanos, depois a fazer desenhos com base em descri\u00e7\u00f5es de texto e a manter uma conversa coerente em chats. Em 2021\u20132022, as descobertas cient\u00edficas dispersaram-se e mais pessoas puderam acess\u00e1-las. Por exemplo, voc\u00ea pode se inscrever no MidJourney<\/a> e, digamos, ilustrar instantaneamente seus pr\u00f3prios livros. E a OpenAI finalmente abriu seu grande modelo de linguagem GPT-3<\/a> (Generative Pretrained Transformer 3) para o p\u00fablico em geral por meio do ChatGPT<\/a>. O bot est\u00e1 dispon\u00edvel em chat.openai.com<\/a>, onde voc\u00ea pode conferir como ele mant\u00e9m uma conversa\u00e7\u00e3o contextual, explica conceitos cient\u00edficos complexos melhor do que muitos professores, traduz artisticamente textos entre idiomas e muito, muito mais.<\/p>\n

Imagem gerada por Midjourney para o pedido \u201cUm gnomo com uma lupa se perde entre os servidores de armazenamento de dados\u201d<\/p><\/div>\n

Se reduzirmos o ChatGPT ao essencial, o modelo de linguagem \u00e9 treinado em um corpus gigantesco de textos online, dos quais ele \u201clembra\u201d quais palavras, frases e par\u00e1grafos s\u00e3o colocados com mais frequ\u00eancia e como eles se inter-relacionam. Auxiliado por v\u00e1rios truques t\u00e9cnicos e rodadas adicionais de treinamento com humanos, o modelo \u00e9 otimizado especificamente para o di\u00e1logo. Como \u201cna internet encontra-se absolutamente tudo\u201d, o modelo \u00e9 naturalmente capaz de suportar um di\u00e1logo sobre praticamente todos os temas: desde a moda e a hist\u00f3ria da arte at\u00e9 \u00e0 programa\u00e7\u00e3o e \u00e0 f\u00edsica qu\u00e2ntica.<\/p>\n

Cientistas, jornalistas e simples entusiastas est\u00e3o encontrando cada vez mais aplica\u00e7\u00f5es para o ChatGPT. O site Awesome ChatGPT prompts<\/a> possui uma lista de prompts (frases para iniciar uma conversa com um bot), que permitem \u201calternar\u201d o ChatGPT para que ele responda no estilo de Gandalf<\/a> ou algum outro personagem liter\u00e1rio, escreva c\u00f3digo Python, gere memorandos e curr\u00edculos, e at\u00e9 imitar um terminal Linux. No entanto, o ChatGPT ainda \u00e9 apenas um modelo de linguagem, ent\u00e3o tudo o que foi dito acima nada mais \u00e9 do que combina\u00e7\u00f5es comuns e coloca\u00e7\u00f5es de palavras \u2013 voc\u00ea n\u00e3o encontrar\u00e1 nenhuma raz\u00e3o ou l\u00f3gica nisso. \u00c0s vezes, o ChatGPT fala besteiras convincentes (como muitos humanos), por exemplo, referindo-se a estudos cient\u00edficos inexistentes. Portanto, sempre trate o conte\u00fado do ChatGPT com o devido cuidado. Dito isso, mesmo em sua forma atual, o bot \u00e9 \u00fatil em muitos processos e setores pr\u00e1ticos. Aqui est\u00e3o alguns exemplos no campo da ciberseguran\u00e7a.<\/p>\n

Cria\u00e7\u00e3o de malware<\/h2>\n

Em f\u00f3runs clandestinos de hackers, cibercriminosos iniciantes relatam como usam o ChatGPT para criar Trojans. O bot \u00e9 capaz de escrever c\u00f3digo, portanto, se voc\u00ea descrever sucintamente a fun\u00e7\u00e3o desejada (\u201csalvar todas as senhas no arquivo X e enviar via HTTP POST para o servidor Y\u201d), poder\u00e1 obter um infostealer<\/a> simples sem ter nenhuma habilidade de programa\u00e7\u00e3o. No entanto, os usu\u00e1rios honestos n\u00e3o t\u00eam nada a temer. Se o c\u00f3digo escrito por bot for realmente usado, as solu\u00e7\u00f5es de seguran\u00e7a ir\u00e3o detect\u00e1-lo e neutraliz\u00e1-lo com a mesma rapidez e efici\u00eancia de todos os malwares anteriores criados por humanos. Al\u00e9m disso, se esse c\u00f3digo n\u00e3o for verificado por um programador experiente, \u00e9 prov\u00e1vel que o malware contenha erros sutis e falhas l\u00f3gicas que o tornar\u00e3o menos eficaz.<\/p>\n

Pelo menos por enquanto, os bots podem apenas competir com programadores de v\u00edrus novatos.<\/p>\n

An\u00e1lise de Malware<\/h2>\n

Quando os analistas da seguran\u00e7a da informa\u00e7\u00e3o estudam novos aplicativos suspeitos, eles fazem engenharia reversa<\/a> o pseudoc\u00f3digo ou c\u00f3digo de m\u00e1quina, tentando descobrir como ele funciona. Embora essa tarefa n\u00e3o possa ser totalmente atribu\u00edda ao ChatGPT, o chatbot j\u00e1 \u00e9 capaz de explicar rapidamente o que um determinado trecho de c\u00f3digo faz. Nosso colega Ivan Kwiatkovski desenvolveu um plugin para IDA Pro<\/a> que faz exatamente isso. O modelo de linguagem que opera internamente n\u00e3o \u00e9 realmente o ChatGPT, mas seu \u201cprimo\u201d, o davinci-003<\/a> \u2013 mas esta \u00e9 uma diferen\u00e7a puramente t\u00e9cnica. \u00c0s vezes, o plug-in n\u00e3o funciona ou gera lixo, mas para os casos em que atribui automaticamente nomes leg\u00edtimos a funcionalidades e identifica algoritmos de criptografia no c\u00f3digo e seus par\u00e2metros, vale a pena t\u00ea-lo em seu arsenal. Ele se destaca em condi\u00e7\u00f5es SOC, \u00e2mbito no qual analistas constantemente sobrecarregados precisam dedicar um m\u00ednimo de tempo a cada incidente, portanto, qualquer ferramenta para acelerar o processo \u00e9 bem-vinda.<\/p>\n

\"Sa\u00edda

Sa\u00edda do plugin<\/p><\/div>\n

Busca de vulnerabilidades<\/h2>\n

Uma varia\u00e7\u00e3o da abordagem acima \u00e9 uma pesquisa automatizada de c\u00f3digo vulner\u00e1vel. O chatbot \u201cl\u00ea\u201d o pseudoc\u00f3digo de um aplicativo n\u00e3o compilado e identifica locais que podem conter vulnerabilidades. Al\u00e9m disso, o bot fornece c\u00f3digo Python projetado para explora\u00e7\u00e3o de vulnerabilidade (PoC, na sigla em ingl\u00eas). Claro, ele pode cometer todos os tipos de erros, tanto na busca por vulnerabilidades quanto na escrita do c\u00f3digo PoC, mas mesmo em sua forma atual, a ferramenta \u00e9 \u00fatil tanto para invasores quanto para defensores.<\/p>\n

Consultoria de seguran\u00e7a<\/h2>\n

Como o ChatGPT sabe sobre os assuntos relacionados \u00e0 ciberseguran\u00e7a online discutidos pelas pessoas, seus conselhos sobre esse t\u00f3pico parecem convincentes. Mas, como acontece com qualquer dica de chatbot, voc\u00ea nunca sabe exatamente sua origem, ent\u00e3o para cada 10 \u00f3timas dicas, uma pode ser p\u00e9ssima. Mesmo assim, as dicas exibidas na imagem abaixo, por exemplo, s\u00e3o todas v\u00e1lidas:<\/p>\n

\"Dicas

Dicas geradas pelo ChatGPT<\/p><\/div>\n

Phishing e BEC<\/h2>\n

Textos convincentes s\u00e3o um ponto forte do GPT-3 e do ChatGPT, ent\u00e3o ataques de spear phishing automatizados usando chatbots provavelmente j\u00e1 est\u00e3o<\/strong> ocorrendo. O principal problema dos e-mails de phishing em massa \u00e9 que eles n\u00e3o parecem corretos, com muito texto gen\u00e9rico que n\u00e3o fala diretamente com o destinat\u00e1rio. Quanto ao spear phishing, quando um cibercriminoso real escreve um e-mail para uma \u00fanica v\u00edtima, tornando o custo e o tempo investido no ataque mais altos; portanto, \u00e9 usado apenas em ataques direcionados. O ChatGPT est\u00e1 definido para alterar drasticamente o equil\u00edbrio de poder, porque permite que os invasores gerem e-mails persuasivos e personalizados em escala industrial. No entanto, para que um e-mail contenha todos os componentes necess\u00e1rios, o chatbot deve receber instru\u00e7\u00f5es muito detalhadas.<\/p>\n

\"Exemplo

Exemplo de um e-mail gerado pelo ChatGPT<\/p><\/div>\n

\u00a0<\/p>\n

Mas os principais ataques de phishing geralmente consistem em uma s\u00e9rie de e-mails, cada um ganhando gradualmente mais confian\u00e7a da v\u00edtima. Portanto, para o segundo, terceiro e en\u00e9simo e-mail, o ChatGPT realmente economizar\u00e1 muito o tempo dos cibercriminosos. Uma vez que o chatbot se lembra do contexto da conversa, os e-mails subsequentes podem ser lindamente elaborados a partir de um prompt muito curto e simples.<\/p>\n

\"E-mail

E-mail gerado para continuidade do ataque.<\/p><\/div>\n

Al\u00e9m disso, a resposta da v\u00edtima pode ser facilmente inserida no modelo, produzindo um acompanhamento convincente em segundos.<\/p>\n

Entre as ferramentas que os invasores podem usar est\u00e1 a correspond\u00eancia estilizada. Dada apenas uma pequena amostra de um estilo particular, o chatbox pode aplic\u00e1-lo facilmente em outras mensagens. Isso torna poss\u00edvel criar e-mails falsos convincentes aparentemente de um funcion\u00e1rio para outro.<\/p>\n

Infelizmente, isso significa que o n\u00famero de ataques de phishing bem-sucedidos s\u00f3 aumentar\u00e1. E o chatbot ser\u00e1 igualmente convincente em e-mail, redes sociais e aplicativos de mensagens instant\u00e2neas.<\/p>\n

Como contra-atacar? Os especialistas em an\u00e1lise de conte\u00fado est\u00e3o desenvolvendo ativamente ferramentas<\/a> que detectam textos de chatbot. O tempo dir\u00e1 a efic\u00e1cia desses filtros. Mas, por enquanto, podemos apenas recomendar nossas duas dicas padr\u00e3o (vigil\u00e2ncia<\/a> e treinamento de conscientiza\u00e7\u00e3o sobre ciberseguran\u00e7a<\/a>, al\u00e9m de uma nova. Aprenda a identificar textos gerados por bots. As propriedades matem\u00e1ticas n\u00e3o s\u00e3o reconhec\u00edveis a olho nu, mas pequenas peculiaridades estil\u00edsticas e pequenas incongru\u00eancias ainda denunciam os rob\u00f4s. Confira este jogo<\/a> para ver se voc\u00ea consegue identificar a diferen\u00e7a entre texto escrito por humanos e por m\u00e1quina.<\/p>\n\n","protected":false},"excerpt":{"rendered":"

Uma nova gera\u00e7\u00e3o de chatbots cria textos coerentes e relevantes. Isso pode ajudar tanto cibercriminosos quanto ciberdefensores.<\/p>\n","protected":false},"author":2722,"featured_media":20670,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1119,1655,1656,1029],"tags":[769,1382,3099,1342,1097,221,77],"class_list":{"0":"post-20669","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-business","8":"category-enterprise","9":"category-smb","10":"category-technology","11":"tag-ai","12":"tag-aprendizado-de-maquina","13":"tag-chatgpt","14":"tag-ia","15":"tag-machine-learning","16":"tag-phishing","17":"tag-tecnologia"},"hreflang":[{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/chatgpt-cybersecurity\/20669\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/chatgpt-cybersecurity\/25100\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/chatgpt-cybersecurity\/20594\/"},{"hreflang":"ar","url":"https:\/\/me.kaspersky.com\/blog\/chatgpt-cybersecurity\/10445\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/chatgpt-cybersecurity\/27719\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/chatgpt-cybersecurity\/25423\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/chatgpt-cybersecurity\/25817\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/chatgpt-cybersecurity\/28332\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/chatgpt-cybersecurity\/34561\/"},{"hreflang":"tr","url":"https:\/\/www.kaspersky.com.tr\/blog\/chatgpt-cybersecurity\/11309\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/chatgpt-cybersecurity\/46959\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/chatgpt-cybersecurity\/20052\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/chatgpt-cybersecurity\/29691\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/chatgpt-cybersecurity\/33212\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/chatgpt-cybersecurity\/25789\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/chatgpt-cybersecurity\/31463\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/chatgpt-cybersecurity\/31176\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.com.br\/blog\/tag\/aprendizado-de-maquina\/","name":"aprendizado de m\u00e1quina"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/20669","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/users\/2722"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/comments?post=20669"}],"version-history":[{"count":3,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/20669\/revisions"}],"predecessor-version":[{"id":20677,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/20669\/revisions\/20677"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/media\/20670"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/media?parent=20669"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/categories?post=20669"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/tags?post=20669"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}