{"id":20906,"date":"2023-03-13T16:41:54","date_gmt":"2023-03-13T19:41:54","guid":{"rendered":"https:\/\/www.kaspersky.com.br\/blog\/?p=20906"},"modified":"2023-03-13T16:41:54","modified_gmt":"2023-03-13T19:41:54","slug":"chat-gpt-changes-all","status":"publish","type":"post","link":"https:\/\/www.kaspersky.com.br\/blog\/chat-gpt-changes-all\/20906\/","title":{"rendered":"Os nossos novos mestres da IA pedem passagem"},"content":{"rendered":"<p>Al\u00e9m dos v\u00e1rios eventos geopol\u00edticos que definiram 2022, \u00e9 poss\u00edvel dizer que foi o ano da IA, pelo menos no n\u00edvel tecnol\u00f3gico. Eu tamb\u00e9m posso come\u00e7ar confessando: at\u00e9 muito recentemente, sempre que me perguntavam sobre IA em ciberseguran\u00e7a, eu a considerava uma <a href=\"https:\/\/pt.wikipedia.org\/wiki\/Vaporware\" target=\"_blank\" rel=\"noopener nofollow\">vaporware<\/a>. Sempre soube que o aprendizado de m\u00e1quina tinha muitas aplica\u00e7\u00f5es no mundo real; mas para n\u00f3s, no mundo da infosec, a IA s\u00f3 foi usada nos lan\u00e7amentos de produtos mais complicados. Para mim, ser \u201calimentado por IA\u201d era apenas uma maneira elegante de os fornecedores dizerem \u201cn\u00e3o temos base de conhecimento ou telemetria existente, ent\u00e3o criamos algumas heur\u00edsticas\u201d. Continuo convencido de que, em mais de 95% dos casos, os produtos resultantes tamb\u00e9m continham pouca IA realmente aplicada. Mas o fato \u00e9 que, enquanto as equipes de marketing estavam ocupadas colocando adesivos de \u201cIA\u201d em qualquer produto que envolvesse o c\u00e1lculo de <a href=\"https:\/\/pt.wikipedia.org\/wiki\/K-means\" target=\"_blank\" rel=\"noopener nofollow\">k-means<\/a> como parte de sua opera\u00e7\u00e3o, o verdadeiro campo de IA estava em desenvolvimento.<\/p>\n<p>O dia do acerto de contas para mim chegou quando experimentei o <a href=\"https:\/\/labs.openai.com\/\" target=\"_blank\" rel=\"noopener nofollow\">DALL-E 2<\/a> pela primeira vez (e logo depois, o <a href=\"https:\/\/www.midjourney.com\/\" target=\"_blank\" rel=\"noopener nofollow\">Midjourney<\/a>). Ambos os projetos permitem gerar imagens com base em descri\u00e7\u00f5es textuais e j\u00e1 causaram grande turbul\u00eancia no mundo da arte.<\/p>\n<div id=\"attachment_20907\" style=\"width: 1930px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-20907\" class=\"wp-image-20907 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/94\/2023\/03\/13160147\/chat-gpt-changes-all-01.jpg\" width=\"1920\" height=\"1280\"><p id=\"caption-attachment-20907\" class=\"wp-caption-text\">Essa arte foi gerada com o Midjourney usando o prompt \u201cAll hail our new AI overlords\u201d, ou \u201cSauda\u00e7\u00f5es aos nossos novos senhores da IA\u201d, em tradu\u00e7\u00e3o livre do comando.<\/p><\/div>\n<p>Ent\u00e3o, em dezembro do ano passado, o <a href=\"https:\/\/chat.openai.com\/chat\" target=\"_blank\" rel=\"noopener nofollow\">ChatGPT<\/a> conquistou o mundo. Simplificando, trata-se de um chatbot. Presumo que a maioria das pessoas j\u00e1 tenha, a essa altura, experimentado o servi\u00e7o. Mas se ainda n\u00e3o foi o caso, sugiro fortemente que o fa\u00e7a. Nenhuma palavra pode transmitir o quanto ele melhora em rela\u00e7\u00e3o aos projetos anteriores, e ouvir sobre isso n\u00e3o \u00e9 suficiente. Voc\u00ea tem que experimentar para ter uma ideia de tudo o que est\u00e1 por vir\u2026<\/p>\n<div id=\"attachment_20908\" style=\"width: 1634px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-20908\" class=\"wp-image-20908 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/94\/2023\/03\/13160419\/chat-gpt-changes-all-02.png\" alt=\"O ChatGPT fala por si\" width=\"1624\" height=\"702\"><p id=\"caption-attachment-20908\" class=\"wp-caption-text\">O ChatGPT fala por si<\/p><\/div>\n<h2>Modelos de linguagem<\/h2>\n<p>Nas palavras de Arthur C. Clarke, \u201cqualquer tecnologia suficientemente avan\u00e7ada \u00e9 indistingu\u00edvel da magia\u201d. Adoro como a tecnologia \u00e0s vezes pode trazer esse sentimento de admira\u00e7\u00e3o para nossas vidas, mas esse sentimento infelizmente atrapalha quando tentamos pensar sobre as implica\u00e7\u00f5es ou limites de um novo avan\u00e7o. Por esse motivo, acho que primeiro precisamos dedicar algum tempo para entender como essas tecnologias funcionam nos bastidores.<\/p>\n<p>Vamos come\u00e7ar com o ChatGPT. \u00c9 um modelo de linguagem; em outras palavras, \u00e9 uma representa\u00e7\u00e3o da nossa linguagem. Como \u00e9 o caso de muitos grandes projetos de aprendizado de m\u00e1quina, ningu\u00e9m sabe realmente como esse modelo funciona (nem mesmo o OpenAI, seus criadores). Sabemos como o modelo foi criado, mas \u00e9 muito complexo para ser entendido formalmente. O ChatGPT, sendo o maior modelo de linguagem (p\u00fablico?) at\u00e9 hoje, tem mais de 175 bilh\u00f5es de par\u00e2metros. Para entender o que isso significa, imagine uma m\u00e1quina gigante com 175 bilh\u00f5es de bot\u00f5es que voc\u00ea pode ajustar. Toda vez que voc\u00ea envia um texto para o ChatGPT, esse texto \u00e9 convertido em uma configura\u00e7\u00e3o para cada um desses bot\u00f5es. E, finalmente, a m\u00e1quina produz a sa\u00edda (mais texto) com base em sua posi\u00e7\u00e3o. H\u00e1 tamb\u00e9m um elemento de aleatoriedade, para garantir que a mesma pergunta nem sempre leve exatamente \u00e0 mesma resposta (mas isso tamb\u00e9m pode ser ajustado).<\/p>\n<p>Esta \u00e9 a raz\u00e3o pela qual percebemos esses modelos como caixas-pretas: mesmo que voc\u00ea passasse a vida estudando a m\u00e1quina, n\u00e3o est\u00e1 claro se voc\u00ea seria capaz de descobrir o prop\u00f3sito de um \u00fanico bot\u00e3o (muito menos de todos eles). Ainda assim, sabemos o que a m\u00e1quina faz porque conhecemos o processo pelo qual ela foi gerada. O modelo de linguagem \u00e9 um algoritmo que pode processar texto e foi alimentado com muitos conte\u00fados durante sua fase de treinamento: toda a Wikipedia, p\u00e1ginas da web, livros etc. Isso permitiu a cria\u00e7\u00e3o de um modelo estat\u00edstico que conhece a probabilidade de ter uma palavra que segue a outra. Se eu disser \u201crosas s\u00e3o vermelhas, violetas s\u00e3o\u201d, voc\u00ea pode adivinhar com um grau relativamente alto de confian\u00e7a que a pr\u00f3xima palavra ser\u00e1 \u201cazuis\u201d. Em poucas palavras, \u00e9 assim que qualquer modelo de linguagem funciona. Para tal modelo, terminar sua frase n\u00e3o \u00e9 diferente de adivinhar qual sequ\u00eancia de palavras provavelmente seguir\u00e1 sua pergunta com base em tudo o que foi lido antes. No caso do ChatGPT, havia mais uma etapa envolvida \u2013 chamada de ajuste fino supervisionado. Os \u201ctreinadores da IA\u201d humanos tiveram in\u00fameras conversas com o bot e sinalizaram todas as respostas consideradas problem\u00e1ticas (imprecisas, tendenciosas, racistas, etc.) para que n\u00e3o fossem repetidas.<\/p>\n<div id=\"attachment_20909\" style=\"width: 820px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-20909\" class=\"wp-image-20909 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/94\/2023\/03\/13161130\/chat-gpt-changes-all-03.png\" alt=\"Rosas s\u00e3o vermelhas, violetas s\u00e3o... adivinha?NO Caption\" width=\"810\" height=\"332\"><p id=\"caption-attachment-20909\" class=\"wp-caption-text\">Rosas s\u00e3o vermelhas, violetas s\u00e3o\u2026 adivinha? NO Caption<\/p><\/div>\n<p>Se voc\u00ea n\u00e3o consegue entender a IA, compreenda como matem\u00e1tica ou estat\u00edstica: o objetivo desses modelos \u00e9 a previs\u00e3o. Ao usar o ChatGPT, desenvolvemos muito facilmente a sensa\u00e7\u00e3o de que a IA \u201csabe\u201d as coisas, pois \u00e9 capaz de retornar informa\u00e7\u00f5es contextualmente relevantes e espec\u00edficas do dom\u00ednio para consultas que v\u00ea pela primeira vez. Mas ela n\u00e3o entende o que qualquer uma das palavras significa: s\u00f3 \u00e9 capaz de gerar mais texto que \u201cparece\u201d ser uma continua\u00e7\u00e3o natural do que foi dado. Isso explica por que o ChatGPT pode apresentar um argumento filos\u00f3fico complexo, mas muitas vezes trope\u00e7a na aritm\u00e9tica b\u00e1sica: \u00e9 mais dif\u00edcil prever o resultado do c\u00e1lculo do que a pr\u00f3xima palavra em uma frase.<\/p>\n<p>Al\u00e9m disso, n\u00e3o tem mem\u00f3ria: seu treinamento terminou em 2021 e o modelo est\u00e1 congelado. As atualiza\u00e7\u00f5es v\u00eam na forma de novos modelos (por exemplo, na vers\u00e3o GPT-4 prevista para 2024) treinados em novos dados. Na verdade, o ChatGPT nem se lembra das conversas que voc\u00ea est\u00e1 tendo com ele: o hist\u00f3rico recente do bate-papo \u00e9 enviado junto com qualquer novo texto que voc\u00ea digita para que o di\u00e1logo pare\u00e7a mais natural.<\/p>\n<p>Se isso se qualifica como \u201cintelig\u00eancia\u201d (e se isso \u00e9 significativamente diferente da intelig\u00eancia humana) ser\u00e1 o assunto de acalorados debates filos\u00f3ficos nos pr\u00f3ximos anos.<\/p>\n<h2>Modelos de difus\u00e3o<\/h2>\n<p>Ferramentas de gera\u00e7\u00e3o de imagens como Midjourney e DALL-E s\u00e3o baseadas em outra categoria de modelos. Seu procedimento de treinamento, obviamente, se concentra na gera\u00e7\u00e3o de imagens (ou cole\u00e7\u00f5es de pixels) em vez de texto. Na verdade, s\u00e3o necess\u00e1rios dois componentes para gerar uma imagem com base em uma descri\u00e7\u00e3o textual, e o primeiro \u00e9 muito intuitivo. O modelo precisa usar uma maneira de associar palavras a informa\u00e7\u00f5es visuais, por isso \u00e9 alimentado com cole\u00e7\u00f5es de imagens legendadas. Assim como no ChatGPT, acabamos com uma m\u00e1quina gigante e inescrut\u00e1vel que \u00e9 muito boa em combinar imagens com dados textuais. A m\u00e1quina n\u00e3o tem ideia de como \u00e9 o rosto de Brad Pitt, mas se j\u00e1 viu fotos suficientes dele, sabe que todas compartilham propriedades comuns. E se algu\u00e9m enviar uma nova foto de Brad Pitt, o modelo \u00e9 capaz de reconhec\u00ea-lo e dizer \u201csim, \u00e9 ele de novo\u201d.<\/p>\n<p>A segunda parte, que achei mais surpreendente, \u00e9 a possibilidade de real\u00e7ar as imagens. Para isso, utilizamos um \u201cmodelo de difus\u00e3o\u201d, treinado em imagens limpas \u00e0s quais gradualmente se adiciona ru\u00eddo (visual) at\u00e9 se tornarem irreconhec\u00edveis. Isso permite que o modelo aprenda a correspond\u00eancia entre uma imagem borrada e de baixa qualidade e sua contraparte de resolu\u00e7\u00e3o mais alta \u2013 novamente, em n\u00edvel estat\u00edstico \u2013 e recrie uma boa imagem a partir de uma imagem ruidosa. Na verdade, existem <a href=\"https:\/\/www.topazlabs.com\/\" target=\"_blank\" rel=\"noopener nofollow\">produtos<\/a> com intelig\u00eancia artificial dedicados a remover o ru\u00eddo de fotos antigas ou aumentar sua resolu\u00e7\u00e3o.<\/p>\n<div id=\"attachment_20910\" style=\"width: 1166px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-20910\" class=\"wp-image-20910 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/94\/2023\/03\/13163210\/chat-gpt-changes-all-04.png\" alt=\"Um exemplo de imagens de qualidade cada vez mais baixa usadas para treinar modelos de difus\u00e3o com meu fiel avatar.\" width=\"1156\" height=\"200\"><p id=\"caption-attachment-20910\" class=\"wp-caption-text\">Um exemplo de imagens de qualidade cada vez mais baixa usadas para treinar modelos de difus\u00e3o com meu fiel avatar.<\/p><\/div>\n<p>Juntando tudo, somos capazes de sintetizar imagens: partimos de um ru\u00eddo aleat\u00f3rio e o \u201cmelhoramos\u201d gradualmente, garantindo que ele contenha as caracter\u00edsticas que correspondem ao prompt do usu\u00e1rio (uma descri\u00e7\u00e3o muito mais detalhada dos componentes internos do DALL-E pode ser encontrada <a href=\"https:\/\/www.assemblyai.com\/blog\/how-dall-e-2-actually-works\/\" target=\"_blank\" rel=\"noopener nofollow\">aqui<\/a>).<\/p>\n<h2>Os problemas errados<\/h2>\n<p>O surgimento de todas as ferramentas mencionadas neste artigo gerou uma forte rea\u00e7\u00e3o do p\u00fablico, algumas das quais muito negativas. Existem preocupa\u00e7\u00f5es leg\u00edtimas sobre a irrup\u00e7\u00e3o abrupta da IA \u200b\u200bem nossas vidas, mas, na minha opini\u00e3o, grande parte do debate atual se concentra nas quest\u00f5es erradas. Vamos abord\u00e1-los primeiro, antes de passar para o que eu acho que deveria ser o cerne da discuss\u00e3o em torno da IA.<\/p>\n<h3>DALL-E e Midjourney est\u00e3o roubando artistas reais<\/h3>\n<p>Em algumas ocasi\u00f5es, vi essas ferramentas descritas como programas que fazem retalhos de imagens que j\u00e1 viram e depois aplicam uma esp\u00e9cie de filtros que permitem imitar o estilo do artista solicitado. Qualquer um que fa\u00e7a tal afirma\u00e7\u00e3o ou \u00e9 ignorante das realidades t\u00e9cnicas dos modelos subjacentes, ou est\u00e1 argumentando de m\u00e1-f\u00e9.<\/p>\n<p>Conforme explicado acima, o modelo \u00e9 completamente incapaz de extrair imagens ou mesmo formas simples das imagens nas quais \u00e9 treinado. O melhor que ele pode fazer \u00e9 extrair insumos matem\u00e1ticos.<\/p>\n<div id=\"attachment_20911\" style=\"width: 1344px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-20911\" class=\"wp-image-20911 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/94\/2023\/03\/13163447\/chat-gpt-changes-all-05.jpg\" alt=\"O que as pessoas acreditam que o DALL-E faz (\u00e0 esquerda) versus o que o DALL-E realmente faz (\u00e0 direita)\" width=\"1334\" height=\"629\"><p id=\"caption-attachment-20911\" class=\"wp-caption-text\">O que as pessoas acreditam que o DALL-E faz (\u00e0 esquerda) versus o que o DALL-E realmente faz (\u00e0 direita)<\/p><\/div>\n<p>N\u00e3o h\u00e1 como negar que muitos trabalhos protegidos por direitos autorais foram usados \u200b\u200bna fase de treinamento sem o consentimento expl\u00edcito dos autores originais, e talvez haja uma discuss\u00e3o a ser feita sobre isso. Mas tamb\u00e9m vale ressaltar que os artistas humanos seguem exatamente o mesmo processo durante seus estudos: eles copiam pinturas de mestres e se inspiram nas obras de arte que encontram. E o que \u00e9 a inspira\u00e7\u00e3o, sen\u00e3o a capacidade de capturar a ess\u00eancia de uma obra de arte combinada com o desejo de reinven\u00e7\u00e3o?<\/p>\n<p>DALL-E e Midjourney apresentam uma inova\u00e7\u00e3o no sentido de que s\u00e3o teoricamente capazes de obter inspira\u00e7\u00e3o de todas as imagens produzidas na hist\u00f3ria humana (e, provavelmente, de qualquer uma que produzirem a partir de agora), mas \u00e9 uma mudan\u00e7a apenas de escala \u2013 n\u00e3o na natureza.<\/p>\n<div id=\"attachment_20912\" style=\"width: 1010px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-20912\" class=\"wp-image-20912 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/94\/2023\/03\/13163609\/chat-gpt-changes-all-06.jpg\" alt=\"Evid\u00eancia convincente de Wolfgang Amadeus Mozart roubando artistas durante sua fase de treinamento\" width=\"1000\" height=\"1170\"><p id=\"caption-attachment-20912\" class=\"wp-caption-text\">Evid\u00eancia convincente de Wolfgang Amadeus Mozart roubando artistas durante sua fase de treinamento<\/p><\/div>\n<h3>A IA torna as coisas muito f\u00e1ceis<\/h3>\n<p>Tal cr\u00edtica geralmente implica que a arte deve ser dif\u00edcil. Essa sempre foi uma no\u00e7\u00e3o surpreendente para mim, j\u00e1 que o observador de uma obra de arte geralmente tem pouca ideia de quanto (ou qu\u00e3o pouco) esfor\u00e7o foi necess\u00e1rio para produzi-la. N\u00e3o \u00e9 um debate novo: anos ap\u00f3s o lan\u00e7amento do Photoshop, v\u00e1rias pessoas ainda argumentam que <a href=\"https:\/\/medium.com\/art-direct\/is-digital-art-real-art-b3046f3ee7da\" target=\"_blank\" rel=\"noopener nofollow\">a arte digital n\u00e3o \u00e9 arte real<\/a>. Existem outros que dizem que usar o Photoshop requer habilidade, mas acho que eles tamb\u00e9m est\u00e3o perdendo o foco. Quanta habilidade Robert Rauschenberg exigiu para colocar <a href=\"https:\/\/www.moma.org\/audio\/playlist\/40\/639\" target=\"_blank\" rel=\"noopener nofollow\">tinta branca em uma tela<\/a>? Quanta pr\u00e1tica musical voc\u00ea precisa antes de poder executar o infame <a href=\"https:\/\/www.youtube.com\/watch?v=JTEFKFiXSx4\" target=\"_blank\" rel=\"noopener nofollow\">4\u201933\u201d<\/a> de John Cage?<\/p>\n<p>Mesmo que introduz\u00edssemos a habilidade como crit\u00e9rio para a arte, de que forma tra\u00e7ar\u00edamos a linha de separa\u00e7\u00e3o? Quanto esfor\u00e7o \u00e9 esfor\u00e7o suficiente? Quando a fotografia foi inventada, Charles Baudelaire chamou-a de \u201co ref\u00fagio de todo aspirante a pintor, de todo pintor muito mal dotado ou muito pregui\u00e7oso para terminar seus estudos\u201d (e ele n\u00e3o estava sozinho nessa avalia\u00e7\u00e3o). Acontece que ele estava errado.<\/p>\n<h3>ChatGPT ajuda cibercriminosos<\/h3>\n<p>Com o surgimento da IA, veremos ganhos de produtividade em todos os setores. No momento, v\u00e1rios meios de comunica\u00e7\u00e3o e fornecedores est\u00e3o fazendo tudo o que podem para pegar carona no hype do ChatGPT, que leva ao clickbait mais vergonhoso da hist\u00f3ria recente. Como escrevemos anteriormente, o ChatGPT pode <a href=\"https:\/\/www.kaspersky.com.br\/blog\/chatgpt-cybersecurity\/20669\/\" target=\"_blank\" rel=\"noopener\">ajudar os criminosos a redigir e-mails de phishing ou escrever c\u00f3digos maliciosos<\/a> \u2013 como se essas coisas j\u00e1 tivessem encontrado qualquer fator limitante. As pessoas familiarizadas com a exist\u00eancia do GitHub sabem que a disponibilidade de malware n\u00e3o \u00e9 um problema para agentes mal-intencionados, e qualquer pessoa preocupada em acelerar o desenvolvimento deveria ter levantado essas preocupa\u00e7\u00f5es quando o <a href=\"https:\/\/github.com\/features\/copilot\" target=\"_blank\" rel=\"noopener nofollow\">Copilot<\/a> foi lan\u00e7ado.<\/p>\n<p>Sei que \u00e9 bobagem desmascarar um frenesi da m\u00eddia nascido de considera\u00e7\u00f5es econ\u00f4micas mesquinhas em vez de preocupa\u00e7\u00f5es genu\u00ednas, mas o fato \u00e9: a IA ter\u00e1 um tremendo impacto em nossas vidas e h\u00e1 quest\u00f5es reais a serem abordadas. Todo esse barulho s\u00f3 est\u00e1 atrapalhando.<\/p>\n<h2>\u00c9 um caminho sem volta<\/h2>\n<p>N\u00e3o importa como voc\u00ea se sente sobre todas as ferramentas com tecnologia de IA lan\u00e7adas em 2022, saiba que outras ir\u00e3o aparecer. Se voc\u00ea acredita que o campo ser\u00e1 regulamentado antes de ficar fora de controle, pense novamente: a resposta pol\u00edtica que testemunhei at\u00e9 agora foi principalmente governos decidindo alocar mais investimentos em pesquisas relacionadas \u00e0 IA, enquanto eles ainda podem recuperar o atraso. Ningu\u00e9m no poder tem interesse em desacelerar isso.<\/p>\n<h3>A quarta revolu\u00e7\u00e3o industrial<\/h3>\n<p>A IA levar\u00e1 a \u2013 ou provavelmente j\u00e1 levou a \u2013 ganhos de produtividade. Qu\u00e3o grandes eles s\u00e3o\/ser\u00e3o \u00e9 dif\u00edcil imaginar ainda. Se o seu trabalho consiste em produzir texto semi-inspirado, voc\u00ea deve se preocupar. Isso se aplica se voc\u00ea tamb\u00e9m for um designer visual trabalhando por comiss\u00e3o: sempre haver\u00e1 clientes que desejam o toque humano, mas a maioria optar\u00e1 pela op\u00e7\u00e3o mais barata. Mas isso n\u00e3o \u00e9 tudo: <a href=\"https:\/\/github.com\/JusticeRage\/Gepetto\" target=\"_blank\" rel=\"noopener nofollow\">engenheiros reversos<\/a>, <a href=\"https:\/\/medium.com\/illumination\/chat-gtp-4-could-pass-the-bar-exam-a738f40a31dc\" target=\"_blank\" rel=\"noopener nofollow\">advogados<\/a>, <a href=\"https:\/\/the-decoder.com\/ai-in-education-chatgpt-is-just-the-beginning\/\" target=\"_blank\" rel=\"noopener nofollow\">professores<\/a>, <a href=\"https:\/\/www.nature.com\/articles\/s41591-020-01197-2\" target=\"_blank\" rel=\"noopener nofollow\">m\u00e9dicos<\/a> e muitos outros devem esperar que suas profiss\u00f5es sejam profundamente modificadas.<\/p>\n<p>Uma coisa a ter em mente \u00e9 que o ChatGPT \u00e9 um chatbot de uso geral. Nos pr\u00f3ximos anos, modelos especializados surgir\u00e3o e avan\u00e7ar\u00e3o algumas funcionalidades do ChatGPT em casos de uso espec\u00edficos. Em outras palavras, se o ChatGPT n\u00e3o tiver um progresso cont\u00ednuo, \u00e9 prov\u00e1vel que um novo produto de IA lan\u00e7ado nos pr\u00f3ximos cinco anos o fa\u00e7a. Nossos trabalhos, todos os nossos trabalhos, envolver\u00e3o a supervis\u00e3o da IA \u200b\u200be a garantia de que sua sa\u00edda esteja correta, em vez de faz\u00ea-lo n\u00f3s mesmos.<\/p>\n<p>\u00c9 poss\u00edvel que a IA atinja uma parede de complexidade e n\u00e3o progrida mais \u2013 mas depois de errar v\u00e1rias vezes, aprendi a n\u00e3o apostar contra o campo. A IA mudar\u00e1 o mundo tanto quanto a m\u00e1quina a vapor? Devemos esperar que n\u00e3o, porque mudan\u00e7as brutais nos meios de produ\u00e7\u00e3o mudam a estrutura da sociedade humana, e isso nunca acontece pacificamente.<\/p>\n<h3>Vi\u00e9s e propriedade da IA<\/h3>\n<p>Muito j\u00e1 foi dito sobre <a href=\"https:\/\/levity.ai\/blog\/ai-bias-how-to-avoid\" target=\"_blank\" rel=\"noopener nofollow\">vieses nas ferramentas de IA<\/a> e n\u00e3o vou voltar a isso. Um assunto mais interessante \u00e9 a maneira como o OpenAI combate esses vieses. Como mencionado acima, o ChatGPT passou por uma fase de aprendizado supervisionado, na qual o modelo de linguagem basicamente aprende a n\u00e3o ser extremista. Embora esse seja um recurso desej\u00e1vel, n\u00e3o se pode deixar de notar que esse processo efetivamente ensina um novo vi\u00e9s ao chatbot. As condi\u00e7\u00f5es desta fase de ajuste fino s\u00e3o turvas: quem s\u00e3o os her\u00f3is an\u00f4nimos que sinalizam as respostas \u201cruins\u201d? Trabalhadores mal pagos em pa\u00edses do terceiro mundo ou engenheiros do Vale do Sil\u00edcio sob efeitos \u201cotimizadores\u201d? (Spoiler: <a href=\"https:\/\/time.com\/6247678\/openai-chatgpt-kenya-workers\/\" target=\"_blank\" rel=\"noopener nofollow\">\u00e9 a primeira op\u00e7\u00e3o<\/a>.)<\/p>\n<p>Tamb\u00e9m vale lembrar que os produtos de IA n\u00e3o funcionar\u00e3o para o bem comum. Os v\u00e1rios produtos projetos no momento s\u00e3o de propriedade de empresas que sempre ser\u00e3o movidas, antes de tudo, por lucros que podem ou n\u00e3o se sobrepor aos melhores interesses da humanidade. Assim como uma mudan\u00e7a nos resultados de pesquisa do Google tem <a href=\"https:\/\/www.science.org\/content\/article\/could-google-influence-presidential-election\" target=\"_blank\" rel=\"noopener nofollow\">um efeito mensur\u00e1vel<\/a> nas pessoas, os companheiros ou consultores de IA ter\u00e3o a capacidade de influenciar os usu\u00e1rios de maneiras sutis.<\/p>\n<h3>E agora?<\/h3>\n<p>Como a quest\u00e3o n\u00e3o parece mais ser se a IA est\u00e1 entrando em nossas vidas, mas quando, devemos pelo menos discutir como podemos nos preparar para isso.<\/p>\n<p>Devemos ser extremamente cautelosos com o ChatGPT (ou qualquer um de seus descendentes) acabando em uma posi\u00e7\u00e3o em que est\u00e1 tomando decis\u00f5es sem supervis\u00e3o: o ChatGPT \u00e9 extremamente bom em demonstrar confian\u00e7a, mas ainda assim erra. No entanto, haver\u00e1 grandes incentivos para cortar custos e tirar os humanos do circuito.<\/p>\n<p>Tamb\u00e9m prevejo que, na pr\u00f3xima d\u00e9cada, a maior parte de todo o conte\u00fado dispon\u00edvel online (primeiro texto e imagens, depois v\u00eddeos e videogames) ser\u00e1 produzida com IA. Tamb\u00e9m n\u00e3o acho que devemos contar muito com a sinaliza\u00e7\u00e3o autom\u00e1tica de tal conte\u00fado funcionando de maneira confi\u00e1vel \u2013 teremos apenas que permanecer cr\u00edticos com o que lemos online e enfrentar dez vezes mais ru\u00eddo. Acima de tudo, devemos ter cuidado com os modelos especializados que est\u00e3o surgindo em nosso caminho. O que acontece quando um dos Big Four treina um modelo com o c\u00f3digo tribut\u00e1rio e come\u00e7a a perguntar sobre brechas? O que acontece quando algu\u00e9m dos militares usa o ChatGPT e diz: \u201csim, quero um pouco disso nos meus drones\u201d?<\/p>\n<p>A IA pode ser incr\u00edvel: assumir\u00e1 muitas tarefas chatas, trar\u00e1 novas habilidades ao alcance de todos e dar\u00e1 in\u00edcio a novas formas de arte (sim). Mas a IA tamb\u00e9m pode ser terr\u00edvel. Se a hist\u00f3ria servir de indica\u00e7\u00e3o, ela levar\u00e1 a uma maior concentra\u00e7\u00e3o de poder e nos empurrar\u00e1 ainda mais para o caminho do <a href=\"https:\/\/nymag.com\/intelligencer\/2022\/10\/what-is-technofeudalism.html\" target=\"_blank\" rel=\"noopener nofollow\">tecnofeudalismo<\/a>. Vai mudar a forma como o trabalho \u00e9 organizado e talvez at\u00e9 a nossa rela\u00e7\u00e3o com o acervo de conhecimento da humanidade. N\u00f3s n\u00e3o vamos ter uma palavra a dizer sobre isso.<\/p>\n<p>A caixa de pandora agora est\u00e1 aberta.<\/p>\n<p><em><strong>Disclaimer:<\/strong> o texto expressa as opini\u00f5es pessoais do autor e podem n\u00e3o refletir a posi\u00e7\u00e3o oficial da Kaspersky (a empresa).<br>\n<\/em><br>\n<input type=\"hidden\" class=\"category_for_banner\" value=\"premium-geek\"><\/p>\n","protected":false},"excerpt":{"rendered":"<p>A IA ter\u00e1 um tremendo impacto em nossas vidas. Como podemos nos preparar para isso?<\/p>\n","protected":false},"author":2658,"featured_media":20914,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1029],"tags":[3099,3118,1342,3117,77],"class_list":{"0":"post-20906","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-technology","8":"tag-chatgpt","9":"tag-dall-e-2","10":"tag-ia","11":"tag-midjourney","12":"tag-tecnologia"},"hreflang":[{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/chat-gpt-changes-all\/20906\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/chat-gpt-changes-all\/25330\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/chat-gpt-changes-all\/20777\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/chat-gpt-changes-all\/27948\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/chat-gpt-changes-all\/25629\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/chat-gpt-changes-all\/26061\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/chat-gpt-changes-all\/28504\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/chat-gpt-changes-all\/34787\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/chat-gpt-changes-all\/47405\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/chat-gpt-changes-all\/20275\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/chat-gpt-changes-all\/29877\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/chat-gpt-changes-all\/33489\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/chat-gpt-changes-all\/25943\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/chat-gpt-changes-all\/31651\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/chat-gpt-changes-all\/31358\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.com.br\/blog\/tag\/ia\/","name":"IA"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/20906","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/users\/2658"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/comments?post=20906"}],"version-history":[{"count":2,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/20906\/revisions"}],"predecessor-version":[{"id":20915,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/posts\/20906\/revisions\/20915"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/media\/20914"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/media?parent=20906"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/categories?post=20906"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.com.br\/blog\/wp-json\/wp\/v2\/tags?post=20906"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}