Menu da Revista Fechar Menu da Revista

Big Data

Últimas histórias

Como empresas podem garantir um processamento de linguagem natural eficaz

  • min de leitura
    • Em 2020, pesquisadores do Google, Apple e da Universidade de Berkeley, entre outros, mostraram que podiam atacar um modelo de machine learning, o processamento de linguagem natural (PLN) modelo GPT-2. Eles fizeram com que o modelo exibisse informações pessoais, capazes de identificar uma pessoa, que foram memorizadas durante o treinamento. Embora isso soe como uma brincadeira de polícia e ladrão para amantes de tecnologia, o que esses pesquisadores descobriram pode afetar empresas que estão usando PLN. Vou explicar como, por que e o que você pode fazer para deixar a sua IA mais segura. O poder do processamento de linguagem natural O PLN está melhorando graças a grandes modelos de linguagem: Redes neurais gigantescas treinadas com bilhões de palavras que passam a impressão de uma linguagem humana. Eles aprendem em múltiplas camadas, incluindo gramática, sintaxe e fatos sobre o mundo. Escanear notícias podem ensinar esses modelos a responder perguntas como quem é o presidente do país ou a que indústria a sua empresa pertence. Existem muitas formas de aplicar grandes modelos de linguagem. O Google usa seu modelo de linguagem BERT para melhorar a qualidade de busca. Serviços de tradução como o Google Translate e o Deepl usam grandes redes neurais. Grammarly usa PLN de base neural para melhorar suas sugestões de texto. "A variedade de aplicações para modelos de linguagem é enorme", afirma Alena Fenogenova, especialista em PLN na SberDevices, fabricante de dispositivos inteligentes. Ela trabalhou na versão russa do GPT-3 e em uma referência para avaliar a qualidade de modelos de linguagem russos. "Esses modelos podem nos ajudar a criar coisas como livros, anúncios ou códigos." A rede neural do OpenAI, a GPT-2, foi manchete por gerar notícias sobre cientistas descobrindo unicórnios nos Andes, provocando temores sobre desinformação automatizada. Desde então, a OpenAI lançou o GPT-3, afirmando que fizeram melhorias no GPT-2 em muitos aspectos. As pessoas estão usando o produto para coisas incríveis como simplificar documentos legais para um inglês mais simples. O GPT-3 pode até gerar um código para um site baseado em uma descrição por escrito. Técnicas de PLN também funcionam em linguagens de programação, o que leva a produtos como o Microsoft Intellicode e o Copilot da GitHub, que presta assistência a programadores. Fenogenova completa: "Você pode treinar esses modelos em qualquer sequência, não só texto. Você pode estudar sequências genéticas ou fazer experimentos com música." Os dados são essenciais Para criar esses modelos, você precisa ter acesso a um volume enorme de dados não processados, por exemplo, textos da internet para trabalhar com a linguagem natural ou código de programação para gerar código. Por isso, não é nenhuma coincidência que empresas como Google e o software de recurso de desenvolvimento GitHub estão entre os líderes de modelos de linguagem. Empresas de tecnologia costumam tornar esses grandes modelos open source para que outros construam em cima deles, mas os dados usados para criar esses modelos e os dados in-house utilizados para aperfeiçoá-los podem afetar o comportamento do modelo. O que eu quero dizer? Em machine learning, dados de baixa qualidade levam a uma performance ruim. Mas parece que um modelo de machine learning também consegue absorver bastante informação de dados não processados. Preconceito entra, preconceito sai Assim como sistemas de visão de computador replicam preconceitos, tendo problemas em reconhecer imagens de pessoas negras, por exemplo, modelos de PLN replicam preconceitos ocultos em nossa linguagem natural. Passando por um teste de analogia, um modelo simples decidiu que "homem" está para "programador de computador" assim como "mulher" está para "dona de casa". Modelos mais complexos, como modelos de linguagem, podem apresentar uma série de preconceitos, tanto escancarados quanto sutis. Pesquisadores do Allen Institute for AI descobriram que muitos modelos de linguagem geram textos falsos, cheios de preconceito e ofensivos graças aos dados de treinamento que receberam. "Os dados em texto usados para treinar esses modelos são enormes, por isso podem conter preconceitos de gênero, raciais e outros ", afirma Fenogenova. "Se você pedir para um modelo terminar as frases, 'um homem deve...' e 'uma mulher deve..', os resultados provavelmente serão alarmantes", completa. O problema vai além de pesquisas. Em 2016, a Microsoft encerrou seu chatbot porque ele aprendeu a ser racista e misógino depois de um dia participando de conversas no Twitter. Em 2021, os criadores sul-coreanos de um chatbot do Facebook que tentava imitar um estudante universitário tiveram de encerrar o projeto quando ele começou a apresentar discurso de ódio. O comportamento de PLN pode também prejudicar reputações, além de perpetuar preconceitos. Modelos que sabem demais Em 2018, uma equipe de pesquisadores do Google acrescentou uma sequência teste "Meu número do seguro social é 078-05-1120" em um conjunto de dados, treinou um modelo de linguagem com essa sequência e depois tentaram extrair a informação. Eles descobriram que poderiam ter acesso ao número a não ser que "tomassem muito cuidado". Eles desenvolveram uma métrica para ajudar pesquisadores e engenheiros a testar esse tipo de "memorização" em seus modelos. Pesquisadores e colegas checaram o trabalho em 2020, como mencionei anteriormente, testando o GPT-2 com comandos e descobriram que o modelo às vezes completava os comandos com dados pessoais. Quando o GitHub lançou seu modelo de linguagem de programação Copilot, as pessoas fizeram piadas dizendo que o Copilot poderia completar senhas privadas do Secure Shell (SSH). (O Secure Shell conecta com segurança computadores remotos a uma rede insegura). Mas o que o Copilot acabou fazendo também era preocupante: Gerou códigos contendo senhas de API válidas, dando a usuários acesso a recursos restritos. Embora ainda existam questões sobre como essas chaves estavam em meio aos dados de treinamento do Copilot, demonstrando que existem possíveis consequências para a memorização de dados. Fazendo com que PLN tenha menos preconceitos e seja mais consciente de questões de privacidade Existem muitos riscos em grandes modelos de geração de texto. A princípio, não está claro como princípios de proteção de dados e legislação se aplicam a dados memorizados. Se alguém pede seus dados pessoais de uma empresa, eles têm direitos a modelos treinados usando esses dados? Como podemos verificar se um modelo não memorizou certas informações e como remover essa informação? O mesmo se aplica ao "direito de ser esquecido", parte de algumas regulamentações de dados. Outra questão é o copyright. Pesquisadores descobriram que o GPT-2 reproduziu uma página inteira de um livro da série Harry Potter a partir de alguns comandos. O Copilot apresenta algumas questões difíceis sobre quem escreveu o código que ele gera. "Outra abordagem pode ser usar 'censores' automáticos para detectarem textos inapropriados antes de eles chegarem a usuários. Você também pode criar censores que detectam e filtram dados privados", afirma Fenogenova. "Empresas também podem filtrar dados não processados para minimizar o risco de dados privados serem memorizados pelo modelo, mas é difícil limpar conjuntos de dados desse tamanho. Pesquisadores estão avaliando a 'geração controlada', na qual você guia o processo de geração do modelo já treinado." Apesar dessas questões, redes neurais com base em PLN continuarão a transformar como as empresas lidam com tudo quanto é texto, desde interações com o consumidor à criação de conteúdo de marketing. Prestar atenção nos riscos de modelos de linguagem e seus usos irão proteger você e seus clientes, além de ajudar a tornar seus projetos de PLN mais bem sucedidos.  
data toxic waste

Big Data: uma nova commodity ou apenas um problema em potencial?

  • min de leitura
    • Essa é uma afirmação que já chegou a ser controversa tempos atrás, mas que hoje se tornou senso comum. Se o Equifax, a CIA, a NSA, o Departamento de Gestão de Pessoas (uma espécie de INSS estadunidense), o Facebook, os sites de paquera e vários outros não conseguem manter nossos segredos, seu negócio também não vai conseguir.  Na verdade, toda a confiança cega que a indústria coloca sobre a segurança de dados sempre foi um exemplo de raciocínio voltado para o negócio. Coletar dados e armazená-los se tornou algo tão barato e fácil, que inúmeros analistas, investidores e até aproveitadores saíram por aí afirmando que "os dados são o novo petróleo".  Com tudo isso, deixar de coletar e guardar para sempre tudo que você puder obter se tornou algo, de um ponto de vista fiscal, irresponsável e ignorante.   Quem diria que a informação se tornaria algo tão rentável? Era dinheiro caindo do céu e as empresas viram isso como uma oportunidade para encher os bolsos. Ainda que elas não soubessem exatamente o que fazer com esses dados, não havia dúvidas de que um mercado para eles surgiria num horizonte próximo. Com um panorama tão otimista como esse, não foi surpreendente que as pessoas que se dedicaram a coletar e reter esses dados se convencessem de que essas atividades poderiam ser feitas de maneira segura.   Hoje, é claro, o tempo provou que elas estavam erradas, e vemos vazamento atrás de vazamento em ondas cada vez maiores de ataques virtuais. Com isso, a lógica mudou. Agora, ao invés de argumentar que os vazamentos são inevitáveis, a saída é dizer que esses vazamentos não são algo tão relevante assim. Com isso, cada vez que um roubo de dados acontece, vemos o porta-voz da empresa afetada recitando a mesma frase, quase que religiosamente: "Levamos a privacidade de nossos consumidores muito a sério, mas garantimos que nenhum dos dados vazados é comprometedor". Um pouco dessa reação vem de um certo "niilismo sobre a privacidade": tudo vai vazar uma hora ou outra, então que diferença faz? Mas existe uma versão ainda mais ardilosa desse discurso, que é a defesa de que dados vazados não são um problema porque os criminosos não têm muito o que fazer com aquilo. Mais do que niilistas, as empresas também costumam ser negacionistas.   Os que pedem desculpas pelos vazamentos ainda argumentam que os dados vazados não são comprometedores ou perigosos porque são anônimos, ou porque tiveram os identificadores removidos. Mas isso na verdade é uma desinformação profunda sobre como os dados são usados. E abusados. A re-identificação de pacotes de dados é um dos tópicos em alta na ciência da computação hoje em dia, com pesquisadores criando ferramentas automáticas que conseguem juntar peças de diferentes pacotes de dados para identificar a quem eles pertencem. Por exemplo, você pode fundir dados anônimos e perecíveis de uma autoridade de saúde, como médico consultado, remédios receitados, data e horário, com um pacote de dados roubados de uma empresa de táxis que inclua viagens a um hospital em particular. Com isso, você consegue descobrir coisas como quem está tomando remédios para depressão, antirretrovirais ou fazendo tratamento para o câncer.   Muitos provedores de proteção de dados prometem que seus sistemas irão injetar ruídos nos pacotes de arquivo para evitar a re-identificação de dados, mas essas promessas raramente passam no teste dos pesquisadores. Já faz anos que o primeiro trabalho significativo de re-identificação teórica foi feito e as coisas continuam piorando para aqueles que insistem que manter os dados anônimos ainda é possível.  Mas os métodos de re-identificação nos dizem muito sobre como os criminosos digitais operam e sobre sua incrível desenvoltura e autocontrole.  Nomes de usuário e senhas podem ser reciclados e usados para invadir câmeras de segurança de plataformas como Ring e Nest, pedir comida em aplicativos ou rastrear e mobilizar frotas inteiras de veículos corporativos. Dados de usuário vazados podem ser utilizados para sobrecarregar procedimentos regulatórios com comentários falsos, mas plausíveis, e até para criar dezenas de contas de Twitter falsas. Criminosos operam combinando e recombinando pacotes de dados, usando o vazamento de uma empresa em combinação com uma fonte de dados públicos e, ainda, dados anônimos de uma terceira empresa para causar estragos em proporções gigantes. Eles podem até conseguir fragmentos suficientes para obter uma escritura duplicada da sua casa e assim vendê-la para outra pessoa enquanto você estiver de férias.   Não é possível apontar para um dado específico e dizer: "esse é o dado que vai te fazer perder sua casa" ou "esse é o dado que vai permitir dar acesso aos ladrões para sua limpar sua aposentadoria".   Também não é factível chegar numa fábrica, ver uma fumaça estranha saindo de uma chaminé e dizer: "É essa aí! Isso é o que vai causar câncer naquela mulher, mãe de três filhos, que mora a 10 quilômetros daqui". Mas isso não impede que empresas que poluam o ar ou a água sejam responsabilizadas por suas irregularidades. Danos causados por vazamentos são imprevisíveis e difíceis de determinar.   Até o momento, as compensações para quem é afetado por vazamentos de dados têm sido extremamente limitadas, mas isso está melhorando. O vazamento ocorrido na Home Depot, em 2014, teve um custo de apenas US$ 0,34 em indenizações por cada consumidor afetado. Mas isso foi seis anos atrás. Clientes do Yahoo! que tiveram seus dados vazados recentemente devem receber uma compensação próxima dos US$ 100 cada. O Facebook é outro que acaba de receber uma multa de incríveis US$ 5 bilhões. E essa festa está só começando.   Os danos causados por vazamentos são cumulativos: como lixo tóxico na natureza, vazamentos geram um acúmulo de informações à deriva e se tornam praticamente imortais na capacidade de gerar problemas. Enquanto o público - e a Lei - começam a perceber esses efeitos, estamos no caminho de ver compensações cada vez maiores para aqueles que veem seus dados privados serem vazados de maneira definitiva para o mundo. É importante lembrar que esse tipo de vazamentos afeta a todos: civis e militares, pobres e ricos, incluindo políticos, legisladores e membros do judiciário. Inevitavelmente, teremos precedentes suficientes para ver as compensações por vazamentos de dados se aproximarem cada vez mais às de outros problemas, como os crimes ambientais. Pena que quando isso acontecer já será tarde demais. Os dados que sua empresa armazena hoje em dia muito provavelmente já foram retirados da sua rede sem você nem perceber, até que um de seus consumidores descubra do pior jeito possível que você comprometeu sua privacidade e decida ir atrás de seus direitos na justiça. Sua seguradora também não vai te ajudar ou criar novas apólices para sua empresa ou proteções contra erros e omissões para seu conselho, porque você está armazenando um material frágil e passível de vazamentos. E essa ajuda se tornará ainda menos provável quando as penalidades por perder o controle sobre esses dados começarem a se transformar em perdas financeiras. Talvez você ainda consiga justificar todo esse risco se os lucros obtidos com esses dados forem da mesma magnitude. Mas, como têm descoberto os pesquisadores, os benefícios da obtenção e armazenamento de dados costumam ser muito supervalorizados, até porque a eficácia dos anúncios segregados baseados no comportamento dos usuários é quase idêntica àqueles baseados no conteúdo das páginas onde os anúncios aparecem, que no caso não precisam usar dados dos usuários.   Mas se você é uma agência de publicidade data-driven ou uma das gigantes da tecnologia, como Facebook ou Google, toda essa mística que existe sobre a capacidade de transformar dados em conversões permite que você venda seu produto como um serviço premium, enquanto intimida possíveis competidores que nem se atrevem a entrar no mercado por medo de não conseguir colher a mesma quantidade de dados de quem já domina o setor.   Aqueles que afirmam que os dados são o "novo petróleo" são os mesmos que os vendem. E as afirmações feitas por eles - de que dados como esses permitirão que você faça coisas incríveis - ainda são apenas um truque de vendedor, e não algo comprovado. Os dados nunca foram o novo petróleo e sim os novos dejetos tóxicos: potentes e imortais, mas impossíveis de conter. Se fosse você, eu não tentaria extrair mais deles e sim me livrar dessa quantidade enorme de informação acumulada sem critério, que pode se tornar um problema.   Minimizar seu acúmulo de dados não é somente uma boa prática, mas também uma boa decisão de negócios. Colete somente aquilo que você realmente precisa e guarde esses dados pelo menor tempo possível. Se sua política de privacidade couber num guardanapo, é porque você está coletando e processando uma quantidade mínima e específica de dados, e apagando-os logo em seguida. Isso quer dizer que você está no caminho certo.  Este artigo reflete somente as opiniões de seu autor e não necessariamente as opiniões e políticas da Kaspersky. 
by Tecnologia inovadora.
Inovando líderes.
Sobre o Secure Futures

A revista Secure Futures é o seu guia de negócios com dicas, opiniões, tendências e insights sobre o mundo da tecnologia e da cibersegurança. A Kaspersky ajuda sua empresa a antecipar o futuro, através dos especialistas globais em cibersegurança.