Big Data é a solução?

Big Data a solução mágica mais recente para todos os males da sociedade? Os sensores que nos rodeiam coletam cada vez mais dados sobre tudo o que fazemos; as empresas usam esses dados para descobrir o que queremos e vendê-los para nós. Mas como evitar um futuro parecido com o previsto no romance de Jorge Orwel, 1984  Big Brother? Frequentemente, somos informados de que nossa privacidade estará segura porque nossos dados serão anônimos. Mas Dorothy Denning e outros cientistas da computação descobriram por volta de 1980 que o anonimato não funciona muito bem. Mesmo se você escrever um software que responderá a uma consulta apenas se a resposta for baseada nos dados de seis ou mais pessoas, há muitas maneiras de enganá-lo. Por exemplo, tendo acesso a um banco de dados de registros médicos "anônimos", posso consultar o banco de dados antes e depois que a pessoa que estou investigando visitar seu médico e ver o que mudou. Existem muitas maneiras de fazer inferências. Por cerca de dez anos, temos um modelo teórico decente disso. O trabalho da pesquisadora da Microsoft Cynthia Dwork sobre privacidade diferencial estabeleceu limites sobre quantas consultas um banco de dados pode responder com segurança, mesmo se for permitido adicionar algum ruído e permitir uma pequena probabilidade de falha. No melhor caso geral, o limite é da ordem de n2, onde há n atributos. Portanto, se o seu registro médico tem cerca de 100 informações sobre você, então é impraticável construir um sistema de registro médico anônimo que responderá a mais de cerca de 10.000 perguntas antes que um interrogador inteligente seja capaz de aprender algo útil sobre alguém. Sistemas comuns de grande escala, que podem lidar com mais do que essa quantidade de consultas por hora, simplesmente não podem ser protegidos - exceto em alguns casos especiais. Um desses casos pode ser quando seu aplicativo de navegação usa a localização de milhões de telefones celulares para descobrir a velocidade com que o tráfego está se movendo. Mas mesmo isso é difícil de fazer direito. Você tem que permitir que os programadores conectem alguns avistamentos sucessivos de cada telefone dentro de cada segmento da estrada para obter velocidades médias, mas se eles puderem fazer a ligação entre os segmentos, eles poderão reconstruir todas as viagens que qualquer usuário de telefone já fez. Para usar o anonimato de forma eficaz - nos poucos casos em que pode funcionar - você precisa de engenheiros inteligentes que entendam o controle de inferência e sejam incentivados a fazer o trabalho corretamente. Em geral, falta compreensão e incentivo. Uma série de escândalos de dados de alto perfil enfatizou o surpreendente poder da desanonimização. E está ficando mais poderoso o tempo todo, à medida que obtemos cada vez mais dados sociais e outros dados contextuais online. Melhores algoritmos de aprendizado de máquina também ajudam; eles foram usados ​​recentemente, por exemplo, para analisar milhões de registros de dados de chamadas de telefones celulares, comparando-os com o gráfico de amizade pública visível na mídia social online. Então, onde estamos agora? É uma reminiscência do debate sobre as mudanças climáticas. Assim como o Big Oil faz lobby há anos para minar a ciência do aquecimento global, também as empresas de Big Data têm um poderoso incentivo para fingir que o anonimato funciona, ou pelo menos funcionará no futuro. Quando as pessoas reclamam de alguma captura de dados, somos informados de que a pesquisa sobre privacidade diferencial está apresentando muitos resultados interessantes e nossos dados estarão melhor protegidos em breve. (Não importa que a privacidade diferencial ensine exatamente o contrário; a saber, que essa proteção geralmente é impossível.) E muitas pessoas que ganham a vida com dados pessoais fazem o mesmo. Este é um problema antigo: é difícil fazer as pessoas entenderem alguma coisa se seu trabalho depende de não entendê-lo. Em qualquer caso, o mundo da publicidade avança para cada vez mais personalização. Saber que as pessoas na Avenida Acacia são mais propensas a comprar carros grandes, e que os 43 anos também, quase não tem valor em comparação com saber que o homem de 43 anos que mora na Avenida Acácia é olhando para comprar um carro novo agora. Saber quanto ele é capaz de gastar abre a porta para cada vez mais discriminação de preços, o que, embora injusto, é economicamente eficiente e lucrativo. Não conhecemos nenhuma solução tecnológica, nenhuma maneira de projetar um equilíbrio entre vigilância e privacidade; os limites terão de ser definidos por outros meios.