Um acordo recente de direitos civis é apenas o primeiro passo para finalmente forçar o Facebook a respeitar a privacidade dos usuários e assumir a responsabilidade pelas formas como seus clientes utilizam dados privados.

Por Max Eddy

Uma marca registrada dos últimos anos tem sido ver o Facebook puxado antes dos poderes e ser grelhado por suas falhas. Os resultados são às vezes misturados e muitas vezes nos deram a oportunidade de ver as autoridades americanas não conseguirem fazer as perguntas certas sobre uma das empresas mais poderosas do planeta. Os momentos de merecimento quando o fundador do Facebook, Mark Zuckerberg, teve que explicar para uma sala cheia de senadores como o Facebook funciona logo não será esquecido.

Apesar disso, tem havido a sensação de que a contagem de contas está chegando para a rede social, uma vez que ela falha repetidas vezes em questões de privacidade. 20 de março de 2019, foi o dia em que o Facebook resolveu um processo com grupos de direitos civis e concordou em mudar o funcionamento de seus anúncios – pelo menos, em um sentido muito restrito. Pode ser o maior momento até hoje no castigo do Facebook.

Facebook sabe tudo sobre você
O caso centrava-se em anúncios de habitação, produtos relacionados com crédito e emprego. Usando a plataforma do Facebook, as empresas poderiam excluir grupos inteiros que considerassem indesejáveis. Ou, inversamente, grupos-alvo com produtos particularmente predatórios. Isso porque o Facebook, como muitas outras empresas, lida com dados e encontra maneiras de colocar anúncios específicos na frente de pessoas específicas.

Todas as informações que você compartilha explicitamente, e algumas que o Facebook adivinha a partir do que você publica, são usadas para colocá-lo em várias caixas. Você tem filhos? Você é rico? Qual é a sua origem étnica? Facebook reúne todas essas informações e, em seguida, vende as empresas a capacidade de direcionar você com anúncios específicos. Isso pode ser tão inócuo quanto tentar me vender comida de ratos, para meus maravilhosos ratos de estimação, ou tão insidioso quanto levar esquemas financeiros predatórios para comunidades marginalizadas.

Se você acha que isso é uma violação de privacidade, você não está errado. É também uma das poucas ocasiões em que a decisão de uma empresa de tecnologia de lucrar com os dados dos usuários foi atendida não apenas com resistência, mas também com consequências reais.

Pequenas alterações relutantes
O resultado é francamente surpreendente para mim como alguém que viu o Facebook sendo impenitente em sua violação da confiança pública: a empresa concordou em mudar seus caminhos. Em seu acordo com a ACLU e outras organizações de direitos civis, a empresa concordou em limitar o que os anunciantes dessas categorias de produtos podem fazer, como seus anúncios são segmentados e o que os anunciantes podem aprender sobre os usuários. O Facebook até diz que está criando uma ferramenta que permitirá que aqueles segmentados por anúncios nessas categorias desmistifiquem o processo. Você poderá ver anúncios de emprego, crédito e emprego direcionados a pessoas que não você.

Uma semana depois do anúncio inicial, o Facebook também disse que “baniria elogios, apoio e representação do nacionalismo branco e do separatismo branco no Facebook e no Instagram”, outro movimento surpreendente para a empresa. O Facebook também foi processado pelo HUD por suas práticas de publicidade discriminatórias.

Tudo isso é bom, e fico feliz em ver isso. Muitas novas tecnologias que podem unir as pessoas e criar um mundo mais justo não estão sendo usadas dessa maneira. O Facebook pode mantê-lo em contato com sua família, mas também está trazendo enormes lucros ao coletar seus dados. Um exemplo maior é como a aprendizagem de IA e de máquinas, que deve ser usada para escorar defeitos na tomada de decisão humana, pode acabar reforçando nossos próprios preconceitos. Como? Porque é um computador, e é lixo no lixo, e estamos despejando todos os nossos preconceitos nesses sistemas e nos sentimos satisfeitos quando os resultados atendem às nossas expectativas. Não acredita em mim? Pergunte a Tay.

Precisamos direcionar a segmentação por microssegmentação
O que me impressionou no acordo com o Facebook foi uma frase específica: “Qualquer pessoa que queira exibir anúncios de moradia, emprego ou crédito não terá mais permissão para segmentar por idade, sexo ou código postal”.

Mais uma vez, ótimo. É o tipo de coisa que os defensores da privacidade e os defensores dos direitos civis querem. Mas por que parar aí? Muito tem sido escrito sobre como a microssegmentação através de plataformas sociais foi uma parte importante da campanha de influência russa que confundiu as eleições de 2016 nos EUA. Sabemos agora que os trolls russos usavam as mesmas ferramentas no Facebook para direcionar grupos específicos para campanhas de desinformação. Eventos Fake Black Lives Matter foram criados; grupos pró-Trump falsos também.

Tudo isso foi possível porque o Facebook – e o Twitter, e outros – construíram um negócio em torno da obtenção de um anúncio onde os anunciantes o desejam. Quando você ouve fanáticos por segurança, como eu, gritando sobre privacidade e como “se o produto é gratuito, então você é o produto”, é isso que queremos dizer. É assim que as empresas transformam você e sua atividade on-line em dinheiro.

$ 77 para balançar uma eleição?
A onipresença dessa tecnologia desmente sua estranheza. Também reduziu enormemente o preço. Na conferência de segurança da RSA, um apresentador estimou que custaria apenas US $ 77 para atingir todos os indivíduos necessários para balançar o voto de um partido para o outro em Michigan, com base em dados eleitorais de 2016. Na Pensilvânia, onde o número de votos entre as partes em 2016 era de centenas de milhares, o preço ainda era de apenas US $ 250.000. Isso está bem dentro dos meios de um Estado-nação empenhado em costurar descontentamento em uma eleição, e é construído sobre o mercado invasor de privacidade de produtos que se tornou enormemente valioso nos últimos anos. É a consequência direta da comoditização de seus dados privados.

Se o Facebook fizesse a mesma ação sobre propaganda política que está tomando hoje, isso poderia ajudar muito a impedir que outra eleição nos EUA seja preenchida com desinformação estrangeira – assim como desinformação doméstica. As estratégias utilizadas pelos trolls russos simplesmente não funcionariam se a tecnologia para segmentar indivíduos específicos não estivesse disponível para eles. Ser capaz de olhar para cima e ver que outras mensagens políticas foram enviadas para outras pessoas também pode ajudar a eliminar parte da desconfiança que saturou a nossa política.

Alguém deve ser autorizado a eleições de Microtarget?
Talvez impedir que nossos partidos políticos legítimos usem essa tecnologia seria uma coisa boa também. A comunicação de massa deve nos unir. Mas essas mensagens específicas sussurradas nos ouvidos dos eleitores nos dividiram em facções cada vez menores. Talvez valha a pena fazer as partes trabalharem um pouco mais para obter nossos votos, mantendo nossa privacidade um pouco mais apertada.

Eu sei que o Facebook não deve considerar expandir sua moratória sobre publicidade direcionada. Há dinheiro a ser feito, obviamente, independentemente do que isso signifique para nossa privacidade ou para pessoas segmentadas por publicidade predatória. Mas, se fizer sentido financeiro desligar os anúncios que o Facebook desistiu em seu acordo, talvez a empresa pudesse mudar o modo como seus anúncios funcionam em geral. Com bilhões de pessoas em sua plataforma e algumas das melhores mentes do Vale do Silício trabalhando em seus escritórios, certamente o Facebook pode encontrar uma maneira de ganhar dinheiro, respeitando a privacidade dos usuários e não sendo cúmplice no agravamento dos problemas da sociedade.