Documentário no Netflix escancara o problema da tecnologia. Mas qual a solução?
Tatiana Dias, The Intercept Brasil, 14 de setembro de 2020
Primeiro, um amigo me avisou: “Tati, você tem que assistir ao ‘Dilema das redes'”, no Netflix. O documentário, que havia estreado duas semanas antes, ainda não havia pipocado nas minhas timelines. Mas apareceu no dia seguinte na home, em destaque, e resolvi assistir. Quem acompanha o tema pode dizer que o longa-metragem sobre o impacto das redes sociais na democracia e nas pessoas não traz nada de novo. Eu discordo.
De fato, a maneira como somos manipulados para gerar lucros para as big techs e qual o impacto disso na nossa vida pessoal e no mundo já foram muito bem explorados. Eu mesma já escrevi muitos textos sobre isso, um deles há dois anos, exatamente sobre o mesmo tema, incluindo questões sobre vício, radicalização do debate, fake news e impacto na democracia
Mas o mérito do documentário é que ele efetivamente desenhou o funcionamento dos algoritmos e da manipulação a que somos submetidos como ratos de laboratório. E esfrega isso na cara de quem entra no Netflix (que também é uma big tech). Não é pouca coisa.
O longa parte de depoimentos de muitos ex-executivos da área, que incluem Guilhaume Chaslot, que ajudou a criar o mecanismo de recomendação de vídeos no YouTube (que está levando às pessoas à radicalização e fazendo a extrema direita explodir), Justin Rosestein, um dos co-criadores do botão Curtir no Facebook, e Tim Kendall, ex-diretor de monetização do Facebook.
Os testemunhos dos insiders mostram o cinismo da indústria, que dedicou muito dinheiro e colocou algumas das melhores cabeças do mundo para criar as melhores soluções possíveis para fazer com que eu e você nos tornássemos viciados em tecnologia enquanto tentava nos convencer que estava conectando as pessoas e tornando o mundo um lugar melhor.
Um deles explicou seu trabalho assim: como hackers, encontraram uma vulnerabilidade no nosso cérebro, que precisa de atenção, dopamina e reconhecimento, e tornaram aquela sensação acessível em segundos no celular. Exploraram a falha, criando maneiras de recompensa instantânea, e construindo ferramentas que aumentassem o nosso tempo online – e, assim, a possibilidade de tornar nossas interações mais lucrativas para os anunciantes.
A visão dos insiders é intercalada com análises críticas de pesquisadores como Shoshana Zuboff, professora emérita de Harvard e autora de “The age of surveillance capitalism” (“A era do capitalismo de vigilância”, em tradução livre, sem edição em português) e Jaron Lenier, filósofo e autor do livro “10 argumentos para você deletar suas redes sociais agora”. E há uma dramatização que desenha para os leigos como funciona a manipulação algorítmica, algo normalmente complexo de se explicar.
O documentário tem tom catastrofista, mas os ex-funcionários das big techs dizem ser possível mudar a realidade. Arrependidos, eles fundaram institutos e centros de pesquisa voltados a tecnologias mais humanizadas e fazem palestras e eventos apontando o problema que criaram e as soluções que pretendem emplacar. Concordo com a crítica de que, de novo, é o mesmo conjunto de homens brancos de Stanford tentando criar solução para um problema que eles mesmos criaram.
Não acho, porém, que isso tira o mérito do documentário – mas é preciso falar sobre algumas questões. A primeira é que a solução para o “dilema das redes” não vai acontecer no plano individual, como às vezes o documentário parece colocar. Não se trata de “escolher sair das redes”, mas de se opor a essa lógica e pressionar por regulação e transparência.
Parece simples para um ex-executivo das big techs proibir o filho de ter qualquer contato com tecnologia (eles de fato fazem isso). Mas como falar isso para as crianças cada vez mais dependentes da tecnologia até mesmo para estudar num mundo que atravessa uma pandemia? Se os próprios governos usam essas plataformas para serviços públicos?
Além disso, no Brasil (assim como em Myanmar, citado no documentário) e em outros países em desenvolvimento, a questão é ainda mais complexa. Por aqui, o Facebook teve uma estratégia agressiva de expansão, com parcerias com empresas de telecom para oferecer acesso grátis aos seus serviços para a população de baixa renda. A pessoa contrata um plano de celular e leva o quê? Acesso ao Facebook, Insta e Zap de graça. Sem dados para outro tipo de navegação, para muita gente a internet se torna só isso.
Criou-se um mercado do qual é praticamente impossível sair: as pessoas confundem internet com as interações que acontecem nessas plataformas, e toda a vida acontece ali. Há dois anos, a Yasodara Córdova escreveu aqui no Intercept sobre como essa estratégia de expansão do Facebook em países em desenvolvimento aprofundaria o problema das fake news. Bingo.
Como sempre, como tudo que ronda as big techs, a política de “Zap grátis” vem travestida de benefício: te entregam que acesso grátis às redes sociais como uma vantagem, mas escondem que quem está sendo servido na bandeja é você. E como pedir a quem não tem plano de dados no celular e depende do acesso aos aplicativos grátis para simplesmente sair das redes sociais? Qual a alternativa?
Também não acho que a solução vai vir de centros para tecnologia humanizada em Stanford, mas de uma internet descentralizada e diversa por essência, feita por pessoas diferentes, baseada em outra lógica: redes comunitárias ou repositórios de conteúdos livres, por exemplo. Em um ensaio no ano passado, que discute justamente vício e dados, os pesquisadores Ricardo Abramovay e Rafael Zanatta também apresentam o conceito de “non addiction by design”. Ou seja: assim como há o design feito para nos viciar (não há exemplo melhor disso do que as notificações), deveria haver, também, o design que nos repele das redes. Eles também mencionam a pesquisa de Elaine Ou, da Universidade de Sydney, que propõe tratar a indústria das redes sociais com uma regulação estrita, como acontece com o tabaco e as bebidas alcoólicas.
No documentário, todos os executivos das big techs concordam sobre a necessidade de se desligar as notificações, mas a pergunta sobre qual é o problema é mais difícil de responder. A narrativa fica mais asfixiante quando se projeta o futuro, com a capacidade de processamento computacional aumentando exponencialmente, e a possibilidade de essas ferramentas de manipulação caírem nas mãos de governos autoritários. As pessoas se cercam de opiniões semelhantes, algoritmos as bombardeiam com conteúdos cada vez mais extremos, e assim o debate público se corrói.
Eu postei há algumas semanas que estou cada vez mais cética sobre qualquer possibilidade de diálogo ou construção coletiva que dependa de plataformas, que só reforçam individualismo e premiam os piores comportamentos das pessoas. A solução, no fim, não virá dos mesmos caminhos ou de discussões no Twitter. Temos, aliás, de repensar nossos papeis na plataforma.
É um contrassenso querer construir uma unidade ou senso de coletividade, ou mesmo ter uma conversa, se a plataforma naturalmente transforma um debate em uma rinha para lucrar com isso. Qualquer tentativa descamba para a simplificação, exposição, linchamento – porque as redes sociais não são uma praça pública, são um ringue, e quanto mais treta, mais atenção, mais interação, mais seguidores. É para isso que elas foram projetadas. E cresce quem aprende como funciona essa lógica. Ganham a plataforma e os polemizadores. Perdemos todos.
Em “No enxame”, o filósofo Byung Chul-Han explica bem como a lógica das redes está corroendo o debate e a ação política. Nelas, não somos um coletivo, mas indivíduos isolados que não formam um “nós”. Claro que o fenômeno do individualismo não vem só das redes, mas é um reflexo anterior da própria sociedade. Mas é nelas que ele se manifesta – e cresce. A “egotização crescente e a atomização da sociedade leva a que os espaços para o agir conjunto encolham radicalmente e impede, assim, a formação de um contrapoder que pudesse efetivamente colocar em questão a ordem capitalista”, ele escreve.
No documentário, Shoshana Zuboff compara esse modelo de negócio baseado em dados e manipulação à venda de órgãos: deveria ser banido. No Twitter, ela desenvolveu o argumento: “Só a democracia pode interromper e banir o capitalismo de vigilância”, ela postou. “Agora a luta é sobre novos direitos e leis para um século digital democrático”.
“O dilema das redes” é bem-sucedido ao explicar o problema. Mas agora é preciso pensar em outras frentes de ação no âmbito público e no individual. Que tipo de regulação deve ser pensada para diminuir a concentração de poder e aumentar a transparência das big techs? E, individualmente, como lidar com a contradição de ocupar as redes sociais, sabendo que tudo o que é postado aqui vai ser capitalizado e usado justamente para alimentar o que criticamos?
Enquanto nosso debate público e nossas relações forem mediadas por plataformas que sabidamente nos manipulam para gerar lucro, não vai ter saída. Some-se a tudo isso o contexto de pandemia, que intensificou a nossa presença online e tornou praticamente todas as nossas interações sociais mediadas pela tecnologia. Não por acaso, das 12 empresas que mais lucraram na pandemia, seis são big techs. Os donos da Amazon, Microsoft, Apple, Facebook e Google aumentaram seus lucros na casa das dezenas de bilhões desde que a covid-19 apareceu.
O Netflix, ironicamente, também está na lista: enriqueceu R$ 55 bilhões só no período de pandemia.