Teatro de marionetes
Documentário trata da manipulação algorítmica na era da pós-verdade
Por Natália Huf
Pode parecer um delírio futurista ou algo “muito Black Mirror” para ser verdade, mas é a realidade presente: nosso comportamento é constantemente manipulado pelos algoritmos das redes sociais e aplicativos que utilizamos. Essa é a premissa do docudrama O dilema das redes (The social dilemma, 2020), de Jeff Orlowski. Lançado no festival de cinema Sundance, o filme estreou no serviço de streaming Netflix Brasil em 9 de setembro. O diretor está por trás também dos documentários Em busca dos corais (2017) e Chasing Ice (2012), ambos sobre mudanças climáticas que ocorrem no planeta.
À primeira vista, ainda nos primeiros minutos, pode parecer que a intenção do documentário e de seus entrevistados é demonizar a internet e nos convencer a deletar todos os nossos perfis em redes sociais. E é isso mesmo, mas, ao mesmo tempo, todos reconhecem que os avanços tecnológicos trouxeram inúmeras novidades positivas: permitem que pessoas se reencontrem e se reconectem, possibilitam que peçamos um carro e que ele chegue rapidamente para nos levar até onde precisamos ir… A questão é que, quando essas ferramentas foram criadas e implementadas, seus desenvolvedores não previram todas as potências que elas teriam e os males que poderiam causar. O objetivo é apontar para esse outro lado da moeda, passando por temas como a manipulação do comportamento do usuário, disseminação de fake news e implicações na autoestima de adolescentes e pré-adolescentes.
Entre os entrevistados estão a pesquisadora e professora emérita da Universidade de Harvard, Shoshana Zuboff; o ex-funcionário do Google e co-fundador do Center for Humane Technology, Tristan Harris; e um dos precursores da realidade virtual, Jaron Lanier. Além deles, pessoas que passaram por diversas empresas de tecnologia, como Facebook, Twitter, Pinterest, Instagram, Uber e outras falam sobre suas experiências nesse mercado e no desenvolvimento de interfaces e ferramentas que fazem parte do cotidiano dos usuários de redes sociais, como o botão “curtir” do Facebook e as notificações enviadas pelos aplicativos.
Ao lado das entrevistas, uma narrativa ficcional se desenvolve ao longo do filme e conta a história de uma família em que cada um dos integrantes tem uma relação especial com os celulares e redes sociais: a filha mais velha usa a internet, mas não possui um smartphone; o filho do meio usa o aparelho para se comunicar com os amigos e acessar redes sociais; e a filha mais nova, uma menina da chamada “Geração Z”, é viciada em celular e tem muita dificuldade para se desconectar. O filme também tenta representar o sistema algorítmico das redes: no documentário, assume a forma humana, de modo a demonstrar mais didaticamente o que é e como opera o algoritmo no envio de indicações, recomendações e notificações que capturam a atenção do usuário e modificam seu comportamento.
O caráter especulativo desse sistema se encontra com o acúmulo de dados, e o lucro dessas empresas vem não apenas das predições do comportamento do usuário, mas também da manipulação desse comportamento.
A briga das corporações de tecnologia hoje é pela nossa atenção: quanto mais tempo um usuário passa em uma rede social e quanto mais se movimenta por ela através dos cliques, mais informação está fornecendo para as plataformas, que há muito deixaram de ser ferramentas e assumiram o papel de atores na rede infocomunicacional. Tudo o que um usuário faz (e também o que deixa de fazer) é imediatamente “dataficado” e absorvido pelo algoritmo, que, por meio de um sistema de aprendizado de máquina (machine learning), aperfeiçoa-se e personaliza-se para fornecer mais conteúdo que prenda a atenção e mantenha o usuário na plataforma. Tudo isso, de acordo com os entrevistados, é feito de caso pensado: desde o design das interfaces das redes sociais até o que está por trás delas, a parte que não podemos ver — o algoritmo.
Shoshana Zuboff, pesquisadora e autora do livro The age of surveillance capitalism (2019), é uma das entrevistadas do filme. Segundo ela, vivemos um novo momento do sistema capitalista: o da vigilância, no qual as empresas de tecnologia digital — o chamado GAFAM, ou “Big Five”: Google, Apple, Facebook, Amazon e Microsoft — detêm um imenso poder informacional sobre os dados dos usuários de seus softwares e plataformas. O caráter especulativo desse sistema se encontra com o acúmulo de dados, e o lucro dessas empresas vem não apenas das predições do comportamento do usuário, mas também da manipulação desse comportamento.
Um dos pontos mais interessantes do documentário é a relação entre as redes sociais, a performatividade algorítmica e as fake news. As notícias falsas, uma contradição por si só (poderiam notícias ser mentirosas?), são um produto da nossa era. Boatos e rumores são tipos de informação falsa com as quais a humanidade convive há mais tempo, enquanto as publicações que mimetizam o jornalismo, produzidas com fins de desinformação e disseminação de conteúdo enganoso, são uma novidade com a qual ainda estamos aprendendo a lidar e a combater. E, infelizmente, nos últimos anos, as redes sociais facilitaram e permitiram a propagação desse tipo de produto.
CENÁRIO MONTADO PARA AS FAKE NEWS
Nenhum frequentador da internet há de discordar que as redes sociais são um dos principais locais de compartilhamento de conteúdo, porém, ainda se fala pouco sobre o papel ativo que elas exercem nessa rede de desinformação. De que maneira sites como Facebook, Twitter, Instagram e tantos outros contribuem para que conteúdos mentirosos se disseminem e atinjam cada vez mais pessoas? E como também propiciam que os usuários dos sites mergulhem cada vez mais fundo em teorias conspiratórias, contextos falsos e mentiras?
O documentário explora essa relação e a dramatiza na narrativa sobre a família: o filho do meio, Ben (Skyler Gisondo), é um adolescente pouco informado sobre assuntos que extrapolam sua bolha escolar e pouco politizado, mas, por meio das indicações algorítmicas, passa a ter contato com discursos radicais e produtores de conteúdo extremista de um grupo político fictício. O interesse do rapaz é alimentado pelo algoritmo, que sugere, constante e insistentemente, novos vídeos, páginas e links para manter a atenção e aumentar o tempo de permanência dele na rede. E seria de muita ingenuidade acreditar que as redes sociais nas quais estamos cadastrados hoje não fazem exatamente o mesmo conosco.
E onde o jornalismo entra nisso tudo? O documentário oferece exemplos bastante conhecidos, como a eleição americana de 2016, que elegeram o republicano Donald Trump, e a brasileira de 2018, que levou Jair Bolsonaro (sem partido) à presidência. Historicamente, o jornalismo exerce uma força sobre a opinião pública, mas, enquanto as empresas jornalísticas e veículos independentes estão descobrindo, junto aos leitores e consumidores de notícias, o ambiente online e as redes sociais, as fake news se tornaram atores determinantes nos processos eleitorais. A desinformação correu (e ainda corre) solta pelos grupos de WhatsApp e Telegram, e “li no ‘Face’” se tornou uma frase tão comum quanto “vi no Jornal Nacional”.
Em meio a uma crise de credibilidade, o jornalismo passa a ser desacreditado por parte da população, que tem certeza de que a mídia tradicional está a serviço de alguma “agenda secreta” para a “destruição do país”. O documentário mostra, inclusive, uma cena bastante emblemática que muitos devem lembrar: manifestantes pró-governo gritando “WhatsApp! Facebook!” para um repórter, em manifestação na praça dos Três Poderes, em Brasília. O cenário é perfeito para que narrativas mentirosas cresçam e convençam aqueles que já não confiam mais nos jornais, nas emissoras de televisão e de rádio. Estes passam a recorrer às redes sociais para se informar, por meio de publicações ditas “relevantes” por um algoritmo e um feed de notícias alimentado por uma bolha que, em grande parte das vezes, pensa da mesma forma que o usuário, interrompendo o ciclo da espiral do silêncio. Essa mesma história se repete em diversos países ocidentais que viram, nos anos recentes, governos de extrema direita ascenderem rapidamente ao poder (um outro filme, o polonês Rede de ódio, também produzido pela Netflix, trata desse assunto por meio de uma narrativa de ficção; vale o play). As redes sociais foram o espaço que esses candidatos encontraram para disseminar sua palavra, e a internet se tornou ambiente “oficial” para informes governamentais.
De forma bastante direta e didática, o filme ajuda a compreender como funciona a performatividade algorítmica e como ela, por meio da especulação e predição, tem o poder de manipular os usuários.
Ainda precisamos aprender a lidar melhor com as redes sociais e tudo o que elas têm a nos oferecer. São inúmeros os benefícios e facilidades, mas problemáticas com as quais nos deparamos hoje, como a precarização das relações de trabalho e o controle dos dados por um grupo pequeno de corporações, não eram previstos quando os primeiros computadores pessoais surgiram na década de 1980 ou quando a internet começou a se popularizar. Os algoritmos e as redes sociais não são apenas meios ou ferramentas neutras, e sim actantes ativos na rede tecno-informacional: são eles quem determinam a relevância de determinados conteúdos que aparecem no feed de notícias personalizado de cada usuário, antecipam decisões e produzem nossas interações com outros usuários (para saber mais, ver A relevância dos algoritmos, artigo do pesquisador Tarleton Gillespie). O que o documentário faz é explicitar o que há por trás das interfaces amigáveis e de fácil usabilidade das redes sociais, muitas vezes desconhecido por pessoas deslumbradas com o caráter “mágico” dessas tecnologias.
De forma bastante direta e didática, o filme ajuda a compreender como funciona a performatividade algorítmica e como ela, por meio da especulação e predição, tem o poder de manipular os usuários. E faz isso sem demonizar a internet ou deixar-nos com a sensação de que é urgente deletar todos os perfis em redes sociais e voltar a se comunicar estritamente por cartas, mas também não sem deixar no espectador uma pulguinha atrás da orelha sobre as questões políticas e econômicas que se escondem por trás da aura futurista e “muito Black Mirror” da tecnologia que seguramos em nossas mãos.
