 |
| (Charles Deluvio / Unsplash). |
Tradução / Facebook e Google estão coletando uma grande quantidade de dados sobre nós e usando essas informações não apenas para nos vender anúncios, mas também para nos viciar em suas plataformas, nos separar de nossos amigos e familiares e preencher nossas mentes com teorias de conspiração. Pelo menos é isso que um novo documentário da Netflix quer que a gente acredite
O Dilema das Redes foi lançado pela plataforma de streaming no dia 9 de setembro e imediatamente chegou à lista dos dez mais assistidos. O filme entrevista pessoas que trabalharam em grandes empresas de tecnologia e agora vieram dizer, junto e com pesquisadores, que o “capitalismo de vigilância” é uma ameaça existencial para nossas sociedades.
No entanto, essa narrativa tecnodeterminista acaba por inflar as capacidades de captura de dados e algoritmos e, assim, atribui à tecnologia uma série de problemas que têm suas raízes nas condições sociais e econômicas mais fundamentais da sociedade moderna. É importante compreender quais os efeitos destas tecnologias sobre nós, tanto pessoal quanto coletivamente, mas é preciso reconhecer o histórico e as estruturas mais amplas desses problemas. Sem isso, pensaremos em soluções que não chegam realmente à raiz dos problemas.
Cegados pelo determinismo tecnológico
Em 1995, Richard Barbrook e Andy Cameron cunharam a chamada “Ideologia Californiana“. No Vale do Silício, os estudos da economia de mercado e as liberdades do artesanato hippie foram combinados com uma crença quase universal no determinismo tecnológico para criar uma ideologia liberal. Esta ideologia pensava que a humanidade melhoraria não por meio das estruturas de poder legais, sociais e políticas existentes, mas por meio do livre mercado e do desenvolvimento contínuo de novas tecnologias.
“Portanto, o debate político é uma perda de tempo”, eles explicaram, e só atrapalharia o progresso tecnológico. Foi o encontro do neoliberalismo com a tecnologia.
É evidente que, nos últimos anos, a visão geral sobre o papel da política em relação à tecnologia está começando a mudar entre os frequentadores do Vale do Silício, especialmente entre aqueles que não ocupam posições executivas nos conglomerados tecnológicos ou em empresas de capital de risco. Mas isto não significa que o determinismo tecnológico não seja protagonista nos modos como percebemos a tecnologia e seus efeitos potenciais – seja dentro ou fora do Vale do Silício.
Enquanto o setor de tecnologia crescia para se tornar um rolo compressor econômico, ele espalhou sua narrativa tecnodeterminista para muito além de São Francisco, a ponto de que essas narrativas fossem muito repetidas pela mídia e por políticos. É a ideia de que toda novidade tecnológica deve tornar nossas vidas melhores, do smartphone até as cidades inteligentes. Por muito tempo, as críticas que iam contra essa narrativa eram escanteadas, e só agora o cenário está começando a mudar.
No documentário O Dilema das Redes, o determinismo tecnológico ainda controla a narrativa, mas a premissa básica é invertida. Em vez da tecnologia tornar o mundo melhor, a maioria das pessoas do filme reconhece que coisas ruins estão acontecendo, mas dada a perspectiva que elas enxergam o mundo, o problema principal também deve ser tecnológico.
Esta perspectiva é reforçada pelo enredo dramático, que tem lugar entre as entrevistas, e segue uma família em que os filhos estão cada vez mais viciados em seus celulares, enquanto pessoas em um centro de controle algorítmico imaginário selecionam conteúdos e notificações para deixá-los ainda mais engajados, com o objetivo de vender anúncios.
Evgeny Morozov, autor do livro To Save Everything Click Here: The Folly of Technological Solutionism, explica que esta forma limitada de ver o mundo leva a “soluções simplificadoras – o tipo de coisa que impressiona em TEDs -, para problemas extremamente complexos, fluidos e controversos”. Na verdade, uma apresentação do tipo TED aparece no próprio filme.
Vivemos em um mundo que enfrenta diversos desafios sociais e econômicos, e reduzi-los a Facebook e Google, ou a dados e algoritmos, é não ver o todo.
Comprando as narrativas do mercado
Em agosto, Cory Doctorow publicou How to Destroy Surveillance Capitalism, que desmonta de forma sistemática as mesmas ideias que são jogadas em O Dilema das Redes. Parte do problema com a ideia do capitalismo de vigilância está no erro de dar um foco excessivo no aspecto da vigilância e muito pouco no próprio capitalismo.
Doctorow desvenda como as afirmações de que as grandes quantidades de dados e os algoritmos para criar sistemas tecnológicos que controlam a mente não são baseadas em fatos científicos, mas nas afirmações de marketing feitas por empresas como Facebook e Google para convencer os anunciantes a gastar seu dinheiro em suas plataformas.
Em Subprime Attention Crisis: Advertising and the Time Bomb at the Heart of the Internet, Tim Hwang explica que, apesar de todas as afirmações sobre a capacidade de segmentação de mercado que foi possibilitada com todos esses novos dados, os anúncios online são incrivelmente ineficazes. E muitas pessoas não percebem isso em parte porque há pouca transparência nos mercados de anúncios digitais. Isso permite que essas empresas de tecnologia façam um discurso de vendas ousado, mesmo quando, segundo Doctorow, elas “se safam com promessas exageradas e retorno insuficiente”.
Mas o documentário mostra que há uma incapacidade de lidar com esse fato de haver uma perspectiva mais ampla além dessa moldura tecnodeterminista falha. Por exemplo, a indústria de tecnologia há muito tempo é criticada por não apresentar perspectivas mais amplas que envolvem ciências sociais e humanas, especialmente sobre como as tendências atuais se relacionam com os desenvolvimentos históricos.
A certa altura, Tristan Harris, um ex-especialista em ética de design do Google que se tornou o personagem central do documentário, argumentou sobre como as tecnologias baseadas em ferramentas não causavam o mesmo tipo de raiva que aquelas baseadas em vício e manipulação. Ele usa o exemplo das bicicletas e argumenta que “ninguém ficou chateado” ou disse “acabamos de arruinar a sociedade” quando elas se tornaram populares – exceto que isso não é verdade. Quando as bicicletas surgiram no século XIX, houve um retrocesso em relação à liberdade dada às mulheres.
Da mesma forma, o documentário tenta empurrar a ideia bastante comum de que as redes sociais está criando desigualdade social e partidarismo político, e trata isso como uma novidade. As redes sociais certamente estão surtindo efeito, com seus filtros-bolha e o privilégio do Facebook em relação ao conteúdo de direita , mas este não é o fator determinante em relação às formações políticas e sociais.
É mais que tecnologia
ODilema das Redes não só ignora o passado como apresenta uma visão distorcida do presente. Se a tese do filme está correta, então os efeitos negativos na sociedade são derivados apenas das plataformas que utilizam modelos de captura de dados e curadoria por algoritmos, o que não é o caso.
Por exemplo, o Whatsapp é apontado como culpado por espalhar fake news e narrativas de extrema direita no Brasil e na Índia. Mas como explica Adi Robertson, “o Whatsapp é quase nada parecido com o Facebook. É um serviço altamente privativo de mensagens criptografadas e sem interferência de algoritmo, que mesmo assim é terreno fértil para as falsas narrativas”. Ela também ressalta que os recentes agressores de extrema direita dos últimos anos não emergiram do Facebook ou YouTube, mas se radicalizaram em plataformas menores, sem a mesma curadoria de algoritmo ou orientação comercial, como 4chan, 8chan, Gab e Stormfront.
O que tudo isso nos diz é que reduzir os problemas sociais crescentes à novas tecnologias não é adequado. Enquadrar o problema desta maneira faz parecer que, caso criássemos melhores plataformas, tudo estaria resolvido – mas se as plataformas estão respondendo aos incentivos econômicos do sistema capitalista, então isso é que deveria receber maior atenção e crítica.
Devemos acreditar que a polarização social é resultado do Facebook e não do fato de que a desigualdade de renda retrocedeu a níveis anteriores à Grande Depressão (e que possivelmente ficarão muito piores devido à pandemia)?
Devemos acreditar que a desconfiança com as elites e com os políticos é fruto dos resultados de busca do Google, e não do fato de que o sistema político não está respondendo às necessidades da vasta maioria da população, enquanto o governo deixa a indústria se autorregular, acarretando em tragédias como o Boeing 737 MAX?
Devemos acreditar que a destruição das relações comunitárias e pessoais deriva de algoritmos inteligentes, e não do fato de que o capitalismo comercializou a maior parte das nossas vidas, dizimou espaços públicos e garantiu que nossas comunidades fossem construídas de uma maneira que separasse a maioria das pessoas em subúrbios auto-orientados?
Acho que você já sabe a resposta.
O problema é o capitalismo
Facebook e Google não são atores benevolentes. Entre seu poder de monopólio e o modo como gerenciam suas plataformas, as plataformas estão provocando impactos negativos em nossas sociedades. Mas atribuir a maioria de nossos problemas sociais e econômicos à tecnologia – e não ao sistema econômico capitalista – é perder o quadro geral da situação.
Perto do final de O Dilema das Redes, o ex-gerente de produto do Google Justin Rosenstein apresenta um argumento crítico em relação ao capitalismo, mas depois de mais de uma hora contando que dados e algoritmos são o verdadeiro problema na mente das pessoas, ele falha na missão de conectar isso a uma narrativa mais ampla. Alguns dos outros supostos especialistas sugerem regulação e que as pessoas excluam suas contas nas redes sociais. Porém, essas são respostas individuais para um problema muito mais profundo e coletivo.
Bailey Richardson, um dos primeiros funcionários do Instagram, explica que a internet costumava ser mais esquisita e criativa, mas agora parece um shopping gigante. O filme retrata essas mudanças como resultado de decisões de engenheiros e que agora eles têm a responsabilidade de corrigir tudo isso. Mas a padronização da web é um resultado direto de sua comercialização. O desenvolvimento dessas plataformas massivas relaciona-se às formas como as principais empresas obtêm grandes lucros – e a melhor maneira de transformar isso é tocar no seu ponto mais fundamental.
Em última análise, uma internet melhor não significa apenas ter mais concorrência ou controlar a captura e vigilância de dados. Precisamos reconhecer que a internet foi um produto de pesquisa e financiamento público. Para melhorá-la, talvez seja necessário retornar a uma estrutura não comercial, em que as empresas públicas possuam as infraestruturas-chave, as cooperativas operem uma variedade de plataformas com incentivos muito diferentes e sem fins lucrativos, e as pessoas comuns possam colaborar em novas ferramentas digitais sem que haja um imperativo comercial. Mas isso também exigirá mudanças nas estruturas políticas e econômicas mais amplas.
O Dilema das Redes surge como uma propaganda liberal tecnodeterminista de um grupo de pessoas que se tornaram incrivelmente ricas por trabalhar para essas empresas de tecnologia e agora estão construindo novas carreiras apontando o dedo para o que percebem como suas falhas. Mas o enquadramento do problema continua a atribuir à tecnologia uma espécie de força mágica poderosa que nos distrai dos problemas sociais e econômicos mais profundos que afetam nossas sociedades.
O Dilema das Redes foi lançado pela plataforma de streaming no dia 9 de setembro e imediatamente chegou à lista dos dez mais assistidos. O filme entrevista pessoas que trabalharam em grandes empresas de tecnologia e agora vieram dizer, junto e com pesquisadores, que o “capitalismo de vigilância” é uma ameaça existencial para nossas sociedades.
No entanto, essa narrativa tecnodeterminista acaba por inflar as capacidades de captura de dados e algoritmos e, assim, atribui à tecnologia uma série de problemas que têm suas raízes nas condições sociais e econômicas mais fundamentais da sociedade moderna. É importante compreender quais os efeitos destas tecnologias sobre nós, tanto pessoal quanto coletivamente, mas é preciso reconhecer o histórico e as estruturas mais amplas desses problemas. Sem isso, pensaremos em soluções que não chegam realmente à raiz dos problemas.
Cegados pelo determinismo tecnológico
Em 1995, Richard Barbrook e Andy Cameron cunharam a chamada “Ideologia Californiana“. No Vale do Silício, os estudos da economia de mercado e as liberdades do artesanato hippie foram combinados com uma crença quase universal no determinismo tecnológico para criar uma ideologia liberal. Esta ideologia pensava que a humanidade melhoraria não por meio das estruturas de poder legais, sociais e políticas existentes, mas por meio do livre mercado e do desenvolvimento contínuo de novas tecnologias.
“Portanto, o debate político é uma perda de tempo”, eles explicaram, e só atrapalharia o progresso tecnológico. Foi o encontro do neoliberalismo com a tecnologia.
É evidente que, nos últimos anos, a visão geral sobre o papel da política em relação à tecnologia está começando a mudar entre os frequentadores do Vale do Silício, especialmente entre aqueles que não ocupam posições executivas nos conglomerados tecnológicos ou em empresas de capital de risco. Mas isto não significa que o determinismo tecnológico não seja protagonista nos modos como percebemos a tecnologia e seus efeitos potenciais – seja dentro ou fora do Vale do Silício.
Enquanto o setor de tecnologia crescia para se tornar um rolo compressor econômico, ele espalhou sua narrativa tecnodeterminista para muito além de São Francisco, a ponto de que essas narrativas fossem muito repetidas pela mídia e por políticos. É a ideia de que toda novidade tecnológica deve tornar nossas vidas melhores, do smartphone até as cidades inteligentes. Por muito tempo, as críticas que iam contra essa narrativa eram escanteadas, e só agora o cenário está começando a mudar.
No documentário O Dilema das Redes, o determinismo tecnológico ainda controla a narrativa, mas a premissa básica é invertida. Em vez da tecnologia tornar o mundo melhor, a maioria das pessoas do filme reconhece que coisas ruins estão acontecendo, mas dada a perspectiva que elas enxergam o mundo, o problema principal também deve ser tecnológico.
Esta perspectiva é reforçada pelo enredo dramático, que tem lugar entre as entrevistas, e segue uma família em que os filhos estão cada vez mais viciados em seus celulares, enquanto pessoas em um centro de controle algorítmico imaginário selecionam conteúdos e notificações para deixá-los ainda mais engajados, com o objetivo de vender anúncios.
Evgeny Morozov, autor do livro To Save Everything Click Here: The Folly of Technological Solutionism, explica que esta forma limitada de ver o mundo leva a “soluções simplificadoras – o tipo de coisa que impressiona em TEDs -, para problemas extremamente complexos, fluidos e controversos”. Na verdade, uma apresentação do tipo TED aparece no próprio filme.
Vivemos em um mundo que enfrenta diversos desafios sociais e econômicos, e reduzi-los a Facebook e Google, ou a dados e algoritmos, é não ver o todo.
Comprando as narrativas do mercado
Em agosto, Cory Doctorow publicou How to Destroy Surveillance Capitalism, que desmonta de forma sistemática as mesmas ideias que são jogadas em O Dilema das Redes. Parte do problema com a ideia do capitalismo de vigilância está no erro de dar um foco excessivo no aspecto da vigilância e muito pouco no próprio capitalismo.
Doctorow desvenda como as afirmações de que as grandes quantidades de dados e os algoritmos para criar sistemas tecnológicos que controlam a mente não são baseadas em fatos científicos, mas nas afirmações de marketing feitas por empresas como Facebook e Google para convencer os anunciantes a gastar seu dinheiro em suas plataformas.
Em Subprime Attention Crisis: Advertising and the Time Bomb at the Heart of the Internet, Tim Hwang explica que, apesar de todas as afirmações sobre a capacidade de segmentação de mercado que foi possibilitada com todos esses novos dados, os anúncios online são incrivelmente ineficazes. E muitas pessoas não percebem isso em parte porque há pouca transparência nos mercados de anúncios digitais. Isso permite que essas empresas de tecnologia façam um discurso de vendas ousado, mesmo quando, segundo Doctorow, elas “se safam com promessas exageradas e retorno insuficiente”.
Mas o documentário mostra que há uma incapacidade de lidar com esse fato de haver uma perspectiva mais ampla além dessa moldura tecnodeterminista falha. Por exemplo, a indústria de tecnologia há muito tempo é criticada por não apresentar perspectivas mais amplas que envolvem ciências sociais e humanas, especialmente sobre como as tendências atuais se relacionam com os desenvolvimentos históricos.
A certa altura, Tristan Harris, um ex-especialista em ética de design do Google que se tornou o personagem central do documentário, argumentou sobre como as tecnologias baseadas em ferramentas não causavam o mesmo tipo de raiva que aquelas baseadas em vício e manipulação. Ele usa o exemplo das bicicletas e argumenta que “ninguém ficou chateado” ou disse “acabamos de arruinar a sociedade” quando elas se tornaram populares – exceto que isso não é verdade. Quando as bicicletas surgiram no século XIX, houve um retrocesso em relação à liberdade dada às mulheres.
Da mesma forma, o documentário tenta empurrar a ideia bastante comum de que as redes sociais está criando desigualdade social e partidarismo político, e trata isso como uma novidade. As redes sociais certamente estão surtindo efeito, com seus filtros-bolha e o privilégio do Facebook em relação ao conteúdo de direita , mas este não é o fator determinante em relação às formações políticas e sociais.
É mais que tecnologia
ODilema das Redes não só ignora o passado como apresenta uma visão distorcida do presente. Se a tese do filme está correta, então os efeitos negativos na sociedade são derivados apenas das plataformas que utilizam modelos de captura de dados e curadoria por algoritmos, o que não é o caso.
Por exemplo, o Whatsapp é apontado como culpado por espalhar fake news e narrativas de extrema direita no Brasil e na Índia. Mas como explica Adi Robertson, “o Whatsapp é quase nada parecido com o Facebook. É um serviço altamente privativo de mensagens criptografadas e sem interferência de algoritmo, que mesmo assim é terreno fértil para as falsas narrativas”. Ela também ressalta que os recentes agressores de extrema direita dos últimos anos não emergiram do Facebook ou YouTube, mas se radicalizaram em plataformas menores, sem a mesma curadoria de algoritmo ou orientação comercial, como 4chan, 8chan, Gab e Stormfront.
O que tudo isso nos diz é que reduzir os problemas sociais crescentes à novas tecnologias não é adequado. Enquadrar o problema desta maneira faz parecer que, caso criássemos melhores plataformas, tudo estaria resolvido – mas se as plataformas estão respondendo aos incentivos econômicos do sistema capitalista, então isso é que deveria receber maior atenção e crítica.
Devemos acreditar que a polarização social é resultado do Facebook e não do fato de que a desigualdade de renda retrocedeu a níveis anteriores à Grande Depressão (e que possivelmente ficarão muito piores devido à pandemia)?
Devemos acreditar que a desconfiança com as elites e com os políticos é fruto dos resultados de busca do Google, e não do fato de que o sistema político não está respondendo às necessidades da vasta maioria da população, enquanto o governo deixa a indústria se autorregular, acarretando em tragédias como o Boeing 737 MAX?
Devemos acreditar que a destruição das relações comunitárias e pessoais deriva de algoritmos inteligentes, e não do fato de que o capitalismo comercializou a maior parte das nossas vidas, dizimou espaços públicos e garantiu que nossas comunidades fossem construídas de uma maneira que separasse a maioria das pessoas em subúrbios auto-orientados?
Acho que você já sabe a resposta.
O problema é o capitalismo
Facebook e Google não são atores benevolentes. Entre seu poder de monopólio e o modo como gerenciam suas plataformas, as plataformas estão provocando impactos negativos em nossas sociedades. Mas atribuir a maioria de nossos problemas sociais e econômicos à tecnologia – e não ao sistema econômico capitalista – é perder o quadro geral da situação.
Perto do final de O Dilema das Redes, o ex-gerente de produto do Google Justin Rosenstein apresenta um argumento crítico em relação ao capitalismo, mas depois de mais de uma hora contando que dados e algoritmos são o verdadeiro problema na mente das pessoas, ele falha na missão de conectar isso a uma narrativa mais ampla. Alguns dos outros supostos especialistas sugerem regulação e que as pessoas excluam suas contas nas redes sociais. Porém, essas são respostas individuais para um problema muito mais profundo e coletivo.
Bailey Richardson, um dos primeiros funcionários do Instagram, explica que a internet costumava ser mais esquisita e criativa, mas agora parece um shopping gigante. O filme retrata essas mudanças como resultado de decisões de engenheiros e que agora eles têm a responsabilidade de corrigir tudo isso. Mas a padronização da web é um resultado direto de sua comercialização. O desenvolvimento dessas plataformas massivas relaciona-se às formas como as principais empresas obtêm grandes lucros – e a melhor maneira de transformar isso é tocar no seu ponto mais fundamental.
Em última análise, uma internet melhor não significa apenas ter mais concorrência ou controlar a captura e vigilância de dados. Precisamos reconhecer que a internet foi um produto de pesquisa e financiamento público. Para melhorá-la, talvez seja necessário retornar a uma estrutura não comercial, em que as empresas públicas possuam as infraestruturas-chave, as cooperativas operem uma variedade de plataformas com incentivos muito diferentes e sem fins lucrativos, e as pessoas comuns possam colaborar em novas ferramentas digitais sem que haja um imperativo comercial. Mas isso também exigirá mudanças nas estruturas políticas e econômicas mais amplas.
O Dilema das Redes surge como uma propaganda liberal tecnodeterminista de um grupo de pessoas que se tornaram incrivelmente ricas por trabalhar para essas empresas de tecnologia e agora estão construindo novas carreiras apontando o dedo para o que percebem como suas falhas. Mas o enquadramento do problema continua a atribuir à tecnologia uma espécie de força mágica poderosa que nos distrai dos problemas sociais e econômicos mais profundos que afetam nossas sociedades.
Sobre a autora
Paris Marx is a freelance writer, host of left-wing tech podcast Tech Won't Save Us, and editor of Radical Urbanist.
Nenhum comentário:
Postar um comentário