Richard Seymour
Já não é novidade que os usuários da indústria e ratos de laboratório somos um produto do qual clique, rolagem, passagem do mouse e visualização são monitorados meticulosamente pelos gigantes da tecnologia. Os dados são coletados, agregados e depois segmentados em mercados muito mais precisos do que qualquer outro na história.
O principal objetivo comercial desses dados é nos vender como mercados para anunciantes e manipular de forma mais eficiente nossas respostas. Prever e manipular como vamos pensar e agir no futuro, com base nos dados, tornou-se um grande mercado em si: o mercado dos “futuros humanos”, como a psicóloga social Shoshana Zuboff diz no documentário.
O que foi deslocado e distorcido em “O dilema das redes” para produzir esse cinema do pânico moral? O capital. O documentário é muito claro sobre os aspectos da indústria social e como ela funciona. É, como diz Harris, “uma espécie totalmente nova de poder”. A indústria social não apenas nos monitora e nos manipula. Quanto mais nossa vida social é gasta nessas plataformas, mais nossa vida social é programada.
Jaron Lanier, o avô de fala mansa da ciência da computação, conta a maneira como as plataformas apresentam uma “terceira pessoa furtiva” entre cada par de interlocutores, usada para que a conversa seja manipulada.
No entanto, se todo o caos recente do sistema político dos EUA, do QAnon às milícias armadas de direita, pode ser convenientemente atribuído à indústria social, então faz sentido para Kendall alegar que uma “guerra civil” pode ser o resultado provável de curto prazo da forma como a mídia social funciona hoje. Lanier vai além, prevendo que, se não se resolver isso agora, a mudança climática não será resolvida, a civilização será destruída e “não sobrevivemos”.
É de forma quase farsesca, então, que “O dilema das redes” chega às suas soluções – e nos diz que precisamos realinhar os incentivos financeiros, por exemplo, tributando a coleta de dados; insiste em não usar dispositivos no quarto antes de dormir; e nunca clicar em um “vídeo recomendado”.
Jacobin
Tradução / Que dano a mídia social pode causar? Guerra civil! O fim da civilização como a conhecemos! Esse é o veredicto dos renegados luminares do Vale do Silício, alinhavados no novo documentário da Netflix, “The Social Dilemma” (“O dilema das redes”). Como disse o ex-funcionário do Google, Tristan Harris, “a mídia social ameaça a humanidade com um xeque-mate”.
Quando se acha que tudo isso soa como pânico moral, não se erra muito. O resultado final é a enorme lacuna entre o problema alegado e as soluções – coleta de dados fiscais, realinhamento de incentivos financeiros e nenhum dispositivo antes de dormir. Este é um documentário feito para pais preocupados, liberais #resistance e republicanos #NeverTrump .
Todos os vilões do “chicote” tecnológico liberal estão aqui: notícias falsas, ciberataques russos, ditadores estrangeiros, “agentes do mal”, polarização política e adolescentes deprimidos. O documentário empurra um chefe de plataforma cansado após o outro para entregar essa homilia familiar, dramatizada com uma história de fundo sobre uma família suburbana de Anytown, EUA, dilacerada pelo vício em mídia social.
 |
| Cena de "O dilema das redes" - Imagem: Netflix |
Tradução / Que dano a mídia social pode causar? Guerra civil! O fim da civilização como a conhecemos! Esse é o veredicto dos renegados luminares do Vale do Silício, alinhavados no novo documentário da Netflix, “The Social Dilemma” (“O dilema das redes”). Como disse o ex-funcionário do Google, Tristan Harris, “a mídia social ameaça a humanidade com um xeque-mate”.
Quando se acha que tudo isso soa como pânico moral, não se erra muito. O resultado final é a enorme lacuna entre o problema alegado e as soluções – coleta de dados fiscais, realinhamento de incentivos financeiros e nenhum dispositivo antes de dormir. Este é um documentário feito para pais preocupados, liberais #resistance e republicanos #NeverTrump .
Todos os vilões do “chicote” tecnológico liberal estão aqui: notícias falsas, ciberataques russos, ditadores estrangeiros, “agentes do mal”, polarização política e adolescentes deprimidos. O documentário empurra um chefe de plataforma cansado após o outro para entregar essa homilia familiar, dramatizada com uma história de fundo sobre uma família suburbana de Anytown, EUA, dilacerada pelo vício em mídia social.
Embora seja um clichê, há algo nisso. O pânico moral, em geral, não é inteiramente fabricado. Tende a se fundar em uma realidade distorcida. E a indústria que este documentário descreve em termos tão dilacerantes – vamos chamá-la de indústria social – merece todas as críticas que recebe.
“Like a Dopamine Hit”?
O principal objetivo comercial desses dados é nos vender como mercados para anunciantes e manipular de forma mais eficiente nossas respostas. Prever e manipular como vamos pensar e agir no futuro, com base nos dados, tornou-se um grande mercado em si: o mercado dos “futuros humanos”, como a psicóloga social Shoshana Zuboff diz no documentário.
Talvez menos compreendido seja até que ponto os designers de tecnologia são sistematicamente treinados em persuasão psicológica por seus empregadores com a intenção de usar esse conhecimento no projeto de plataformas para tornar os usuários mais sugestionáveis.
Chamath Palihapitiya, um dos primeiros executivos do Facebook e agora um “objetor de consciência”, passava seu tempo lá experimentando com os usuários, testando táticas minuciosas subliminares, abaixo do radar da consciência, para mantê-los presos e incitá-los a se “engajar” mais. Configurações padrão, rolagem infinita, “recibos de leitura” e alertas de que outro usuário está digitando são exemplos dessas táticas.
Sean Parker, um ex-chefe do Facebook, argumenta que essas técnicas, consciente e deliberadamente, exploram “uma vulnerabilidade na psicologia humana”. Usando-as, criou-se uma máquina que vicia. O número de usuários e o envolvimento aumentaram espetacularmente. Essas empresas se tornaram as mais lucrativas do mundo.
Chamath Palihapitiya, um dos primeiros executivos do Facebook e agora um “objetor de consciência”, passava seu tempo lá experimentando com os usuários, testando táticas minuciosas subliminares, abaixo do radar da consciência, para mantê-los presos e incitá-los a se “engajar” mais. Configurações padrão, rolagem infinita, “recibos de leitura” e alertas de que outro usuário está digitando são exemplos dessas táticas.
Sean Parker, um ex-chefe do Facebook, argumenta que essas técnicas, consciente e deliberadamente, exploram “uma vulnerabilidade na psicologia humana”. Usando-as, criou-se uma máquina que vicia. O número de usuários e o envolvimento aumentaram espetacularmente. Essas empresas se tornaram as mais lucrativas do mundo.
Eles sabem por que suas técnicas funcionam? Têm uma teoria. Palihapitiya argumenta que recursos de mídia social, como contagens de curtidas e notificações em vermelho brilhante, são projetados para recompensar o envolvimento com um “golpe de dopamina”. A Dra. Anna Lembke, que acrescenta autoridade científica a esse truque do Vale do Silício, argumenta: “A mídia social é uma droga. Temos um imperativo biológico de nos conectarmos com outras pessoas”.
Dado esse imperativo evolutivo, quando recebemos notícias de curtidas e outros sinais de aprovação, os “caminhos de recompensa” de nossos cérebros se iluminam e percebemos nosso sucesso. As recompensas são mais eficazes por serem intermitentes do que por serem previsíveis. E, quanto mais repetimos a ação e obtemos a recompensa, mais “aprendemos” a ser viciados.
Isso é um absurdo, baseado em antigos mitos behavioristas hoje desacreditados. A dopamina não dá um “golpe” em ninguém. E as pessoas não “aprendem” a se tornar viciadas por meio de recompensas e reforços. A revisão clássica de experimentos comportamentais de William Brewer descobriu que a presença ou ausência de estímulos de recompensa ou reforços negativos não fez diferença se os sujeitos aprenderam ou não o comportamento que os experimentadores buscam.
Dado esse imperativo evolutivo, quando recebemos notícias de curtidas e outros sinais de aprovação, os “caminhos de recompensa” de nossos cérebros se iluminam e percebemos nosso sucesso. As recompensas são mais eficazes por serem intermitentes do que por serem previsíveis. E, quanto mais repetimos a ação e obtemos a recompensa, mais “aprendemos” a ser viciados.
Isso é um absurdo, baseado em antigos mitos behavioristas hoje desacreditados. A dopamina não dá um “golpe” em ninguém. E as pessoas não “aprendem” a se tornar viciadas por meio de recompensas e reforços. A revisão clássica de experimentos comportamentais de William Brewer descobriu que a presença ou ausência de estímulos de recompensa ou reforços negativos não fez diferença se os sujeitos aprenderam ou não o comportamento que os experimentadores buscam.
No entanto, a ideologia behaviorista não examinada de forma crítica infiltrou-se na pesquisa do vício, geralmente fundida com a psicologia evolutiva ainda mais redutiva. Executivos do Vale do Silício adotaram isso para explicar por que são gênios capitalistas por tropeçarem em uma nova maneira de ganhar dinheiro. Mas dizem que eles não têm ideia do que fazem.
Quais são os efeitos do vício? Aqui, o documentário volta-se para o psicólogo social Jonathan Haidt, oferecendo o conjunto usual de estatísticas alarmantes. De acordo com Haidt, a depressão e a ansiedade aumentaram 62% entre as adolescentes desde 2011 e o suicídio, 75%. Para meninas pré-adolescentes, os números equivalentes são 189% e 151%. Essas estatísticas são para os EUA, mas dados semelhantes surgiram em outros lugares.
Tim Kendall, ex-presidente do Pinterest, é enfático ao dizer que “esses serviços estão matando pessoas”. Um documentário mais escrupuloso poderia ter examinado essas questões mais de perto. Pode haver outras causas para o aumento da depressão, ansiedade, automutilação e suicídio entre mulheres jovens? A vida dos jovens piorou recentemente, por exemplo? Se houver outras causas, como seria possível isolar o papel das mídias sociais? Como poderíamos provar que a mídia social não está simplesmente ampliando as tendências sociais que existem?
“O dilema das redes” observa que mulheres jovens supostamente sofrem de algo chamado “dismorfia Snapchat”. Sabe-se que algumas procuram cirurgias plásticas para fazer com que seus corpos se pareçam mais com as imagens que circulam. Essas histórias são amplamente baseadas em anedotas compartilhadas por cirurgiões plásticos.
Quais são os efeitos do vício? Aqui, o documentário volta-se para o psicólogo social Jonathan Haidt, oferecendo o conjunto usual de estatísticas alarmantes. De acordo com Haidt, a depressão e a ansiedade aumentaram 62% entre as adolescentes desde 2011 e o suicídio, 75%. Para meninas pré-adolescentes, os números equivalentes são 189% e 151%. Essas estatísticas são para os EUA, mas dados semelhantes surgiram em outros lugares.
Tim Kendall, ex-presidente do Pinterest, é enfático ao dizer que “esses serviços estão matando pessoas”. Um documentário mais escrupuloso poderia ter examinado essas questões mais de perto. Pode haver outras causas para o aumento da depressão, ansiedade, automutilação e suicídio entre mulheres jovens? A vida dos jovens piorou recentemente, por exemplo? Se houver outras causas, como seria possível isolar o papel das mídias sociais? Como poderíamos provar que a mídia social não está simplesmente ampliando as tendências sociais que existem?
“O dilema das redes” observa que mulheres jovens supostamente sofrem de algo chamado “dismorfia Snapchat”. Sabe-se que algumas procuram cirurgias plásticas para fazer com que seus corpos se pareçam mais com as imagens que circulam. Essas histórias são amplamente baseadas em anedotas compartilhadas por cirurgiões plásticos.
Parece intuitivamente plausível que uma economia de atenção baseada na troca de imagens de auto-perfeição, de “viver o melhor da vida”, encorajaria as jovens a odiarem mais seus corpos. No entanto, o fato de alguém produzir uma imagem de si mesmo no Snapchat, ajustando e manipulando para explicar a cirurgia plástica que deseja, não significa que o Snapchat seja a causa do desejo pela cirurgia. A transformação industrial dos corpos femininos para agradar a alguma ideia do desejo masculino é mais antiga do que os boomers atribuindo tudo às redes sociais.
Whose Power?
O que foi deslocado e distorcido em “O dilema das redes” para produzir esse cinema do pânico moral? O capital. O documentário é muito claro sobre os aspectos da indústria social e como ela funciona. É, como diz Harris, “uma espécie totalmente nova de poder”. A indústria social não apenas nos monitora e nos manipula. Quanto mais nossa vida social é gasta nessas plataformas, mais nossa vida social é programada.
Jaron Lanier, o avô de fala mansa da ciência da computação, conta a maneira como as plataformas apresentam uma “terceira pessoa furtiva” entre cada par de interlocutores, usada para que a conversa seja manipulada.
Mas pode-se ir muito mais longe, e a autora Cathy O’Neil faz isso ao dizer que os algoritmos que regulam como interagimos são apenas “opiniões embutidas no código”. Opiniões de quem? Em grande parte, de homens brancos, ricos, do norte da Califórnia que buscam grande lucro e reputação. Essa é uma questão política extremamente importante, com a qual a esquerda demorou a se preocupar.
“O dilema das redes” tem razão ao destacar o poder que está em jogo aqui. E quando chama a atenção, com horror palpável, para o crescimento exponencial do poder de processamento do computador, compreende claramente que o poder de processamento é poder político.
No entanto, é extraordinário que não ocorra a ninguém pensar nisso como poder de classe. Pois o que está sendo automatizado de forma mais eficiente na ofensiva cibernética contra o trabalho vivo são os imperativos do capital.
A ausência de capital na imaginação do filme resulta em algumas formulações muito estranhas e reveladoras. Dizem que a IA [Inteligência Artificial] governa o mundo. Que “como humanos, quase perdemos o controle sobre esses sistemas”. Que um “xeque-mate na humanidade” está acontecendo. Que as máquinas estão “dominando a natureza humana”, cujos sistemas operacionais e poder de processamento evoluem muito mais lentamente. O único sentido em que tudo isso é verdade é o sentido de que IA é apenas a expressão programática do capital.
Para “O dilema das redes”, as verdadeiras questões políticas que surgem dessa realidade programada têm a ver com a maneira como as plataformas da indústria social promovem a polarização e minam a realidade consensual. Cada um, dizem, está trabalhando com um conjunto diferente de fatos. Guillaume Chaslot, um ex-engenheiro de software do Google, explica que os algoritmos que ajudou a projetar, como o sistema de recomendação “up next” do YouTube, funcionam melhor polarizando as pessoas. Há algo fascinante no conteúdo “extremo”, suficiente para manter os usuários presos.
Harris aponta que “notícias falsas” se espalham seis vezes mais depressa do que a verdade porque “a verdade é entediante”. A seguir, histórias de terror familiares sobre teorias de conspiração, propaganda racista, ideologias da Terra plana e rumores que beneficiam ditadores assassinos – tudo isso prospera nas redes sociais. E, claro, a Rússia “desestabilizando democracias”.
Obviamente, há alguma verdade nisso mas ainda é uma petição de princípio. Pois o que o documentário realmente precisa explicar é o que há de tão viciante nas teorias da conspiração e nesse lixo? Se o YouTube e o Facebook parecem promover entretenimento informativo de extrema direita, isso pode dizer mais sobre as sociedades nas quais a indústria social lucra do que sobre os algoritmos em si. Mark Zuckerberg pode ser amoral o suficiente para lucrar com a negação do Holocausto, mas ninguém argumenta que ele está tentando promovê-lo.
Talvez seja ainda mais insidiosa a afirmação de que a “polarização” e a discordância sobre os fatos são um problema político. Existem, visivelmente, formas de polarização cultural volátil e exaustiva que são aceleradas nas redes sociais, se não exatamente causadas por elas. As guerras culturais online tendem a favorecer a reação à direita. No entanto, não é esse o tema do documentário. O que o preocupa é que as crianças sofram uma lavagem cerebral em bolhas online e se tornem o tipo de “extremista” que é preso pela polícia.
Por trás disso, a preocupação é que, como Harris insiste, não possamos mais concordar sobre o que é verdade. Mas é normal na democracia haver discordância sobre os fatos. E a polarização pode ser a evidência de um renovado engajamento democrático motivado por verdadeiras questões cívicas, em vez de crianças sendo submetidas a lavagem cerebral para apoiar Bernie Sanders através do TikTok. Não é de surpreender que os heróis políticos do documentário neste momento – ambos tendo seu momento de brilhar, ao denunciar o colapso da civilidade – sejam Jeff Flake e Marco Rubio.
“O dilema das redes” tem razão ao destacar o poder que está em jogo aqui. E quando chama a atenção, com horror palpável, para o crescimento exponencial do poder de processamento do computador, compreende claramente que o poder de processamento é poder político.
No entanto, é extraordinário que não ocorra a ninguém pensar nisso como poder de classe. Pois o que está sendo automatizado de forma mais eficiente na ofensiva cibernética contra o trabalho vivo são os imperativos do capital.
A ausência de capital na imaginação do filme resulta em algumas formulações muito estranhas e reveladoras. Dizem que a IA [Inteligência Artificial] governa o mundo. Que “como humanos, quase perdemos o controle sobre esses sistemas”. Que um “xeque-mate na humanidade” está acontecendo. Que as máquinas estão “dominando a natureza humana”, cujos sistemas operacionais e poder de processamento evoluem muito mais lentamente. O único sentido em que tudo isso é verdade é o sentido de que IA é apenas a expressão programática do capital.
Para “O dilema das redes”, as verdadeiras questões políticas que surgem dessa realidade programada têm a ver com a maneira como as plataformas da indústria social promovem a polarização e minam a realidade consensual. Cada um, dizem, está trabalhando com um conjunto diferente de fatos. Guillaume Chaslot, um ex-engenheiro de software do Google, explica que os algoritmos que ajudou a projetar, como o sistema de recomendação “up next” do YouTube, funcionam melhor polarizando as pessoas. Há algo fascinante no conteúdo “extremo”, suficiente para manter os usuários presos.
Harris aponta que “notícias falsas” se espalham seis vezes mais depressa do que a verdade porque “a verdade é entediante”. A seguir, histórias de terror familiares sobre teorias de conspiração, propaganda racista, ideologias da Terra plana e rumores que beneficiam ditadores assassinos – tudo isso prospera nas redes sociais. E, claro, a Rússia “desestabilizando democracias”.
Obviamente, há alguma verdade nisso mas ainda é uma petição de princípio. Pois o que o documentário realmente precisa explicar é o que há de tão viciante nas teorias da conspiração e nesse lixo? Se o YouTube e o Facebook parecem promover entretenimento informativo de extrema direita, isso pode dizer mais sobre as sociedades nas quais a indústria social lucra do que sobre os algoritmos em si. Mark Zuckerberg pode ser amoral o suficiente para lucrar com a negação do Holocausto, mas ninguém argumenta que ele está tentando promovê-lo.
Talvez seja ainda mais insidiosa a afirmação de que a “polarização” e a discordância sobre os fatos são um problema político. Existem, visivelmente, formas de polarização cultural volátil e exaustiva que são aceleradas nas redes sociais, se não exatamente causadas por elas. As guerras culturais online tendem a favorecer a reação à direita. No entanto, não é esse o tema do documentário. O que o preocupa é que as crianças sofram uma lavagem cerebral em bolhas online e se tornem o tipo de “extremista” que é preso pela polícia.
Por trás disso, a preocupação é que, como Harris insiste, não possamos mais concordar sobre o que é verdade. Mas é normal na democracia haver discordância sobre os fatos. E a polarização pode ser a evidência de um renovado engajamento democrático motivado por verdadeiras questões cívicas, em vez de crianças sendo submetidas a lavagem cerebral para apoiar Bernie Sanders através do TikTok. Não é de surpreender que os heróis políticos do documentário neste momento – ambos tendo seu momento de brilhar, ao denunciar o colapso da civilidade – sejam Jeff Flake e Marco Rubio.
Feeble Solutions
No entanto, se todo o caos recente do sistema político dos EUA, do QAnon às milícias armadas de direita, pode ser convenientemente atribuído à indústria social, então faz sentido para Kendall alegar que uma “guerra civil” pode ser o resultado provável de curto prazo da forma como a mídia social funciona hoje. Lanier vai além, prevendo que, se não se resolver isso agora, a mudança climática não será resolvida, a civilização será destruída e “não sobrevivemos”.
É de forma quase farsesca, então, que “O dilema das redes” chega às suas soluções – e nos diz que precisamos realinhar os incentivos financeiros, por exemplo, tributando a coleta de dados; insiste em não usar dispositivos no quarto antes de dormir; e nunca clicar em um “vídeo recomendado”.
Um ex-executivo chega a dar de ombros, dizendo que pouco pode ser feito, já que “a pasta de dente saiu do tubo”. De todas as cabeças falantes, tagarelando agradavelmente sobre modelos de negócios, apenas Zuboff chega perto da escala do problema quando diz que o mercado de dados “futuros humanos” deve ser abolido.
O cerne emocional deste apelo é talvez melhor expresso na afirmação de Lanier de que, toda vez que as coisas mudam para melhor, é porque alguém disse: “Isso é estúpido, podemos fazer melhor.” É difícil engolir a ideia de que essa lenda imortal realmente anunciou os grandes momentos emancipatórios da história, da abolição da escravidão ao voto para as mulheres. No entanto, como explica Lanier, ele não quer prejudicar o Google, Facebook, Pinterest, Instagram, TikTok, YouTube, Twitter ou Snapchat. Este é o seu mundo.
Poucos convidados realmente querem fazer outra coisa senão remediar o que consideram um deficiente “modelo de negócios”. Mas qual é a evidência de que essas empresas podem “fazer melhor”? Eles estão indo muito bem. O documentário repetidamente martela como essa indústria se tornou a mais lucrativa e politicamente importante do mundo. E é uma indústria em rápida evolução, aprendendo novas maneiras de jogar seus assuntos de laboratório. Por que o “realinhamento dos incentivos financeiros” realmente os deteria?
O cerne emocional deste apelo é talvez melhor expresso na afirmação de Lanier de que, toda vez que as coisas mudam para melhor, é porque alguém disse: “Isso é estúpido, podemos fazer melhor.” É difícil engolir a ideia de que essa lenda imortal realmente anunciou os grandes momentos emancipatórios da história, da abolição da escravidão ao voto para as mulheres. No entanto, como explica Lanier, ele não quer prejudicar o Google, Facebook, Pinterest, Instagram, TikTok, YouTube, Twitter ou Snapchat. Este é o seu mundo.
Poucos convidados realmente querem fazer outra coisa senão remediar o que consideram um deficiente “modelo de negócios”. Mas qual é a evidência de que essas empresas podem “fazer melhor”? Eles estão indo muito bem. O documentário repetidamente martela como essa indústria se tornou a mais lucrativa e politicamente importante do mundo. E é uma indústria em rápida evolução, aprendendo novas maneiras de jogar seus assuntos de laboratório. Por que o “realinhamento dos incentivos financeiros” realmente os deteria?
“O dilema das redes” é uma história de terror com um final improvável que redime. Falta o escrúpulo ou sutileza para perguntar quanto do horror emana da sociedade, ao invés da máquina. Isso ocorre porque a conversa está sendo conduzida por liberais prejudicados pela aliança altamente lucrativa da indústria social com Trump e a direita – e tudo isso, depois que Obama e Clinton foram tão bons com o Vale do Silício. Isso, realmente, reflete o atraso da esquerda em se engajar neste terreno.
O cibermarxista Nick Dyer-Witheford certa vez observou que todos os programas são programas políticos. Onde está o programa comunista para a indústria social?
Sobre o autor
O cibermarxista Nick Dyer-Witheford certa vez observou que todos os programas são programas políticos. Onde está o programa comunista para a indústria social?
Sobre o autor
Richard Seymour is the author of several books, including Corbyn: The Strange Rebirth of Radical Politics. He blogs at Lenin’s Tomb.
Nenhum comentário:
Postar um comentário