Uma entrevista com
Cory Doctorow
Jacobin
Doctorow é um escritor, jornalista e ativista canadense-britânico. Ele é conhecido por seu trabalho na área de ficção científica, bem como por suas atividades de defesa dos direitos digitais e da liberdade na Internet. Ele também é co-fundador do blog de tecnologia Boing Boing e atua como membro da Electronic Frontier Foundation (EFF), uma organização sem fins lucrativos que defende a liberdade de expressão, os direitos digitais e a privacidade online.
David Moscrop
Quero começar com seu novo livro. Em primeiro lugar, título fantástico. A cópia do catálogo o descreve como “um thriller emocionante da próxima terça-feira sobre travessuras de criptomoedas que despertarão você para como o mundo realmente funciona”. Você escreveu ficção sobre tecnologia proprietária, impressão 3D, upload de consciência, vigilância e muito mais. Por que criptomoeda desta vez?
Cory Doctorow
Bem, acredito que existe um modo de jornalismo de serviço que pode ser transportado para a ficção — e a ficção científica é ótima nisso — que pega ideias complicadas e extremamente importantes, tratadas como uma caixa preta pelos leitores, e as descomplica, às vezes em torno de uma narrativa. Penso em Margot Robbie fazendo isso no filme A Grande Aposta quando está em uma banheira cheia de espuma, explicando como funcionam os swaps de crédito e as obrigações de dívida concentralizadas.
Há uma espécie de complexidade performática em muitas das maldades em nosso mundo — as coisas são tornadas complexas para serem difíceis de entender. A pretensão é que eles são difíceis de entender porque são intrinsecamente complexos. Existe um termo no setor financeiro para isso, que é “MEGO:” My Eyes Glaze Over, que em português pode ser traduzido como “meus olhos ficam vidrados”. Ela é usada para descrever situações em que um assunto é tão complexo ou tedioso que a pessoa perde o interesse ou a compreensão, deixando seus olhos vidrados.
É um truque. Você dá a alguém um prospecto tão grosso que eles assumem que deve ser importante e bom da mesma forma que, quando você dá a alguém uma pilha grande de merda, eles assumem que deve haver um pônei embaixo dela.
E assim, queria pegar aquelas coisas técnicas e complexas que acontecem com criptografia, uma área na qual acredito que na maioria das vezes não há “nada lá”, e fazer exatamente isso: mostrar como não há “nada lá” em uma história sobre alguém que está tentando descobrir se há “algo lá”.
Isso não está na descrição do catálogo, mas é muito importante para mim: um dos elementos da trama neste livro, e não é um spoiler, está no primeiro capítulo, é sobre como funcionam os enclaves seguros e a atestação remota. E essas são coisas muito nerds pelas quais sou obcecado há vinte anos.
É basicamente uma maneira de projetar computadores para que eu possa enviar um trabalho computacional que o seu computador executa e, em seguida, você envia a saída de volta para mim e eu posso ter certeza de que o trabalho foi executado no seu computador de acordo com as minhas especificações e que você não o manipulou.
E há muitas aplicações realmente interessantes para isso, mas também é incrivelmente distópico, certo? Porque isso significa que posso enviar um monitor de teclas para você, porque sou seu chefe e sei que você não está interferindo com ele. É basicamente uma maneira de o computador tratar seu proprietário ou usuário como um adversário e permitir que terceiros o controlem com ele.
Essa é a concepção arquitetônica explícita. E há algumas criptomoedas baseadas nisso. Elas são meio periféricas, mas a criptografia é a primeira aplicação para isso que não é totalmente sinistra.
Pode parecer esotérico, mas o modelo pelo qual o seu iPhone impede que você instale software de terceiros é o mesmo. É esse tipo de assinatura digital de atestação remota, negócios de enclave seguro. E como você pode perceber apenas me ouvindo descrevê-lo, isso é incrivelmente vertiginoso, técnico, profundo, estranho, complicado.
Acho que é incrivelmente importante para o futuro da autodeterminação tecnológica. E um dos meus principais projetos desde 2002 — quando o primeiro white paper (documento oficial publicado por um governo ou uma organização internacional) da Microsoft sobre isso saiu — tem sido tentar fazer as pessoas entenderem que isso é importante.
Pode parecer esotérico, mas a forma como o seu iPhone o impede de instalar software de terceiros é o mesmo modelo. É esse tipo de assinatura digital de atestado remoto, negócio de enclave seguro. E como você pode dizer só de me ouvir descrevê-lo para você, isso é incrivelmente impressionante, técnico, profundo, estranho e complicado.
Isso não está na cópia do catálogo, mas é super importante para mim: um dos elementos da trama deste livro, e não é um spoiler, está no primeiro capítulo, é sobre como funcionam os enclaves seguros e o atestado remoto. E isso é uma coisa super nerd pela qual estou obcecado há vinte anos.
É basicamente uma maneira de projetar computadores para que eu possa enviar um trabalho computacional para você executar em seu computador e, em seguida, você me enviar a saída de volta, garantindo que o trabalho tenha sido executado de acordo com as minhas especificações e não tenha sido adulterado por você.
Existem muitos aplicativos interessantes para isso, mas também é incrivelmente distópico, certo? Porque isso significa que posso enviar a você um programa de monitoramento de teclas, se eu for seu chefe, e verificar se você está trabalhando ou não.
Essencialmente, é uma maneira de o computador tratar o proprietário ou o usuário como um adversário e permitir que terceiros controlem seu computador. Esse é o projeto arquitetônico explícito. Existem algumas criptomoedas baseadas nessa tecnologia. Elas são um tanto periféricas, mas a criptomoeda é a primeira aplicação que não é totalmente sinistra.
Acontece que acho que é incrivelmente importante para o futuro da autodeterminação tecnológica. E um dos meus principais projetos desde 2002 — quando o primeiro white paper da Microsoft sobre isso foi lançado — tem sido tentar fazer as pessoas dizerem: “Espera! Isso é um grande negócio”. Esta é, de certa forma, minha última mordida naquela maçã.
Habilidade manual e "enshitificação"
David Moscrop
Quero falar um pouco mais sobre o “lá” quando se trata de criptografia, porque eu nunca consegui entender o que era. O obstáculo principal parece ser fazer com que pessoas suficientes acreditem nisso. Qual é o truque? É um truque do tipo “confie em mim, sabemos o que estamos fazendo e isso resolverá todos os seus problemas”? É esse o truque para torná-lo um MEGO?
Cory Doctorow
Você sabe o que é? Em muitos golpes, o fraudador explora algo que a vítima conhece e a partir daí, a incentiva a fazer inferências lógicas com base em sua compreensão do contexto. No entanto, durante o processo, o fraudador faz uso de prestidigitação.
Por exemplo, quando alguém segura uma moeda na mão e a gira, a vítima pode supor que a moeda permanece na palma da mão e não é deslizada entre os dedos para aparecer na parte de trás da mão. Isso acontece porque a vítima entende como as moedas e as mãos funcionam e supõe que é assim que funciona.
Um caso semelhante é a fraude descoberta pelo meu editor Bob Parks nos anos 90, em que uma empresa vendia pulseiras de rastreamento GPS para ajudar os pais a encontrar seus filhos sequestrados. A empresa alegava que a pulseira usava satélites GPS para obter a localização das crianças e enviá-la de volta para os pais. No entanto, se você conhece um pouco sobre como os satélites GPS funcionam, você pode questionar essa afirmação. Para enviar dados para um satélite GPS, seria necessário uma antena de 25 pés, o que não era viável naquela época, antes das redes de dados móveis.
Essa empresa estava explorando a compreensão superficial das pessoas sobre como o GPS e os satélites funcionavam. Eles estavam enganando as pessoas com base em uma compreensão incorreta do assunto. Muitas coisas sobre criptografia começam com o que um prestidigitador faria. Sabemos que a criptografia funciona e pode manter segredos, e sabemos que o dinheiro é apenas um acordo entre pessoas para tratar algo como valioso.
Após essa abordagem, o vigarista pode fazer com que a vítima escolha seu próprio “veneno”: “Isso impedirá que o grande governo interfira no livre mercado” ou “Isso impedirá a hegemonia dos EUA de interceptar indivíduos que são hostis aos interesses americanos em outros países e permitirá que eles realizem transações” ou “Isso permitirá que você envie dinheiro para denunciantes dissidentes que estão sendo bloqueados pelo Visa e American Express.”
Todas essas aplicações, dependendo das opiniões políticas da vítima, parecerão corretas. A vítima pensará ser algo totalmente legítimo. Isso começa com um truque de mão porque todas as premissas com as quais a vítima concorda são, na verdade, apenas uma versão da verdade. É uma aproximação inicial da verdade e há muitos detalhes obscuros. E entender esses detalhes requer uma compreensão técnica bastante sofisticada.
David Moscrop
Bem, falando de fraudes, vamos falar sobre o Twitter. O site nunca foi um espaço online utópico, mas antes era pelo menos melhor do que é agora. O que está levando à sua queda além da compra por Elon Musk? Existe algo melhor por aí ou algo melhor por vir?
Cory Doctorow
Acredito que devemos agradecer a Elon Musk pelo que ele está fazendo, já que grande parte dos abusos que levam à decadência das plataformas ocorre lentamente, com limites cada vez mais tênues, dificultando apontar e identificar o que está acontecendo. Diferentemente de outros, como Donald Trump, que se movem lentamente com um lápis muito fino, Musk age de forma mais brusca, o que pode chamar a atenção para questões que, de outra forma, seriam difíceis de chegar a um consenso. Isso facilita identificar a patologia em jogo e mobilizar as pessoas para lutar contra ela.
Acredito que, de uma forma muito estranha, devemos agradecer a Musk e Trump por isso. A patologia que Musk está atuando em alta velocidade é algo que chamo de “enshitification”.
Trata-se de uma forma específica de decadência de monopólio endêmica às plataformas digitais, que ocorre em um ambiente de baixa competição, onde as leis antitruste ou de concorrência não são rigorosamente aplicadas. A plataforma é a forma canônica da empresa digital, atuando como um negócio intermediário puro, em que a empresa faz a intermediação entre usuários/compradores e clientes/vendedores empresariais.
A empresa que atua como um negócio intermediário possui um conjunto de usuários ou compradores e outro conjunto de clientes ou vendedores empresariais. Ela faz a intermediação entre eles em um ambiente de baixa competição, onde as leis antitruste ou de concorrência não são aplicadas rigorosamente.
A partir do momento em que tem acesso a capital, ela pode usar seus recursos para comprar possíveis concorrentes ou praticar preços predatórios para remover potenciais concorrentes do mercado. O Uber é um exemplo disso: perdendo quarenta centavos de dólar por cada dólar, eles simplesmente eliminam os táxis amarelos e sufocam o investimento em transporte público, fazendo parecer que há uma alternativa viável em veículos de carona. Vemos preços predatórios e aquisições predatórias em muitos, muitos domínios.
A Loblaws, uma rede de mercados no Canadá, está comprando seus concorrentes, praticando preços predatórios e abusando tanto de seus fornecedores quanto de seus clientes para extrair rendas monopolistas e deixar todos em situação pior. Isso também ocorria há cento e vinte anos, como no caso de John D. Rockefeller, que usava a exclusividade em linhas de trem para excluir seus concorrentes. No entanto, no mundo digital, as plataformas têm a flexibilidade de alta velocidade que não é possível nas empresas analógicas.
No passado, não era possível para um monopolista como Rockefeller simplesmente clicar em um mouse e construir outra linha de trem que oferecesse o serviço mais barato até que a linha de balsa fosse à falência e então abandonar a linha de trem. Isso era intensivo em capital e exige processos extremamente lentos. Já no digital, é possível fazer algo que o entrevistado chama de “twiddling”, que é simplesmente mudar a lógica de negócios muito rapidamente.
Como isso se parece na prática? Se alguém se sentar no futuro e for pesquisar no Bing, por motivos que ultrapassam a compreensão, o que eles encontrarão e por quê?
Cory Doctorow
Acredito que é importante compreender que os capitalistas não gostam realmente do capitalismo. Eles preferem não estar em um ambiente competitivo. Isso se deve, em parte, ao fato de que, sem alternativas, eles podem extrair mais excedente de você sem ter que competir com um rival. É por isso que eles tendem a apreciar preços predatórios, fusões e monopólios. Na verdade, o termo “rebentamento de confiança” vem dessas ações.
Por exemplo, Rockefeller e outros barões convidaram todos os seus concorrentes, que nominalmente se odiavam, para criar uma nova empresa, uma holding, um fundo. Eles vendiam suas empresas para o fundo, que administrava todas elas como filiais. Essa não é a ação de um capitalista que acredita em dominar o mundo e ir para o anel de latão. Os capitalistas não gostam do capitalismo porque não querem perder tempo competindo. Como Peter Thiel, um dos fundadores bilionários do PayPal, disse, “a competição é para perdedores”.
Além disso, eles também não gostam da competição porque, quando as empresas são fundidas em um cartel, monopólio ou oligopólio, é muito fácil para eles decidirem qual será sua posição comum de lobby. Se houver uma centena de empresas em um setor, elas não conseguirão chegar a um acordo sobre como atender sua reunião anual. Se houver apenas três, todos poderão se unir e falar com as agências reguladoras, dizendo que a neutralidade da rede não funciona ou que “Os opioides são seguros”.
Jacobin
 |
| O Google nunca, desde o desenvolvimento de seu mecanismo de busca, inovou. (Avishek Das/SOPA Images/LightRocket via Getty Images) |
Entrevistado por
David Moscrop
Tradução / Em seu novo livro, "Red Team Blues", Cory Doctorow explora o mundo das criptomoedas através de um thriller distópico-tecnológico. Recentemente, ele conversou com David Moscrop, da Jacobin, sobre o estado e o futuro da inteligência artificial, bem como sobre por que o Twitter e o Google são tão ruins.
Doctorow é um escritor, jornalista e ativista canadense-britânico. Ele é conhecido por seu trabalho na área de ficção científica, bem como por suas atividades de defesa dos direitos digitais e da liberdade na Internet. Ele também é co-fundador do blog de tecnologia Boing Boing e atua como membro da Electronic Frontier Foundation (EFF), uma organização sem fins lucrativos que defende a liberdade de expressão, os direitos digitais e a privacidade online.
David Moscrop
Quero começar com seu novo livro. Em primeiro lugar, título fantástico. A cópia do catálogo o descreve como “um thriller emocionante da próxima terça-feira sobre travessuras de criptomoedas que despertarão você para como o mundo realmente funciona”. Você escreveu ficção sobre tecnologia proprietária, impressão 3D, upload de consciência, vigilância e muito mais. Por que criptomoeda desta vez?
Cory Doctorow
Bem, acredito que existe um modo de jornalismo de serviço que pode ser transportado para a ficção — e a ficção científica é ótima nisso — que pega ideias complicadas e extremamente importantes, tratadas como uma caixa preta pelos leitores, e as descomplica, às vezes em torno de uma narrativa. Penso em Margot Robbie fazendo isso no filme A Grande Aposta quando está em uma banheira cheia de espuma, explicando como funcionam os swaps de crédito e as obrigações de dívida concentralizadas.
Há uma espécie de complexidade performática em muitas das maldades em nosso mundo — as coisas são tornadas complexas para serem difíceis de entender. A pretensão é que eles são difíceis de entender porque são intrinsecamente complexos. Existe um termo no setor financeiro para isso, que é “MEGO:” My Eyes Glaze Over, que em português pode ser traduzido como “meus olhos ficam vidrados”. Ela é usada para descrever situações em que um assunto é tão complexo ou tedioso que a pessoa perde o interesse ou a compreensão, deixando seus olhos vidrados.
É um truque. Você dá a alguém um prospecto tão grosso que eles assumem que deve ser importante e bom da mesma forma que, quando você dá a alguém uma pilha grande de merda, eles assumem que deve haver um pônei embaixo dela.
E assim, queria pegar aquelas coisas técnicas e complexas que acontecem com criptografia, uma área na qual acredito que na maioria das vezes não há “nada lá”, e fazer exatamente isso: mostrar como não há “nada lá” em uma história sobre alguém que está tentando descobrir se há “algo lá”.
Isso não está na descrição do catálogo, mas é muito importante para mim: um dos elementos da trama neste livro, e não é um spoiler, está no primeiro capítulo, é sobre como funcionam os enclaves seguros e a atestação remota. E essas são coisas muito nerds pelas quais sou obcecado há vinte anos.
É basicamente uma maneira de projetar computadores para que eu possa enviar um trabalho computacional que o seu computador executa e, em seguida, você envia a saída de volta para mim e eu posso ter certeza de que o trabalho foi executado no seu computador de acordo com as minhas especificações e que você não o manipulou.
E há muitas aplicações realmente interessantes para isso, mas também é incrivelmente distópico, certo? Porque isso significa que posso enviar um monitor de teclas para você, porque sou seu chefe e sei que você não está interferindo com ele. É basicamente uma maneira de o computador tratar seu proprietário ou usuário como um adversário e permitir que terceiros o controlem com ele.
Essa é a concepção arquitetônica explícita. E há algumas criptomoedas baseadas nisso. Elas são meio periféricas, mas a criptografia é a primeira aplicação para isso que não é totalmente sinistra.
Pode parecer esotérico, mas o modelo pelo qual o seu iPhone impede que você instale software de terceiros é o mesmo. É esse tipo de assinatura digital de atestação remota, negócios de enclave seguro. E como você pode perceber apenas me ouvindo descrevê-lo, isso é incrivelmente vertiginoso, técnico, profundo, estranho, complicado.
Acho que é incrivelmente importante para o futuro da autodeterminação tecnológica. E um dos meus principais projetos desde 2002 — quando o primeiro white paper (documento oficial publicado por um governo ou uma organização internacional) da Microsoft sobre isso saiu — tem sido tentar fazer as pessoas entenderem que isso é importante.
Pode parecer esotérico, mas a forma como o seu iPhone o impede de instalar software de terceiros é o mesmo modelo. É esse tipo de assinatura digital de atestado remoto, negócio de enclave seguro. E como você pode dizer só de me ouvir descrevê-lo para você, isso é incrivelmente impressionante, técnico, profundo, estranho e complicado.
Isso não está na cópia do catálogo, mas é super importante para mim: um dos elementos da trama deste livro, e não é um spoiler, está no primeiro capítulo, é sobre como funcionam os enclaves seguros e o atestado remoto. E isso é uma coisa super nerd pela qual estou obcecado há vinte anos.
É basicamente uma maneira de projetar computadores para que eu possa enviar um trabalho computacional para você executar em seu computador e, em seguida, você me enviar a saída de volta, garantindo que o trabalho tenha sido executado de acordo com as minhas especificações e não tenha sido adulterado por você.
Existem muitos aplicativos interessantes para isso, mas também é incrivelmente distópico, certo? Porque isso significa que posso enviar a você um programa de monitoramento de teclas, se eu for seu chefe, e verificar se você está trabalhando ou não.
Essencialmente, é uma maneira de o computador tratar o proprietário ou o usuário como um adversário e permitir que terceiros controlem seu computador. Esse é o projeto arquitetônico explícito. Existem algumas criptomoedas baseadas nessa tecnologia. Elas são um tanto periféricas, mas a criptomoeda é a primeira aplicação que não é totalmente sinistra.
Acontece que acho que é incrivelmente importante para o futuro da autodeterminação tecnológica. E um dos meus principais projetos desde 2002 — quando o primeiro white paper da Microsoft sobre isso foi lançado — tem sido tentar fazer as pessoas dizerem: “Espera! Isso é um grande negócio”. Esta é, de certa forma, minha última mordida naquela maçã.
Habilidade manual e "enshitificação"
David Moscrop
Quero falar um pouco mais sobre o “lá” quando se trata de criptografia, porque eu nunca consegui entender o que era. O obstáculo principal parece ser fazer com que pessoas suficientes acreditem nisso. Qual é o truque? É um truque do tipo “confie em mim, sabemos o que estamos fazendo e isso resolverá todos os seus problemas”? É esse o truque para torná-lo um MEGO?
Cory Doctorow
Você sabe o que é? Em muitos golpes, o fraudador explora algo que a vítima conhece e a partir daí, a incentiva a fazer inferências lógicas com base em sua compreensão do contexto. No entanto, durante o processo, o fraudador faz uso de prestidigitação.
Por exemplo, quando alguém segura uma moeda na mão e a gira, a vítima pode supor que a moeda permanece na palma da mão e não é deslizada entre os dedos para aparecer na parte de trás da mão. Isso acontece porque a vítima entende como as moedas e as mãos funcionam e supõe que é assim que funciona.
Um caso semelhante é a fraude descoberta pelo meu editor Bob Parks nos anos 90, em que uma empresa vendia pulseiras de rastreamento GPS para ajudar os pais a encontrar seus filhos sequestrados. A empresa alegava que a pulseira usava satélites GPS para obter a localização das crianças e enviá-la de volta para os pais. No entanto, se você conhece um pouco sobre como os satélites GPS funcionam, você pode questionar essa afirmação. Para enviar dados para um satélite GPS, seria necessário uma antena de 25 pés, o que não era viável naquela época, antes das redes de dados móveis.
Essa empresa estava explorando a compreensão superficial das pessoas sobre como o GPS e os satélites funcionavam. Eles estavam enganando as pessoas com base em uma compreensão incorreta do assunto. Muitas coisas sobre criptografia começam com o que um prestidigitador faria. Sabemos que a criptografia funciona e pode manter segredos, e sabemos que o dinheiro é apenas um acordo entre pessoas para tratar algo como valioso.
Após essa abordagem, o vigarista pode fazer com que a vítima escolha seu próprio “veneno”: “Isso impedirá que o grande governo interfira no livre mercado” ou “Isso impedirá a hegemonia dos EUA de interceptar indivíduos que são hostis aos interesses americanos em outros países e permitirá que eles realizem transações” ou “Isso permitirá que você envie dinheiro para denunciantes dissidentes que estão sendo bloqueados pelo Visa e American Express.”
Todas essas aplicações, dependendo das opiniões políticas da vítima, parecerão corretas. A vítima pensará ser algo totalmente legítimo. Isso começa com um truque de mão porque todas as premissas com as quais a vítima concorda são, na verdade, apenas uma versão da verdade. É uma aproximação inicial da verdade e há muitos detalhes obscuros. E entender esses detalhes requer uma compreensão técnica bastante sofisticada.
David Moscrop
Bem, falando de fraudes, vamos falar sobre o Twitter. O site nunca foi um espaço online utópico, mas antes era pelo menos melhor do que é agora. O que está levando à sua queda além da compra por Elon Musk? Existe algo melhor por aí ou algo melhor por vir?
Cory Doctorow
Acredito que devemos agradecer a Elon Musk pelo que ele está fazendo, já que grande parte dos abusos que levam à decadência das plataformas ocorre lentamente, com limites cada vez mais tênues, dificultando apontar e identificar o que está acontecendo. Diferentemente de outros, como Donald Trump, que se movem lentamente com um lápis muito fino, Musk age de forma mais brusca, o que pode chamar a atenção para questões que, de outra forma, seriam difíceis de chegar a um consenso. Isso facilita identificar a patologia em jogo e mobilizar as pessoas para lutar contra ela.
Acredito que, de uma forma muito estranha, devemos agradecer a Musk e Trump por isso. A patologia que Musk está atuando em alta velocidade é algo que chamo de “enshitification”.
Trata-se de uma forma específica de decadência de monopólio endêmica às plataformas digitais, que ocorre em um ambiente de baixa competição, onde as leis antitruste ou de concorrência não são rigorosamente aplicadas. A plataforma é a forma canônica da empresa digital, atuando como um negócio intermediário puro, em que a empresa faz a intermediação entre usuários/compradores e clientes/vendedores empresariais.
A empresa que atua como um negócio intermediário possui um conjunto de usuários ou compradores e outro conjunto de clientes ou vendedores empresariais. Ela faz a intermediação entre eles em um ambiente de baixa competição, onde as leis antitruste ou de concorrência não são aplicadas rigorosamente.
A partir do momento em que tem acesso a capital, ela pode usar seus recursos para comprar possíveis concorrentes ou praticar preços predatórios para remover potenciais concorrentes do mercado. O Uber é um exemplo disso: perdendo quarenta centavos de dólar por cada dólar, eles simplesmente eliminam os táxis amarelos e sufocam o investimento em transporte público, fazendo parecer que há uma alternativa viável em veículos de carona. Vemos preços predatórios e aquisições predatórias em muitos, muitos domínios.
A Loblaws, uma rede de mercados no Canadá, está comprando seus concorrentes, praticando preços predatórios e abusando tanto de seus fornecedores quanto de seus clientes para extrair rendas monopolistas e deixar todos em situação pior. Isso também ocorria há cento e vinte anos, como no caso de John D. Rockefeller, que usava a exclusividade em linhas de trem para excluir seus concorrentes. No entanto, no mundo digital, as plataformas têm a flexibilidade de alta velocidade que não é possível nas empresas analógicas.
No passado, não era possível para um monopolista como Rockefeller simplesmente clicar em um mouse e construir outra linha de trem que oferecesse o serviço mais barato até que a linha de balsa fosse à falência e então abandonar a linha de trem. Isso era intensivo em capital e exige processos extremamente lentos. Já no digital, é possível fazer algo que o entrevistado chama de “twiddling”, que é simplesmente mudar a lógica de negócios muito rapidamente.
Jeff Bezos é um empresário que lidera duas empresas: a Amazon Fresh, um comércio totalmente digital, e a Whole Foods, um comércio analógico. Enquanto na Amazon Fresh é possível mudar os preços dos produtos facilmente por meio de um clique, na Whole Foods essa tarefa é mais difícil e requer pessoas físicas para alterar os preços dos produtos. Isso destaca como o mundo digital é capaz de executar as mesmas ações que os monopolistas fizeram no passado, mas de forma mais rápida e com o uso de tecnologia.
Essa habilidade de manipulação pode levar a uma espécie de mitologia em torno de empresários bem-sucedidos no mundo digital, pois é possível fazer coisas que parecem mágicas, mas que, na verdade, são simplesmente ações executadas com mais rapidez. À medida que esses empresários ganham mais espaço, eles começam a mudar a lógica do mercado para atrair e reter usuários. Por exemplo, no caso do Facebook ou Twitter, eles permitem que os usuários escolham as pessoas de quem desejam receber atualizações. Essa é uma oferta valiosa e interessante que cria benefícios para os usuários finais.
Porém, ao trazer clientes empresariais para a plataforma, é necessário retirar excedentes dos usuários finais. Para isso, as empresas começam a espionar os usuários e a usar essas informações para fazer recomendações algorítmicas e direcionar anúncios para eles. Isso, por sua vez, pode comprometer a privacidade dos usuários, que é um excedente clássico do consumidor. As empresas podem alocar esse excedente para os anunciantes, usando as informações coletadas sobre os usuários para fornecer atualizações confiáveis com base nos critérios de segmentação.
A privacidade é um direito fundamental do consumidor, que pode ser expropriado e utilizado para benefício alheio. Plataformas como o Twitter monitoram suas atividades e direcionam anúncios personalizados. Elas podem disponibilizar essas informações aos anunciantes, alegando que oferecem atualizações confiáveis sobre pessoas que seus usuários seguem e que também podem fornecer atualizações confiáveis para esses usuários com base em seus interesses e comportamentos.
Além disso, as plataformas podem trabalhar em parceria com editores, oferecendo-se como um canal para o site deles. Ao postar trechos ou links para o conteúdo do editor, a plataforma pode substituir as atualizações dos seguidores do usuário por anúncios e links para o site do editor, utilizando sua vigilância para exibir apenas o que acredita ser relevante. Algumas dessas sugestões podem agradar aos usuários, que podem se inscrever no site do editor.
O usuário final acaba sendo o alvo deste funil. No estágio seguinte da decadência do monopólio, os excedentes são retirados dos usuários e dos clientes empresariais até que apenas o suficiente permaneça na plataforma para mantê-los cativos, sem deixar nada sobre a mesa que poderia ir para os acionistas. É exatamente isso que estamos presenciando o Twitter fazer.
Quantos anúncios eles podem colocar em seu feed? Quão pouco eles podem mostrar a você do que você pediu para ver? Quão poucos usuários que se inscreveram em seu feed podem ver o que você atualiza, para que você possa ser cobrado para impulsioná-lo ou pagar pelo Twitter Blue como uma forma de alcançar seus próprios seguidores. Essa é apenas uma maneira de puxar o tapete.
Musk tornou o código aberto do algoritmo público e muitas das regras chamaram muita atenção. No entanto, acho que a regra mais importante não recebeu atenção suficiente, que é a classificação inferior de links que levam para fora da plataforma.
Isso significa que, se você um jacobino e usuário do Twitter e tem uma postagem em seu feed que diz: “Aqui está nosso novo artigo e aqui está um link para ele”, essa postagem tem uma chance menor de aparecer nos feeds de seus seguidores do que se você recapitular esse artigo sem um link para ele. Isso significa que a oportunidade de obter receita com o seu conteúdo está firmemente vinculada à plataforma.
Uma das coisas que as plataformas fazem quando atingem esse estágio é começar a minar tanto a receita que os editores obtêm com a publicidade, pagando menos do dinheiro que coletam dos anunciantes para mostrar o conteúdo associado ao seu material, quanto cobrando mais dos anunciantes e entregando de forma menos confiável.
O Facebook e o Google tiveram um acordo colusivo ilegal que chamaram de Jedi Blue para aumentar o preço dos anúncios, diminuir a entrega de anúncios e diminuir a parcela paga aos editores. Isso saiu no processo do procurador-geral do Texas. Isso é enshitificação clássica.
Quando olhamos apenas para o que Musk está fazendo abertamente, eu aposto que ele está fazendo isso secretamente, como cobrar por anúncios que nunca são exibidos, cobrar mais pelos anúncios do que seria pago honestamente ou não entregar coisas que ele está prometendo aos anunciantes e cobrando deles. Não é porque ele seja especialmente perverso, mas porque é isso que o Facebook e o Google já fazem.
Acho que o problema de Musk é que ele é especialmente descuidado. Ele não exige que o procurador-geral do Texas deponha seus executivos e faça descobertas em seus memorandos internos. Musk dedilha e posta às duas da manhã. É assim que descobriremos isso com Musk. É nesta direção que vemos o Twitter indo.
A segunda parte da sua pergunta, “Algo melhor está por vir?” Acho que se refere ao Mastodon e existem várias razões pelas quais essa plataforma pode ser uma alternativa melhor. Uma das razões é que o padrão Mastodon foi desenvolvido quando as plataformas tecnológicas não estavam tão envolvidas e não tinham influência sobre ele.
O ActivityPub, que governa o Mastodon, foi criado durante um período de escrutínio e interferência reduzidos. As pessoas que o criaram estavam comprometidas com a descentralização e a autodeterminação tecnológica, e o fizeram sem a interferência de grandes empresas, que de outra forma teriam facilmente capturado o processo.
É um padrão muito bom e tem muitas características excelentes, como o direito de sair embutido. O padrão garante que qualquer usuário possa exportar não apenas a lista de pessoas que segue, mas também a lista de pessoas que o seguem. Os usuários podem atualizar automaticamente todas essas pessoas nas instâncias quando saem de um servidor e vão para outro.
Uma das razões pelas quais as pessoas ainda usam o Twitter, apesar de sua qualidade ter sido significativamente degradada, é porque gostam das pessoas que seguem e que as seguem. Isso é valioso para elas e é algo que Musk está tentando capitalizar. Ele está tentando encontrar um equilíbrio entre tornar a plataforma quase inútil para você, mas não totalmente inútil.
Nesse sentido, as medidas de autoajuda que você pode tomar afetam esse cálculo. Se você não puder sair do Twitter, então Musk pode fazer coisas ruins com você e presumir que você não sairá porque o valor de seus seguidores é maior do que a dor que Musk está infligindo a você. Se for mais fácil para você levar seus seguidores com você, então a dor que ele pode infligir a você é menor. Isso também se aplica aos administradores desses pequenos servidores.
A outra coisa que o Mastodon incorpora é algo designado como ponta a ponta, e a postura padrão do Mastodon é conectar remetentes dispostos com receptores dispostos. Se ambos tentarem se comunicar, ou seja, se eu postar algo para meus seguidores e vocês me seguirem, o Mastodon entrega.
O padrão do Mastodon é que as coisas enviadas pelos remetentes sejam recebidas pelos destinatários, desde que ambas as partes concordem com esse processo. Isso significa que o processo pelo qual você extorque dinheiro de marcas de mídia – dizendo a elas que não podem ver seguidores, não verão suas atualizações – está fora de questão.
Isso significa que grande parte da conduta invasiva de privacidade e da conduta publicitária que contribui para a enshitficação simplesmente não é tratável da maneira que é no Twitter. Acho que precisamos entender que os capitalistas odeiam o capitalismo. Eles não querem estar em um ambiente no qual tenham que competir.
Por fim, elaborar e fazer cumprir uma regulamentação que mantenha as coisas assim é bastante simples. Muitas pessoas disseram: “Bem, deveria haver uma regulamentação que impeça o Twitter de permitir assédio na plataforma”. Mas isso exigiria que decidíssemos fatos sobre se a conduta chega ao nível de assédio. Se você tira sarro de Elon Musk, isso é assédio? Nesse caso, seria necessário que tivéssemos algum tipo de constatação de fato para determinar se eles poderiam ter evitado ou feito algo mais; se agiram de boa fé. E tudo isso pode levar cinco anos para determinar. Enquanto isso, você continua sendo assediado.
Ao passo que dizer que você só precisa deixar as pessoas saírem e também entregar mensagens de remetentes dispostos a destinatários dispostos é realmente fácil de administrar.
Se você sair, digamos, do Mastodon e reclamar que o administrador nunca lhe deu seus dados, e você for ao comissário de privacidade que lida com coisas como acesso aos dados do usuário e disser: “Ei, eu quero registrar uma reclamação porque o administrador do Mastodon nunca forneceu meus dados.” Eles não precisam fazer nenhuma descoberta de fato. Eles apenas enviam uma carta a esse administrador dizendo: “Apenas envie a ele outra cópia dos dados.
Então, se o administrador do Mastodon alegar ter enviado seus dados e você afirmar que não recebeu, uma solução simples seria o administrador enviar outra cópia dos dados. Além disso, para verificar se o recurso de ponta a ponta está sendo aplicado corretamente, é possível enviar uma mensagem e pedir para o destinatário confirmar se a recebeu. Dessa forma, não é necessário convocar engenheiros da empresa para testar o recurso de ponta a ponta, é possível realizar um teste simples por conta própria.
Cooperação entre capitalistas
David Moscrop
Falando em declínio, em fevereiro de 2023, você postou um fio no Twitter sobre o futuro dos mecanismos de busca da Internet e escreveu que a Microsoft e o Google concordam que nossas explorações online serão ainda mais direcionadas a “longos parágrafos floreados escritos por um #chatbot que por acaso é um mentiroso habitual.”
Cory Doctorow
Eu deveria ter dito mentiroso confiante habitual, mas sim.
David Moscrop
Essa habilidade de manipulação pode levar a uma espécie de mitologia em torno de empresários bem-sucedidos no mundo digital, pois é possível fazer coisas que parecem mágicas, mas que, na verdade, são simplesmente ações executadas com mais rapidez. À medida que esses empresários ganham mais espaço, eles começam a mudar a lógica do mercado para atrair e reter usuários. Por exemplo, no caso do Facebook ou Twitter, eles permitem que os usuários escolham as pessoas de quem desejam receber atualizações. Essa é uma oferta valiosa e interessante que cria benefícios para os usuários finais.
Porém, ao trazer clientes empresariais para a plataforma, é necessário retirar excedentes dos usuários finais. Para isso, as empresas começam a espionar os usuários e a usar essas informações para fazer recomendações algorítmicas e direcionar anúncios para eles. Isso, por sua vez, pode comprometer a privacidade dos usuários, que é um excedente clássico do consumidor. As empresas podem alocar esse excedente para os anunciantes, usando as informações coletadas sobre os usuários para fornecer atualizações confiáveis com base nos critérios de segmentação.
A privacidade é um direito fundamental do consumidor, que pode ser expropriado e utilizado para benefício alheio. Plataformas como o Twitter monitoram suas atividades e direcionam anúncios personalizados. Elas podem disponibilizar essas informações aos anunciantes, alegando que oferecem atualizações confiáveis sobre pessoas que seus usuários seguem e que também podem fornecer atualizações confiáveis para esses usuários com base em seus interesses e comportamentos.
Além disso, as plataformas podem trabalhar em parceria com editores, oferecendo-se como um canal para o site deles. Ao postar trechos ou links para o conteúdo do editor, a plataforma pode substituir as atualizações dos seguidores do usuário por anúncios e links para o site do editor, utilizando sua vigilância para exibir apenas o que acredita ser relevante. Algumas dessas sugestões podem agradar aos usuários, que podem se inscrever no site do editor.
O usuário final acaba sendo o alvo deste funil. No estágio seguinte da decadência do monopólio, os excedentes são retirados dos usuários e dos clientes empresariais até que apenas o suficiente permaneça na plataforma para mantê-los cativos, sem deixar nada sobre a mesa que poderia ir para os acionistas. É exatamente isso que estamos presenciando o Twitter fazer.
Quantos anúncios eles podem colocar em seu feed? Quão pouco eles podem mostrar a você do que você pediu para ver? Quão poucos usuários que se inscreveram em seu feed podem ver o que você atualiza, para que você possa ser cobrado para impulsioná-lo ou pagar pelo Twitter Blue como uma forma de alcançar seus próprios seguidores. Essa é apenas uma maneira de puxar o tapete.
Musk tornou o código aberto do algoritmo público e muitas das regras chamaram muita atenção. No entanto, acho que a regra mais importante não recebeu atenção suficiente, que é a classificação inferior de links que levam para fora da plataforma.
Isso significa que, se você um jacobino e usuário do Twitter e tem uma postagem em seu feed que diz: “Aqui está nosso novo artigo e aqui está um link para ele”, essa postagem tem uma chance menor de aparecer nos feeds de seus seguidores do que se você recapitular esse artigo sem um link para ele. Isso significa que a oportunidade de obter receita com o seu conteúdo está firmemente vinculada à plataforma.
Uma das coisas que as plataformas fazem quando atingem esse estágio é começar a minar tanto a receita que os editores obtêm com a publicidade, pagando menos do dinheiro que coletam dos anunciantes para mostrar o conteúdo associado ao seu material, quanto cobrando mais dos anunciantes e entregando de forma menos confiável.
O Facebook e o Google tiveram um acordo colusivo ilegal que chamaram de Jedi Blue para aumentar o preço dos anúncios, diminuir a entrega de anúncios e diminuir a parcela paga aos editores. Isso saiu no processo do procurador-geral do Texas. Isso é enshitificação clássica.
Quando olhamos apenas para o que Musk está fazendo abertamente, eu aposto que ele está fazendo isso secretamente, como cobrar por anúncios que nunca são exibidos, cobrar mais pelos anúncios do que seria pago honestamente ou não entregar coisas que ele está prometendo aos anunciantes e cobrando deles. Não é porque ele seja especialmente perverso, mas porque é isso que o Facebook e o Google já fazem.
Acho que o problema de Musk é que ele é especialmente descuidado. Ele não exige que o procurador-geral do Texas deponha seus executivos e faça descobertas em seus memorandos internos. Musk dedilha e posta às duas da manhã. É assim que descobriremos isso com Musk. É nesta direção que vemos o Twitter indo.
A segunda parte da sua pergunta, “Algo melhor está por vir?” Acho que se refere ao Mastodon e existem várias razões pelas quais essa plataforma pode ser uma alternativa melhor. Uma das razões é que o padrão Mastodon foi desenvolvido quando as plataformas tecnológicas não estavam tão envolvidas e não tinham influência sobre ele.
O ActivityPub, que governa o Mastodon, foi criado durante um período de escrutínio e interferência reduzidos. As pessoas que o criaram estavam comprometidas com a descentralização e a autodeterminação tecnológica, e o fizeram sem a interferência de grandes empresas, que de outra forma teriam facilmente capturado o processo.
É um padrão muito bom e tem muitas características excelentes, como o direito de sair embutido. O padrão garante que qualquer usuário possa exportar não apenas a lista de pessoas que segue, mas também a lista de pessoas que o seguem. Os usuários podem atualizar automaticamente todas essas pessoas nas instâncias quando saem de um servidor e vão para outro.
Uma das razões pelas quais as pessoas ainda usam o Twitter, apesar de sua qualidade ter sido significativamente degradada, é porque gostam das pessoas que seguem e que as seguem. Isso é valioso para elas e é algo que Musk está tentando capitalizar. Ele está tentando encontrar um equilíbrio entre tornar a plataforma quase inútil para você, mas não totalmente inútil.
Nesse sentido, as medidas de autoajuda que você pode tomar afetam esse cálculo. Se você não puder sair do Twitter, então Musk pode fazer coisas ruins com você e presumir que você não sairá porque o valor de seus seguidores é maior do que a dor que Musk está infligindo a você. Se for mais fácil para você levar seus seguidores com você, então a dor que ele pode infligir a você é menor. Isso também se aplica aos administradores desses pequenos servidores.
A outra coisa que o Mastodon incorpora é algo designado como ponta a ponta, e a postura padrão do Mastodon é conectar remetentes dispostos com receptores dispostos. Se ambos tentarem se comunicar, ou seja, se eu postar algo para meus seguidores e vocês me seguirem, o Mastodon entrega.
O padrão do Mastodon é que as coisas enviadas pelos remetentes sejam recebidas pelos destinatários, desde que ambas as partes concordem com esse processo. Isso significa que o processo pelo qual você extorque dinheiro de marcas de mídia – dizendo a elas que não podem ver seguidores, não verão suas atualizações – está fora de questão.
Isso significa que grande parte da conduta invasiva de privacidade e da conduta publicitária que contribui para a enshitficação simplesmente não é tratável da maneira que é no Twitter. Acho que precisamos entender que os capitalistas odeiam o capitalismo. Eles não querem estar em um ambiente no qual tenham que competir.
Por fim, elaborar e fazer cumprir uma regulamentação que mantenha as coisas assim é bastante simples. Muitas pessoas disseram: “Bem, deveria haver uma regulamentação que impeça o Twitter de permitir assédio na plataforma”. Mas isso exigiria que decidíssemos fatos sobre se a conduta chega ao nível de assédio. Se você tira sarro de Elon Musk, isso é assédio? Nesse caso, seria necessário que tivéssemos algum tipo de constatação de fato para determinar se eles poderiam ter evitado ou feito algo mais; se agiram de boa fé. E tudo isso pode levar cinco anos para determinar. Enquanto isso, você continua sendo assediado.
Ao passo que dizer que você só precisa deixar as pessoas saírem e também entregar mensagens de remetentes dispostos a destinatários dispostos é realmente fácil de administrar.
Se você sair, digamos, do Mastodon e reclamar que o administrador nunca lhe deu seus dados, e você for ao comissário de privacidade que lida com coisas como acesso aos dados do usuário e disser: “Ei, eu quero registrar uma reclamação porque o administrador do Mastodon nunca forneceu meus dados.” Eles não precisam fazer nenhuma descoberta de fato. Eles apenas enviam uma carta a esse administrador dizendo: “Apenas envie a ele outra cópia dos dados.
Então, se o administrador do Mastodon alegar ter enviado seus dados e você afirmar que não recebeu, uma solução simples seria o administrador enviar outra cópia dos dados. Além disso, para verificar se o recurso de ponta a ponta está sendo aplicado corretamente, é possível enviar uma mensagem e pedir para o destinatário confirmar se a recebeu. Dessa forma, não é necessário convocar engenheiros da empresa para testar o recurso de ponta a ponta, é possível realizar um teste simples por conta própria.
Cooperação entre capitalistas
David Moscrop
Falando em declínio, em fevereiro de 2023, você postou um fio no Twitter sobre o futuro dos mecanismos de busca da Internet e escreveu que a Microsoft e o Google concordam que nossas explorações online serão ainda mais direcionadas a “longos parágrafos floreados escritos por um #chatbot que por acaso é um mentiroso habitual.”
Cory Doctorow
Eu deveria ter dito mentiroso confiante habitual, mas sim.
David Moscrop
Como isso se parece na prática? Se alguém se sentar no futuro e for pesquisar no Bing, por motivos que ultrapassam a compreensão, o que eles encontrarão e por quê?
Cory Doctorow
Acredito que é importante compreender que os capitalistas não gostam realmente do capitalismo. Eles preferem não estar em um ambiente competitivo. Isso se deve, em parte, ao fato de que, sem alternativas, eles podem extrair mais excedente de você sem ter que competir com um rival. É por isso que eles tendem a apreciar preços predatórios, fusões e monopólios. Na verdade, o termo “rebentamento de confiança” vem dessas ações.
Por exemplo, Rockefeller e outros barões convidaram todos os seus concorrentes, que nominalmente se odiavam, para criar uma nova empresa, uma holding, um fundo. Eles vendiam suas empresas para o fundo, que administrava todas elas como filiais. Essa não é a ação de um capitalista que acredita em dominar o mundo e ir para o anel de latão. Os capitalistas não gostam do capitalismo porque não querem perder tempo competindo. Como Peter Thiel, um dos fundadores bilionários do PayPal, disse, “a competição é para perdedores”.
Além disso, eles também não gostam da competição porque, quando as empresas são fundidas em um cartel, monopólio ou oligopólio, é muito fácil para eles decidirem qual será sua posição comum de lobby. Se houver uma centena de empresas em um setor, elas não conseguirão chegar a um acordo sobre como atender sua reunião anual. Se houver apenas três, todos poderão se unir e falar com as agências reguladoras, dizendo que a neutralidade da rede não funciona ou que “Os opioides são seguros”.
O Google, como empresa, resume tudo isso. O Google é uma empresa que criou um produto de sucesso: um motor de busca, e foi ótimo. No entanto, eles simplesmente não tinham outras ideias bem-sucedidas em suas tentativas internas. As exceções são o clone do Hotmail e o tempo em que eles pegaram a base de código do Safari que a Apple havia descartado e a usaram para fazer o Chrome.
Todos os outros produtos que tiveram sucesso são algo que eles compraram de outras empresas. O Google está muito ansioso porque sabe, no fundo, que é tudo uma encenação – que o que eles têm é acesso ao mercado de capitais, e não gênios criativos.
Toda a pilha de tecnologia de anúncios, toda a pilha de vídeo, toda a pilha de gerenciamento de servidor, toda a pilha móvel, documentos, calendário, mapas, navegação rodoviária, tudo isso são aquisições. O Google pensa: “Somos a fábrica de ideias de Willy Wonka, somos gênios criativos que apresentam ideias”, mas as ideias que eles realmente apresentaram – Google+, Sidewalk Labs, os balões Wi-Fi flutuantes, até mesmo o leitor RSS deles – todas falharam. O Google Video foi um fracasso. Eles tiveram que comprar o YouTube para ter uma oferta de vídeo bem-sucedida.
O Google está muito ansioso porque sabe que tudo é uma encenação. Que o que eles têm é acesso ao mercado de capitais, e não a verdadeira criatividade. Pode haver gênios trabalhando no Google, mas a estrutura institucional do Google não permite o surgimento de gênios criativos. A genialidade que eles têm é a de operacionalizar as ideias geniais de outras pessoas, e eles definitivamente são ótimos nisso.
Mas isso é apenas outra maneira de dizer que eles são um monopólio. Todo monopólio tem, no mínimo, alguma competência logística e operacional. A Loblaws não poderia aumentar o preço do pão se não conseguisse colocá-lo nas prateleiras de todas as suas lojas em todo o Canadá. Obviamente, a Loblaws é boa nisso e, obviamente, o Google é bom em expandir o YouTube. Eles não poderiam ser um monopolista se não fossem. Mas não fazemos política industrial apenas para excelência operacional; fazemos política industrial para inovação e progresso.
O Google é péssimo nisso. A empresa nunca inovou desde o desenvolvimento do mecanismo de busca; tudo o que eles fizeram foi operacionalizar. Existe todo essa obsessão agora sobre IA, e não é a primeira vez que o Google foi forçado a fazer algo pela moda.
No início dos anos 2000, havia uma grande expectativa de que a China seria a próxima fronteira para as empresas de tecnologia americanas. O Yahoo decidiu entrar no mercado chinês e, para se manter no país, começou a delatar seus usuários para o politburo chinês, resultando em prisões e torturas. O Google seguiu o mesmo caminho. Mesmo sabendo disso, eles pensavam que não poderiam fazer melhor do que o Yahoo e decidiram segui-lo na China.
No entanto, os usuários tiveram seus e-mails hackeados e foram presos e torturados. Pelo que me disseram, Sergey Brin, um dos fundadores do Google, disse que sua família não havia fugido da União Soviética para que ele delatasse as pessoas para a polícia secreta. Então, ele decidiu puxar o paraquedas e retirar a empresa do país.
Atualmente, as empresas de tecnologia estão perseguindo a IA da mesma forma que perseguiam a entrada no mercado chinês no início dos anos 2000. Naquela época, o Yahoo e o Google seguiram a estratégia um do outro, mesmo sem ter uma ideia melhor, o que resultou em delatar usuários para o politburo chinês e violar a privacidade de seus usuários.
Agora, com a IA, os analistas preveem um negócio de US$ 13 trilhões (cerca de R$64,09 trilhões), levando o Google a seguir essa tendência, mesmo sem saber se é uma boa ideia.
Com esse potencial lucrativo, vem uma obsessão com a IA. Ao mesmo tempo, a qualidade da pesquisa está caindo, pois os gerentes de produto estão mais focados em aumentar a receita e receber um bônus de desempenho. A consequência é uma cultura de enshitificação, em que a prioridade é aumentar a lucratividade, em vez de investir em pesquisa de qualidade.
Cada executivo está pensando: “Meu bônus, que é 5 vezes maior do que o meu salário e determina se meus filhos vão ou não para Harvard sem acumular dívidas, depende se eu consigo ou não aumentar a lucratividade da minha unidade de negócios em 3%. A maneira como faço isso é enshitificando.”
No entanto, esses 3% não vêm do aumento do Google, porque ele detém 98% do mercado de buscas. Vem de excedentes móveis. Vem de tornar a plataforma pior para editores, anunciantes, usuários ou todos os três. E para cada um deles, é como um pequeno jogo do dilema do prisioneiro. Se apenas um deles estivesse fazendo isso, provavelmente estaria tudo bem. Mas como todo mundo está fazendo isso, todos os produtos do Google marcham monotonamente em direção à enshitificação.
A qualidade de toda a plataforma está diminuindo. É algo que todos podem perceber. O Android, por exemplo, está longe do que era há alguns anos. O YouTube está piorando tanto para os espectadores quanto para os artistas. A pesquisa também está muito ruim. Diante disso, o Google parece pensar que precisa tentar outra coisa e a única opção é seguir o que outras pessoas já validaram, ou seja, investir em IA. Isso tem levado à criação de chatbots enganosos e floridos, algo que ninguém deseja ou pediu.
Sim, a IA pode ser útil em muitas áreas, como na criação de truques de festa divertidos, na geração de arte interessante e na automação de certas tarefas. No entanto, é importante lembrar que a IA atualmente disponível não é verdadeiramente “inteligente”. Embora possa ser programada para realizar certas tarefas de forma eficiente, não tem a capacidade de entender e responder adequadamente a perguntas complexas como um ser humano.
Como disse Timnit Gebru, a eminente cientista da computação que eles demitiram por inventar a expressão: “Criamos papagaios estocásticos”. Tudo o que isso significa é um truque de festa. E eu gosto de truques de festa. Estava no Castelo Mágico na semana passada e vi um mágico fazer um incrível ato de mentalista e prestidigitação que continuo pensando. É ótimo. Adoro viver em um mundo com truques de festa, mas a ideia de que resolvemos as buscas com truques de festa é manifestamente errada.
A ameaça da IA: Skynet ou os limites da corporação de responsabilidade limitada?
David Moscrop
Ao ouvir isso, estou pensando comigo mesmo, muito do calor está focado na IA se tornando autoconsciente ou se voltando contra nós. Estamos preocupados com a Skynet, mas há preocupações muito mais mundanas e insidiosas sobre IA que devemos reconhecer. Essas preocupações, essas preocupações maiores e inimagináveis, são legítimas ou estão nos distraindo das preocupações mais insidiosas e mundanas que enfrentamos agora?
Cory Doctorow
Acho que essas preocupações são apenas uma ansiedade deslocada sobre as sociedades de responsabilidade limitada. Onde está a forma de vida artificial que os humanos criaram para servi-los, mas que, em vez disso, exige que os humanos sirvam à forma de vida artificial? Acho que muitos dos problemas de Musk é resultado de ele pensar que tem um volante com o qual pode dirigir suas empresas, mas toda vez que ele puxa o volante, a empresa não gira.
Eles têm um manuseio muito ruim. A razão pela qual eles têm um tratamento muito ruim é que a empresa tem seus próprios imperativos. Tem acionistas, tem detentores de títulos, tem trabalhadores, tem reguladores com clientes.
Todos os outros produtos que tiveram sucesso são algo que eles compraram de outras empresas. O Google está muito ansioso porque sabe, no fundo, que é tudo uma encenação – que o que eles têm é acesso ao mercado de capitais, e não gênios criativos.
Toda a pilha de tecnologia de anúncios, toda a pilha de vídeo, toda a pilha de gerenciamento de servidor, toda a pilha móvel, documentos, calendário, mapas, navegação rodoviária, tudo isso são aquisições. O Google pensa: “Somos a fábrica de ideias de Willy Wonka, somos gênios criativos que apresentam ideias”, mas as ideias que eles realmente apresentaram – Google+, Sidewalk Labs, os balões Wi-Fi flutuantes, até mesmo o leitor RSS deles – todas falharam. O Google Video foi um fracasso. Eles tiveram que comprar o YouTube para ter uma oferta de vídeo bem-sucedida.
O Google está muito ansioso porque sabe que tudo é uma encenação. Que o que eles têm é acesso ao mercado de capitais, e não a verdadeira criatividade. Pode haver gênios trabalhando no Google, mas a estrutura institucional do Google não permite o surgimento de gênios criativos. A genialidade que eles têm é a de operacionalizar as ideias geniais de outras pessoas, e eles definitivamente são ótimos nisso.
Mas isso é apenas outra maneira de dizer que eles são um monopólio. Todo monopólio tem, no mínimo, alguma competência logística e operacional. A Loblaws não poderia aumentar o preço do pão se não conseguisse colocá-lo nas prateleiras de todas as suas lojas em todo o Canadá. Obviamente, a Loblaws é boa nisso e, obviamente, o Google é bom em expandir o YouTube. Eles não poderiam ser um monopolista se não fossem. Mas não fazemos política industrial apenas para excelência operacional; fazemos política industrial para inovação e progresso.
O Google é péssimo nisso. A empresa nunca inovou desde o desenvolvimento do mecanismo de busca; tudo o que eles fizeram foi operacionalizar. Existe todo essa obsessão agora sobre IA, e não é a primeira vez que o Google foi forçado a fazer algo pela moda.
No início dos anos 2000, havia uma grande expectativa de que a China seria a próxima fronteira para as empresas de tecnologia americanas. O Yahoo decidiu entrar no mercado chinês e, para se manter no país, começou a delatar seus usuários para o politburo chinês, resultando em prisões e torturas. O Google seguiu o mesmo caminho. Mesmo sabendo disso, eles pensavam que não poderiam fazer melhor do que o Yahoo e decidiram segui-lo na China.
No entanto, os usuários tiveram seus e-mails hackeados e foram presos e torturados. Pelo que me disseram, Sergey Brin, um dos fundadores do Google, disse que sua família não havia fugido da União Soviética para que ele delatasse as pessoas para a polícia secreta. Então, ele decidiu puxar o paraquedas e retirar a empresa do país.
Atualmente, as empresas de tecnologia estão perseguindo a IA da mesma forma que perseguiam a entrada no mercado chinês no início dos anos 2000. Naquela época, o Yahoo e o Google seguiram a estratégia um do outro, mesmo sem ter uma ideia melhor, o que resultou em delatar usuários para o politburo chinês e violar a privacidade de seus usuários.
Agora, com a IA, os analistas preveem um negócio de US$ 13 trilhões (cerca de R$64,09 trilhões), levando o Google a seguir essa tendência, mesmo sem saber se é uma boa ideia.
Com esse potencial lucrativo, vem uma obsessão com a IA. Ao mesmo tempo, a qualidade da pesquisa está caindo, pois os gerentes de produto estão mais focados em aumentar a receita e receber um bônus de desempenho. A consequência é uma cultura de enshitificação, em que a prioridade é aumentar a lucratividade, em vez de investir em pesquisa de qualidade.
Cada executivo está pensando: “Meu bônus, que é 5 vezes maior do que o meu salário e determina se meus filhos vão ou não para Harvard sem acumular dívidas, depende se eu consigo ou não aumentar a lucratividade da minha unidade de negócios em 3%. A maneira como faço isso é enshitificando.”
No entanto, esses 3% não vêm do aumento do Google, porque ele detém 98% do mercado de buscas. Vem de excedentes móveis. Vem de tornar a plataforma pior para editores, anunciantes, usuários ou todos os três. E para cada um deles, é como um pequeno jogo do dilema do prisioneiro. Se apenas um deles estivesse fazendo isso, provavelmente estaria tudo bem. Mas como todo mundo está fazendo isso, todos os produtos do Google marcham monotonamente em direção à enshitificação.
A qualidade de toda a plataforma está diminuindo. É algo que todos podem perceber. O Android, por exemplo, está longe do que era há alguns anos. O YouTube está piorando tanto para os espectadores quanto para os artistas. A pesquisa também está muito ruim. Diante disso, o Google parece pensar que precisa tentar outra coisa e a única opção é seguir o que outras pessoas já validaram, ou seja, investir em IA. Isso tem levado à criação de chatbots enganosos e floridos, algo que ninguém deseja ou pediu.
Sim, a IA pode ser útil em muitas áreas, como na criação de truques de festa divertidos, na geração de arte interessante e na automação de certas tarefas. No entanto, é importante lembrar que a IA atualmente disponível não é verdadeiramente “inteligente”. Embora possa ser programada para realizar certas tarefas de forma eficiente, não tem a capacidade de entender e responder adequadamente a perguntas complexas como um ser humano.
Como disse Timnit Gebru, a eminente cientista da computação que eles demitiram por inventar a expressão: “Criamos papagaios estocásticos”. Tudo o que isso significa é um truque de festa. E eu gosto de truques de festa. Estava no Castelo Mágico na semana passada e vi um mágico fazer um incrível ato de mentalista e prestidigitação que continuo pensando. É ótimo. Adoro viver em um mundo com truques de festa, mas a ideia de que resolvemos as buscas com truques de festa é manifestamente errada.
A ameaça da IA: Skynet ou os limites da corporação de responsabilidade limitada?
David Moscrop
Ao ouvir isso, estou pensando comigo mesmo, muito do calor está focado na IA se tornando autoconsciente ou se voltando contra nós. Estamos preocupados com a Skynet, mas há preocupações muito mais mundanas e insidiosas sobre IA que devemos reconhecer. Essas preocupações, essas preocupações maiores e inimagináveis, são legítimas ou estão nos distraindo das preocupações mais insidiosas e mundanas que enfrentamos agora?
Cory Doctorow
Acho que essas preocupações são apenas uma ansiedade deslocada sobre as sociedades de responsabilidade limitada. Onde está a forma de vida artificial que os humanos criaram para servi-los, mas que, em vez disso, exige que os humanos sirvam à forma de vida artificial? Acho que muitos dos problemas de Musk é resultado de ele pensar que tem um volante com o qual pode dirigir suas empresas, mas toda vez que ele puxa o volante, a empresa não gira.
Eles têm um manuseio muito ruim. A razão pela qual eles têm um tratamento muito ruim é que a empresa tem seus próprios imperativos. Tem acionistas, tem detentores de títulos, tem trabalhadores, tem reguladores com clientes.
Escrevi que a maneira de entender o endereço de IP — que de outra forma é meio sem sentido porque marca comercial e direito autoral e patente realmente não são o mesmo — é que o que IP significa é qualquer lei ou política que permita que você alcance fora das paredes da empresa para controlar seus clientes, críticos ou concorrentes.
Esses clientes, críticos e concorrentes são as coisas que reduzem a eficiência de manuseio do caminhão gigante. Essa é a sua empresa. É isso que são: os coeficientes de atrito, o gelo na estrada, o mau tempo e os outros motoristas que significam que você não pode dirigir seu carro onde quiser na velocidade que deseja.
É por isso que as empresas são tão obcecadas com o IP: eles querem poder agir como gênios unitários, ser protagonistas nos romances de Ayn Rand e não pessoas que vivem em uma sociedade com restrições impostas a elas — e não apenas por um dever para com os outros, mas também por rivais.
Novamente, voltando ao “a competição é para perdedores” de Thiel. Por que eu deveria perder meu tempo tentando refutar ou deslocar as más ofertas de outros homens inferiores que estão tentando vender aos meus clientes Whoppers quando claramente o Big Mac é o melhor hambúrguer? Não seria melhor se essas pessoas simplesmente não estivessem lá? Então eu poderia me concentrar em melhorar o Big Mac em vez de tentar jogar jogos com o Burger King.
Acho que quando as pessoas se preocupam com a Skynet, o que elas querem dizer é que os imperativos dos negócios estão levando o mundo à beira da extinção humana. Do ponto de vista das pessoas no comando, elas estão pensando: “Isso está me deixando pessoalmente louco, mesmo que eu seja o CEO e nominalmente a pessoa que está no comando. Sou miserável com cada hora que Deus envia. Não sei como direcioná-lo, mesmo que eu seja a pessoa na sala de controle que construiu a sala de controle e conectou todos os controles e eles simplesmente não funcionam como me disseram que funcionam. Meu Deus, a criação ganhou vida com vontade própria”.
Isso é Skynet, certo? Essa é a sociedade de responsabilidade limitada. Charlie Stross as chama de inteligências artificiais lentas. Eles são basicamente IAs com velocidades realmente baixas, mas ainda cumprem o mesmo imperativo. Maximização do clipe de papel.
Colaboradores
David Moscrop é escritor e comentarista político. Ele apresenta o podcast Open to Debate e é o autor do livro Too Dumb For Democracy?
Cory Doctorow é um autor, ativista e jornalista de ficção científica. Seu último livro é Attack Surface.
Esses clientes, críticos e concorrentes são as coisas que reduzem a eficiência de manuseio do caminhão gigante. Essa é a sua empresa. É isso que são: os coeficientes de atrito, o gelo na estrada, o mau tempo e os outros motoristas que significam que você não pode dirigir seu carro onde quiser na velocidade que deseja.
É por isso que as empresas são tão obcecadas com o IP: eles querem poder agir como gênios unitários, ser protagonistas nos romances de Ayn Rand e não pessoas que vivem em uma sociedade com restrições impostas a elas — e não apenas por um dever para com os outros, mas também por rivais.
Novamente, voltando ao “a competição é para perdedores” de Thiel. Por que eu deveria perder meu tempo tentando refutar ou deslocar as más ofertas de outros homens inferiores que estão tentando vender aos meus clientes Whoppers quando claramente o Big Mac é o melhor hambúrguer? Não seria melhor se essas pessoas simplesmente não estivessem lá? Então eu poderia me concentrar em melhorar o Big Mac em vez de tentar jogar jogos com o Burger King.
Acho que quando as pessoas se preocupam com a Skynet, o que elas querem dizer é que os imperativos dos negócios estão levando o mundo à beira da extinção humana. Do ponto de vista das pessoas no comando, elas estão pensando: “Isso está me deixando pessoalmente louco, mesmo que eu seja o CEO e nominalmente a pessoa que está no comando. Sou miserável com cada hora que Deus envia. Não sei como direcioná-lo, mesmo que eu seja a pessoa na sala de controle que construiu a sala de controle e conectou todos os controles e eles simplesmente não funcionam como me disseram que funcionam. Meu Deus, a criação ganhou vida com vontade própria”.
Isso é Skynet, certo? Essa é a sociedade de responsabilidade limitada. Charlie Stross as chama de inteligências artificiais lentas. Eles são basicamente IAs com velocidades realmente baixas, mas ainda cumprem o mesmo imperativo. Maximização do clipe de papel.
Colaboradores
David Moscrop é escritor e comentarista político. Ele apresenta o podcast Open to Debate e é o autor do livro Too Dumb For Democracy?
Cory Doctorow é um autor, ativista e jornalista de ficção científica. Seu último livro é Attack Surface.
Nenhum comentário:
Postar um comentário