Grandes empresas de tecnologia se aproveitam da crise de saúde mental para monetizar seus dados

Gigantes da tecnologia como Apple, Google e Amazon estão cada vez mais desenvolvendo aplicativos e serviços que oferecem tratamento de saúde mental. A pertinência desses produtos para os usuários é duvidosa — mas eles prometem às empresas novas fontes lucrativas de dados altamente pessoais.

Nick Couldry, Felix Maschewski e Anna-Verena Nosthoff

Jacobin

Uma explicação estritamente determinística, antissocial e individualista de como a saúde mental pode ser gerenciada está sendo promovida pelos principais extratores de dados. (Jaap Arriens / NurPhoto via Getty Images)

Filosofando em uma entrevista de 2019, o CEO da Apple, Tim Cook, levantou a questão de qual será, no final das contas, “a maior contribuição da Apple para a humanidade”. Ele respondeu inequivocamente que essa contribuição “será em relação à saúde”.

A promessa de Cook se manifestou desde então em vários produtos inovadores da Apple que pretendem “democratizar” os cuidados de saúde e capacitar indivíduos “a administrar sua saúde”. Os últimos anos também viram uma série de outras tentativas de perturbar o mercado de cuidados de saúde por gigantes das Big Techs, Amazon, Meta e Alphabet. Mais recentemente, foi até anunciado que a notória empresa de vigilância Palantir ganhou um contrato de £ 330 milhões para criar uma nova plataforma de dados para o Serviço Nacional de Saúde Britânico (NHS).

A COVID-19 acelerou essa tendência, pois a pandemia deixou em seu rastro várias subsidiárias, redes de pesquisa, serviços de saúde online, clínicas e outros empreendimentos visando “redesenhar o futuro da saúde” (nas palavras da subsidiária da Alphabet, Verily) com smartwatches e outras ferramentas digitais. No entanto, as incursões das maiores empresas de tecnologia do hemisfério ocidental na assistência médica não estão mais centradas apenas no corpo. Não contentes em mapear pulmões e membros, seu mais novo alvo é a mente.

O momento da última guinada das Big Techs em direção ao bem-estar mental como parte de seu projeto para “mapear a saúde humana” dificilmente é por acaso. Manchetes sobre uma “crise de saúde mental” nacional dominaram recentemente as notícias: as taxas de suicídio estão atualmente em alta nos Estados Unidos e, como Bernie Sanders destacou, quase um em cada três adolescentes dos EUA relatou em uma pesquisa recente do Centers for Disease Control and Prevention (CDC) que sofria de problemas de saúde mental.

Os conglomerados de tecnologia estão muito felizes em construir campanhas de relações públicas em torno desses fatos alarmantes, falando sobre seus esforços para combater essas tendências ou mesmo “resolver a crise de saúde mental” completamente. Dessa forma, as Big Techs parecem seguir uma máxima testada e comprovada: nunca deixe uma boa crise ser desperdiçada.

Apple: Determinando seu nível de depressão

Os esforços iniciais da Apple para entrar no mercado de saúde ganharam força depois que a empresa refinou seu dispositivo vestível exclusivo por volta de 2019, transformando-o de um acessório para self-trackers geeks e excêntricos em um símbolo chique de bem-estar. Desde então, a Apple tem colaborado com várias instituições de pesquisa e lançou uma ampla gama de estudos de saúde dedicados a mostrar que seu smartwatch não é apenas um dispositivo fitness vestível, mas um “salva-vidas” capaz de detectar fibrilação atrial ou até mesmo sintomas de COVID-19.

Dada sua missão de oferecer aos usuários um “quadro completo” de sua saúde geral, o anúncio recente da Apple de que adicionará rastreamento de saúde mental ao Apple Watch é um próximo passo lógico. O novo recurso State of Mind do aplicativo Mindfulness da Apple pede aos usuários que classifiquem como estão se sentindo em uma escala de Muito Agradável a Muito Desagradável, para indicar fatores que afetam seus estados emocionais, como estresse familiar e profissional, e para descrever sua perspectiva com adjetivos como Grato e Preocupado. A esperança, aparentemente, é que um acesso por dia mantenha o psiquiatra longe.

O aplicativo Mindfulness usa esses dados para determinar o risco de depressão de um indivíduo. Convenientemente, um estudo recente de “saúde mental digital” realizado por pesquisadores da UCLA (e patrocinado pela Apple) foi capaz de mostrar que o uso do aplicativo no Apple Watch aumentou a consciência emocional em 80% dos participantes, enquanto 50% alegaram que ele teve um impacto positivo em seu bem-estar geral — informações que a empresa agora está anunciando em seu site.

Nos próximos meses, a Apple provavelmente lançará ainda mais softwares de saúde mental. De acordo com relatórios recentes, ela agora está trabalhando em um orientador de saúde com inteligência artificial (IA) chamado Quartz, um aplicativo que supostamente não só será capaz de monitorar as emoções do usuário, mas também dar a ele conselhos médicos.

Com certeza, há uma crescente crise de saúde mental nos Estados Unidos e em outros lugares, e há uma necessidade urgente de tratamento direto e economicamente efetivo. Entre 2007 e 2020, o número de visitas ao pronto-socorro devido a problemas de saúde mental quase dobrou nos Estados Unidos, com as gerações mais jovens particularmente afetadas.

No entanto, embora ferramentas “inteligentes” possam beneficiar modestamente alguns pacientes, o uso de dispositivos vestíveis também pode aumentar o estresse e a ansiedade, como outros estudos recentes mostraram. Além disso, o foco em soluções tecnológicas de curto prazo corre o risco de nos distrair das causas sociais e políticas subjacentes às doenças psicológicas, como exploração no local de trabalho, instabilidade financeira, crescente atomização e acesso limitado a cuidados de saúde de qualidade, alimentação e moradia.

Ela também empurra a principal responsabilidade de lidar com transtornos de saúde mental para os indivíduos, no típico estilo neoliberal. Como a vice-presidente de saúde da Apple, Sumbul Desai, afirmou recentemente, o objetivo de sua empresa “é capacitar as pessoas a assumirem o controle de sua própria jornada de saúde”.

Meta: Trabalhando com o NHS para minerar seus dados de saúde mental

A Apple não é a única empresa Big Tech que se interessou pela saúde mental de seus consumidores. E enquanto o gigante de Cupertino pelo menos faz um discurso sobre privacidade de dados, muitas das outras empresas nem se importam.

Na primavera de 2023, surgiram notícias de que o NHS estava compartilhando detalhes íntimos sobre a saúde dos pacientes com o Facebook. Durante anos, o NHS vinha fornecendo informações, incluindo consultas de pesquisa sobre automutilação e consultas de aconselhamento feitas por usuários do site do serviço para a rede social e sua empresa controladora, Meta, por meio de uma ferramenta de coleta de dados chamada Meta Pixel.

Em um exemplo, o Alder Hey Children’s Hospital em Liverpool deu ao Facebook e à Meta os dados de usuários que visitaram suas páginas web buscando saber sobre problemas de desenvolvimento sexual, transtornos alimentares e serviços de saúde mental de crise, e compartilharam informações sobre suas prescrições de medicamentos. Em outro, a clínica de saúde mental Tavistock and Portman, em Londres, forneceu à gigante da tecnologia os dados de visitantes de sua página web que buscaram informações sobre desenvolvimento de identidade de gênero, que são projetadas especificamente como um recurso educacional para crianças e adolescentes.

Enquanto especialistas em privacidade como Carissa Véliz aconselham profissionais de saúde e instituições a “coletar o mínimo de informações necessárias para tratar [pacientes] — nada mais”, a violação de dados do NHS/Facebook reflete uma tendência oposta: não a minimização de dados, como Veliz recomenda, mas a maximização de dados, justificada pela ideia de que uma maior extração de dados em si é automaticamente a resposta para problemas profundos e socialmente enraizados. Neste caso, os dados pessoais foram obtidos sem o consentimento ou mesmo conhecimento dos pacientes para direcionar anúncios a eles — o cerne do modelo de negócios da Meta.

O escândalo foi apenas o mais recente de uma longa linha de desastres de relações públicas recentes para a empresa, vindo logo após o fiasco em torno do lançamento do Metaverso (não por coincidência, o futuro imersivo da internet de Mark Zuckerberg foi aclamado como uma “solução promissora para a saúde mental”). E o caso não foi um incidente isolado: em março de 2023, foi revelado que a startup de telessaúde Cerebral compartilhou dados privados de saúde, incluindo informações sobre saúde mental, não apenas com a Meta, mas também com o Google, entre outros.

Alphabet: o Fitbit como um treinador mental

A empresa controladora do Google, a Alphabet, outra notória mineradora de dados, também entrou no mercado de dispositivos vestíveis e, desde que concluiu a compra da fabricante de smartwatches Fitbit em 2021, juntou-se à Apple na pregação dos benefícios dos vestíveis para a saúde mental.

Logo após um estudo conduzido pela subsidiária de pesquisa em ciências biológicas da Alphabet, Verily, sobre se smartphones podem ser usados ​​para detectar sintomas de depressão, a Fitbit lançou recentemente um aplicativo para smartphone reformulado, “projetado para dar uma visão holística de sua saúde e bem-estar com foco nas métricas que mais importam para você”. Semelhante ao aplicativo Mindfulness da Apple, essa reformulação contém um recurso chamado Log Mood que permite aos usuários inserir seus estados emocionais.

Uma equipe da Universidade de Washington em St. Louis usou dados do Fitbit e um modelo de IA para dar credibilidade à “viabilidade e promessa de usar dispositivos vestíveis para detectar transtornos mentais em uma comunidade grande e diversa”. De acordo com Chenyang Lu, professor da Escola de Engenharia McKelvey e um dos autores do estudo, esta pesquisa tem relevância no mundo real, dado que “ir a um psiquiatra e preencher questionários consome muito tempo, e então as pessoas podem ter alguma relutância em consultá-lo”. Em outras palavras, a IA pode ser uma ferramenta ágil e de baixo custo para gerenciar a saúde mental de uma pessoa.

Longe de provar que vestíveis podem diagnosticar depressão, o estudo revelou várias correlações potenciais entre uma inclinação para a depressão e biomarcadores baseados nesses dispositivos. Mas isso não impediu Lu de se entusiasmar e afirmar que “este modelo de IA [desenvolvido no estudo] é capaz de dizer se você tem depressão ou transtornos de ansiedade. Pense no modelo de IA como uma ferramenta de triagem automatizada.”

Esse exagero da evidência empírica perpetua a noção duvidosa de que problemas de saúde mental podem ser resolvidos por meio de soluções tecnológicas. Claro, também é tremendamente benéfico para os interesses corporativos da Alphabet.

Mas o Fitbit não é a única intervenção da empresa no âmbito da saúde mental. Além das informações de prevenção ao suicídio que o Google Search tem exibido acima dos resultados de pesquisa relacionados à saúde mental por vários anos, a empresa anunciou recentemente que os usuários que pesquisarem termos relacionados ao suicídio verão um prompt com iniciadores de conversa pré-escritos que poderão enviar por mensagem de texto para o 988 Suicide & Crisis Lifeline.

Embora uma ferramenta como essa possa ser muito útil em emergências, há uma preocupação real de que o Google instrumentalize os dados sensíveis coletados aqui, compartilhando-os com anunciantes para que possam ser explorados e monetizados junto com os outros dados coletados. Vale mencionar que as novas medidas de prevenção ao suicídio do Google foram reveladas apenas algumas semanas após os suicídios de três funcionários da empresa terem dado origem a especulações sobre a saúde mental de sua própria força de trabalho. Nesse contexto, os novos recursos podem ser lidos como um golpe de relações públicas para desviar o foco de questões urgentes dentro da própria empresa.

Amazon: cedendo seus direitos HIPAA para a Amazon Clinic

Agora a Amazon também está ocupada em se promover como uma provedora e defensora dos cuidados de saúde mental. Embora Jeff Bezos pareça estar principalmente ocupado com sonhos de empreendedorismo espacial e indústrias lunares, ele não se esqueceu de lançar algumas “soluções” de saúde mental aqui na Terra.

Já em 2018, Bezos anunciou sua intenção de resolver a crise de saúde dos Estados Unidos democratizando o acesso a serviços médicos. Ele comprou a farmácia online PillPack e depois desenvolveu a Amazon Pharmacy.

Em 2019, ele lançou o Amazon Care, uma plataforma online que oferece assistência médica abrangente 24/7 para funcionários da Amazon por meio de mensagens e chat de vídeo. Essa iniciativa envolveu uma colaboração com a Ginger, um serviço de psicoterapia baseado na internet e em aplicativos que se autointitula como “saúde mental para cada momento” e uma “solução completa para saúde mental”.

Em 2021, a Amazon fechou a Amazon Care e estabeleceu a Amazon Clinic, uma plataforma virtual de assistência médica com ambições maiores do que sua antecessora: planos já foram anunciados para expandir o novo serviço para todos os cinquenta estados e o Distrito de Columbia. Ao contrário da Amazon Care, a Amazon Clinic é aberta ao público em geral. Para usá-la, no entanto, os pacientes devem consentir com o “uso e divulgação de informações de saúde protegidas” — renunciando a seus direitos às proteções de privacidade federais existentes sob a Lei de Portabilidade e Responsabilidade de Seguros de Saúde (HIPAA) — e efetivamente conceder à gigante da tecnologia acesso ao seu eu mais íntimo. (A legalidade disso é examinada agora pela FTC.)

Em fevereiro deste ano, a Amazon expandiu ainda mais seu portfólio de assistência médica ao adquirir a One Medical, uma empresa que oferece assistência primária presencial, online e por aplicativo em mais de vinte cidades e regiões metropolitanas dos EUA. Um de seus subprogramas, Mindset by One Medical, foca especificamente em saúde mental, oferecendo aos pacientes ajuda virtual com condições como estresse, ansiedade, depressão, TDAH e insônia em ambientes de grupo online e orientação individual.

Além de suas últimas movimentações com a Amazon Clinic e a One Medical, a Amazon recentemente ampliou suas ofertas de assistência médica para funcionários ao fazer parceria com a Maven Clinic, a maior clínica virtual do mundo para saúde feminina e familiar. Com o objetivo de se expandir para cinquenta países além dos Estados Unidos e Canadá, a parceria com a Maven Clinic concederá à Amazon acesso lucrativo a alguns dos conjuntos de dados mais íntimos e vulneráveis dos usuários.

Os perigos gerais de tais dados serem acumulados em mãos com interesses comerciais que, sob certas circunstâncias, os repassarão alegremente às autoridades estaduais, nacionais ou locais são claros: veja, por exemplo, a adolescente de Nebraska que foi condenada no verão de 2021 por violar a lei de aborto de seu estado depois que o Facebook e o Google forneceram à polícia suas mensagens privadas e dados de navegação.

A colonização de dados de saúde mental

As tentativas vertiginosas da Amazon, Meta, Apple e Alphabet de se posicionarem no ramo da saúde mental vão além da mera disrupção. A escala dessa transformação deve ser entendida dentro da estrutura do maior impulso para anexar recursos inexplorados na história: o colonialismo.

Sob o disfarce de corporações trabalhando para aliviar as instabilidades da saúde mental das pessoas, uma forma fundamental de apropriação de ativos está em andamento. Afinal, até recentemente, a própria ideia de que nossa saúde mental (e todos os dados que a representam e rastreiam) poderia ser um ativo comercial em um balanço patrimonial teria parecido bizarra. Mas hoje está se tornando banal. É uma faceta do que Nick Couldry e Ulises Mejias chamaram de “colonialismo de dados”.

Todas as quatro corporações são parte de um setor comercial maior focado em explorar novas definições de conhecimento e racionalidade voltadas para a extração de dados. Por meio da coleta habitual de dados sensíveis e da captura de muitos outros domínios sociais (saúde, educação e direito, para citar alguns), estamos caminhando em direção à “capitalização da vida sem limites”, como Couldry e Mejias descrevem.

A normalização de dispositivos vestíveis como ferramentas para indivíduos, aparentemente para gerenciar sua saúde (tanto psíquica quanto física), é parte desse processo, convertendo a vida diária em um fluxo de dados que pode ser lucrativamente apropriado. O aplicativo Mindfulness da Apple e o Log Mood da Fitbit são apenas dois exemplos de como as Big Techs, tendo colonizado o território do corpo, agora têm seus olhos voltados para a psique.

O colonialismo de dados, assim como os estágios anteriores do colonialismo, afeta desproporcionalmente aqueles que já são marginalizados. Por um lado, as tecnologias que ele envolve são às vezes tendenciosas contra grupos marginalizados, como foi destacado por um processo recente contra a Apple sobre o suposto “viés racial” do leitor de oxigênio no sangue do Apple Watch.

Mas, além disso, a ideia de que a saúde mental e física são principalmente uma questão de responsabilidade individual e gestão pessoal assistida por tecnologia ignora o fato de que os problemas de saúde são frequentemente motivados por questões sistêmicas, como condições de trabalho exploradoras e insalubres ou falta de tempo e recursos financeiros para praticar uma vida saudável, que são moldadas por desigualdades de longo prazo. O colonialismo de dados ofusca esses fatores em favor do lucro, quando uma discussão sobre os fatores socioeconômicos por trás da crise de saúde mental é mais necessária do que nunca.

É irônico que, assim como essa mudança estrutural na gestão de nossos corpos e mentes está em curso, uma explicação estreitamente determinística, associal e individualista de como a saúde mental pode ser gerenciada esteja sendo promovida pelos principais extratores de dados. De fato, é mais do que irônico: é talvez o álibi perfeito para desviar nossa atenção da coleta de dados conduzida institucionalmente que está em andamento.

Colaboradores

Nick Couldry é professor de mídia, comunicação e teoria social na London School of Economics and Political Science e autor (com Ulises A. Mejías) de The Costs of Connection (Stanford UP 2019).

Felix Maschewski é um ensaísta, teórico cultural e codiretor do Critical Data Lab na Humboldt University of Berlin. Ele é um pesquisador afiliado no Institute of Network Cultures e coautor de Die Gesellschaft der Wearables (Nicolai, 2019).

Anna-Verena Nosthoff é uma teórica social e filósofa. Ela é codiretora do Critical Data Lab na Humboldt University of Berlin, pesquisadora afiliada no Institute of Network Cultures e coautora de Die Gesellschaft der Wearables (Nicolai, 2019).

Gigantes da tecnologia estão usando essa crise para colonizar o sistema de assistência social

Nos últimos anos, empresas como Google e Facebook usaram o Sul Global como uma base de testes para novas e não regulamentadas formas de coleta de dados. Diante do coronavírus, os mesmos mecanismos estão sendo implementados em todo o mundo - com a coleta de dados com fins lucrativos se tornando cada vez mais central na gestão dos estados de seus sistemas de bem-estar.

João Carlos Magalhães e Nick Couldry

Jacobin

Um sinal de "curtir" fica na entrada da sede do Facebook em 18 de maio de 2012 em Menlo Park, Califórnia. Stephen Lam / Getty.

Tradução / Na infinidade de prognósticos sobre como a pandemia do coronavírus transformará o mundo, uma previsão se destaca: retornaremos a um renovado Estado de bem-estar social. O jornal The Economist disse: “O Estado grande está de volta”. Invertendo o lema de Thatcher, Boris Johnson observou que “existe sim essa coisa de sociedade”. Argumenta-se que a pandemia poderia superar o neoliberalismo, triunfando onde a crise financeira de 2008 fracassou.

Em certa medida, a mudança parece já estar em andamento. Governos estão resgatando empresas, nacionalizando folhas salariais e redirecionando a produção industrial para necessidades sanitárias urgentes. Ideias há muito tempo discutidas e rechaçadas, como as garantias mínimas de renda, de repente se tornaram realidade em países como a Espanha. Alguns afirmam (ou esperam) que a natureza coletiva da atual catástrofe pode promover o ressurgimento da solidariedade social, revivendo um certo “espírito” da Segunda Guerra Mundial.

Mas se um novo bem-estar social vai surgir desta crise, será um “bem-estar” bem diferente daquele imaginado no período pós 1945. Ele será fortemente impulsionado por empresas privadas, que usarão suas ferramentas e plataformas, cujo objetivo final é gerar lucro. Fundamentalmente, esse bem-estar social será baseado em formas opacas e intrusivas de dataficação. Com isso, queremos dizer não apenas a intensificação da vigilância digital – o que, como foi tantas vezes dito, já está acontecendo – mas dois processos interconectados: “a transformação da vida humana em dados por meio de processos de quantificação e a geração de diferentes tipos de valor a partir dos dados”. Um sistema de bem-estar dataficado consolidará as grandes empresas de tecnologia (Big Tech) como instituições essenciais no funcionamento básico do Estado e da sociedade. Se isso acontecer, não veremos um retorno ao mundo que existia antes do neoliberalismo, como alguns esperam, mas o surgimento de uma nova ordem social centrada no que Nick Couldry e Ulises Mejias chamaram recentemente de colonialismo de dados.

Relações entre público e privado

É preciso contextualizar esse processo para entendê-lo. O entrelaçamento da dataficação e do bem-estar social não é novo, e muitas vezes representa uma ameaça aos próprios direitos humanos que esses arranjos deveriam proteger.

Uma excelente introdução a essas questões foi publicada em outubro de 2019 por Philip Alston, professor de direito da New York University e relator especial da ONU. O relatório da Alston demonstra que, tanto nos países ricos quanto nos pobres, a seguridade social é cada vez mais impulsionada por “dados e tecnologias digitais que são usados para automatizar, prever, identificar, vigiar, detectar, direcionar e punir”. Essas tecnologias envolvem o desenvolvimento de sistemas de identificação biométrica, como o Aadhaar na Índia, e de sistemas automatizados em países como Reino Unido, Alemanha e Estados Unidos, que avaliam quem é elegível para determinados programas de assistência social e quanto deve ser pago aos beneficiários.

As evidências examinadas por Alston sugerem que as consequências negativas superam largamente as positivas. Apesar de alguns ganhos em eficiência, esses sistemas são propensos a produzir erros e injustiças e a reduzir a capacidade dos cidadãos de compreender e negociar a injustiça dessas decisões computacionais. Eles também geralmente dependem dos dados coletados em condições desiguais, comprometendo a própria ideia de consentimento, sem falar na constante ameaça de tais dados serem acessados ​​ou hackeados para fins comerciais, criminais e políticos. Esses sistemas também arriscam, como diz Virginia Eubanks em seu extraordinário estudo sobre a dataficação do bem-estar social nos Estados Unidos, criando uma “distância ética” entre as classes, enquanto reproduz antigas “hierarquias de valor humano”. Mesmo onde esses danos específicos estão ausentes, o direito das populações de viverem livres da vigilância contínua e da experimentação baseada em dados tem sido corroído.

A situação não é muito melhor quando consideramos o bem-estar social em escala global – o que geralmente é chamado de “desenvolvimento internacional” e ajuda humanitária. “Em nome do desenvolvimento”, afirmam os pesquisadores Linnet Taylor e Dennis Broeders, sistemas difíceis de entender ​​e práticas injustas de coleta de dados foram amplamente adotados.

Populações vulneráveis ​​têm sido usadas como campo de teste para novas tecnologias de extração e desenvolvimento de dados. Um exemplo é o surto de Ebola de 2014, quando atores da comunidade humanitária tiveram acesso a registros telefônicos detalhados de cidadãos da Libéria. Os registros foram praticamente inúteis – mas as organizações que pressionaram pelo acesso puderam “ganharam comercialmente” com isso, “por meio da vantagem competitiva sobre outras organizações humanitárias ou por meio de testes de produtos comerciais”.

Como o caso do Ebola demonstra, Estados são apenas um dos diversos atores nas parcerias público-privadas consideradas necessárias para fornecer soluções “inovadoras” de bem-estar social. Programas e projetos são geralmente desenhados e executados por organizações que ou trabalham em mercados competitivos, como ONGs, ou são, elas próprias, empresas com fins lucrativos. Esses arranjos emergem da percepção de que os governos não possuem a expertise humana, a capacidade tecnológica e os dados necessários para “solucionar” questões sociais complexas, como pobreza, desigualdade e saúde.

Nessas iniciativas, a dataficação do bem-estar e do desenvolvimento social depende de uma típica racionalidade neoliberal, e sua crença de que as empresas privadas devem preencher o vazio deixado por Estados ineficazes, tanto no Sul quanto no Norte Global.

Inteligência Artificial para o bem social?

Uma lógica semelhante afeta projetos em todo o mundo que, no jargão dos “empreendedores sociais” e consultores digitais, foram denominados “Inteligência Artificial (IA) para o bem”. As Big Tech aderiram ansiosamente ao hype. O Facebook lançou seu “Fórum sobre o Bem Social” em 2017, oferecendo “ferramentas e iniciativas para ajudar as pessoas a manterem-se seguras e com o apoio do Facebook”. A empresa tem criado várias iniciativas para fornecer conectividade , e seu controverso programa Free Basics ainda está em expansão, embora exija que os usuários concedam seus dados em troca de uma conexão simplificada (uma razão pela qual foi banido na Índia).

Depois de “Lucy”, um projeto lançado no Quênia em 2014 que prometeu usar IA para “resolver questões de saúde, educação, água, saneamento, mobilidade humana e agricultura” – e amplamente criticado por suas soluções vagas e interesse comercial – a IBM apresentou uma iniciativa intitulada de “Ciência e Bem Social”. Seu objetivo é nada menos do que “resolver os problemas mais difíceis do mundo” por meio de “ciência e tecnologia”.

Em 2019, o Google.org – a divisão filantrópica do gigante das buscas – redirecionou seu projeto multimilionário Impact Challenge para propostas que tenham a finalidade de ” usar a IA para ajudar a enfrentar os desafios da sociedade“. A Microsoft chama sua iniciativa de “IA para o Bem”. Ela aborda questões como mudança climática, crise humanitária e saúde.

Alguns desses projetos são formas tradicionais de caridade – por exemplo, a doação de dinheiro e de recursos humanos e computacionais para ONGs e pesquisadores poderem desenvolver suas próprias tecnologias. Outros envolvem práticas que intensificam a coleta de dados de populações vulneráveis. Mas todos representam um aumento em massa da capacidade das empresas de intervir na gestão da vida social: o meio apenas melhora sua capacidade de extrair e processar dados.

Considere a “ferramenta de prevenção ao suicídio” do Facebook, que emprega aprendizado de máquina para interpretar vários sinais comportamentais e identificar postagens que sugerem que “alguém pode estar em risco” de se matar: esse projeto simplesmente não poderia existir sem o poder preexistente do Facebook de acessar e analisar todas as ações dos usuários em sua plataforma, por mais pessoais que sejam. Recentemente, o sistema foi patenteado pela empresa.

Na América do Sul, a Microsoft é parceira do Projeto Horus, que diz ajudar governos com o uso de “inteligência artificial na prevenção de gravidez na adolescência e da evasão escolar“. Na Argentina, o projeto coletou “informações completas, constantes, compartilhadas e atualizadas” sobre menores vulneráveis ​​na província de Salta. Esse “banco de dados único”, como argumentaram seus criadores em 2018, alimentou um sistema de aprendizado de máquina que poderia supostamente “prever” quem teria mais chances de parar de frequentar a escola ou engravidar, conclusões que embasariam a ação do governo sobre esses indivíduos. O fato de o projeto ter sido amplamente criticado na Argentina por sua vigilância agressiva e previsões errôneas não impediu que ele fosse incentivado pelo UNICEF e pilotado no Brasil, com a cooperação do governo de extrema-direita de Jair Bolsonaro. No país, a iniciativa se concentra em crianças pobres que já estão registradas no Cadastro Único do governo federal – um dos maiores bancos de dados de assistência social do mundo, com informações de mais de 73 milhões de pessoas.

Quando o novo coronavírus surgiu, foi para uma versão desse discurso de “bem social” que as Big Tech se voltaram. Embora Estados tenham se atrapalhado com suas respostas à crise, as empresas reagiram rapidamente e, para todos os efeitos, de forma decisiva. Mark Zuckerberg mencionou a COVID-19 pela primeira vez em 4 de março. Ele disse então que o Facebook não apenas ajudaria as pessoas a “permanecerem conectadas”, mas também forneceria “informações confiáveis ​​e precisas” e contribuiria para os “esforços no sentido de conter o surto”.

Desde então, as notícias não pararam de chegar: o Facebook financiaria “a aquisição de máquinas de diagnóstico para COVID-19 aprovadas pela FDA [agência regulatória norte-americana]”, iniciaria um “Fundo de Resposta Solidária”, “investiria” US$ 100 milhões para ajudar pequenas empresas, lançaria um “Centro de Informações sobre Coronavírus” e permitiria que os pesquisadores realizassem uma “pesquisa sobre sintomas” em sua plataforma, além de várias doações multimilionárias para pesquisas em saúde e iniciativas de fact-checking. O Facebook não está sozinho. O Google também doou muitos milhões de dólares e dados de mobilidade e colaborou com várias autoridades públicas. Ele também criou um portal “ que registra os sintomas das pessoas, classifica-as para determinar quem precisa do teste drive-thru e exibe os resultados dos testes assim que disponíveis., levando alguns a suspeitar que isso pode ser um golpe para capturar dados. O CEO do Twitter prometeu doar um quarto de sua riqueza, aproximadamente US $ 1 bilhão.

Tomada de território

Não há evidências de que essas organizações não sejam sinceras em seu desejo de ajudar. Nem se pode dizer que o trabalho delas não salvará vidas; muito possivelmente salvará. No entanto, as implicações de suas intervenções são muito mais ambíguas. Dizer que essa crise pode ajudar as Big Tech a recuperar seu prestigio moral, revertendo o “techlash” pós-2016 pode estar correto – mas é também míope. Suas respostas à pandemia estão inerentemente relacionadas à principal forma de criação de valor das empresas: o colonialismo dos dados.

Esta é a grande história aqui: a continuação e a aceleração de uma nova tomada de território de proporções sem precedentes, merecendo o termo “colonialismo”. Há cinco séculos, o colonialismo histórico tomou posse de terras, seus recursos e corpos. Hoje, essa apropriação é direcionada à própria vida humana e ao valor que pode ser extraído dela na forma de dados. Como essa extração de dados funciona apenas por meio do rastreamento contínuo de inúmeros aspectos da vida cotidiana, o direito fundamental dos seres humanos de viver livre da vigilância se torna o dano colateral do avanço corporativo.

Que tipo de “bem-estar” isso produz? Quando se diz que as plataformas emergirão dessa crise como ” utilidades digitais “, geralmente se supõe que essas utilidades estejam relacionadas ao fornecimento de informações e espaços para interação virtual – o cerne dos modelos de negócios das Big Tech. Mas, desde o início, essas empresas foram marcadas por uma agressiva visão expansionista, que coloniza partes cada vez maiores da vida humana para extração de dados.

O objetivo é tomar não apenas um tipo de prática social, mas a própria vida humana. O Google começou como um organizador de banco de dados, mas agora é um conglomerado (Alphabet) que opera em áreas tão diversas como saúde, infraestrutura urbana, transporte e manejo de capital financeiro. O Facebook começou como uma ferramenta de networking para estudantes de universidades norte-americanas de elite, mas agora diz ser capaz de conectar uma “comunidade global” de mais de 2 bilhões de pessoas, e planeja criar uma moeda digital global, suscitando preocupações de que possa “corroer o controle nacional sobre o dinheiro“, há séculos considerado uma prerrogativa dos governos. Não há limites claros sobre quais áreas podem ser exploradas com fins lucrativos, mesmo que certos segmentos da população representem alvos particularmente úteis.

Até que ponto os Estados ricos, enfraquecidos pela crise da COVID-19, aproveitarão as novas oportunidades de provisão de bem-estar baseada em dados, não é, neste momento, exatamente claro. O que é aparente é que a doença apresenta mais uma oportunidade – particularmente importante – para essa expansão. Há alguns meses, as Big Tech teriam sido alvo de críticas se tentassem usar os dados de bilhões de pessoas para rastrear um surto de vírus, como estão fazendo Facebook, Google e Apple. A pandemia parece ter tornado esse trabalho repentinamente desejável.

Há diversas questões sobre os perigos criados por essas iniciativas. No entanto, a novidade reside menos em algum conjunto particular de aplicativos ou dados, ou no que acontecerá com eles após a pandemia, do que na suposição de que é a esse novo tipo de poder corporativo, com sua capacidade global sem precedentes de produzir novas formas de conhecimento para controle social, que devemos recorrer em um momento de crise pública. O resultado é menos que as Big Tech vão oferecer um novo tipo de utilidade pública e mais que os recursos de dados das Big Tech vão se tornar essenciais para a autoridade do Estado e o ordenamento da vida social. Elas não serão apenas “plataformas de mídia sociais”, “mecanismos de busca” e fabricantes de computadores, mas – juntamente com os governos – o próprio lastro do nosso bem estar.

Gestão de população

Durante e após essa crise, veremos um aumento das “parceria público-privado de vigilância” que vem sendo construídas há alguns anos. Saúde e bem-estar são apenas duas áreas afetadas por esse modelo de gestão da população; outros podem ser educação, infraestrutura laboral e aplicação de leis.

Haverá resistência, sem dúvida, e é improvável que essa transformação ocorra de forma homogênea em todo o planeta – desenvolvimentos paralelos também estão em andamento na China, mesmo que com um equilíbrio diferente entre empresas e Estado. No entanto, há poucas evidências de que essa resistência represente um obstáculo real à aceleração de um tipo de colonização que já estava em curso antes mesmo da pandemia.

À medida que o colonialismo dos dados se desenvolve, o resultado será um novo e muito mais complexo tipo de bem-estar social, que só pode ser realizado por meio da corrosão de liberdades fundamentais. Muito foi dito sobre como uma renovada valorização dos serviços públicos de saúde significaria o fim da estridente retórica neoliberal. Essa previsão pode ser surpreendentemente posta à prova quando, ao final desta crise, a linha divisória entre mercado e sociedade que o neoliberalismo sempre atacou tiver sido desmantelada em nome de um “bem-estar social” lastreado por conglomerados globais privados.

Sobre os autores

João Carlos Magalhães é pesquisador de pós-doutorado no Instituto Humboldt de Internet e Sociedade, em Berlim. Ele é PhD pela London School of Economics and Political Science.

Nick Couldry é professor de mídia, comunicação e teoria social na London School of Economics and Political Science e autor (com Ulises A. Mejías) de The Costs of Connection (Stanford UP 2019).