A empresa-mãe do Facebook, Meta, está enfrentando um grande processo alegando que a empresa está prejudicando conscientemente os jovens, inclusive ao aceitar o uso por menores. Documentos judiciais sugerem que isso é verdade - e que os executivos têm sido flagrantemente insensíveis em relação aos danos causados às crianças.
Tradução / No outono passado, quarenta e dois estados dos EUA, além do Distrito de Columbia, processaram a Meta, empresa corporativa do Facebook e Instagram, por projetar intencionalmente seus aplicativos populares para maximizar o tempo de uso do usuário, enquanto escondem danos aos usuários, especialmente aos jovens, para mantê-los utilizando a plataforma. Os estados também alegam que a empresa tem conhecimento de um grande número de usuários menores de idade e aceitou tacitamente o uso deles na plataforma.
Essa ação é separada do outro processo movido contra a Meta pela Comissão Federal de Comércio dos Estados Unidos e quarenta e seis estados norte-americanos, por monopolizar as mídias sociais por meio das aquisições do WhatsApp e Instagram, que atualmente aguarda uma data de julgamento. As penalidades neste novo caso sobre danos aos jovens provavelmente estão na faixa de centenas de milhões de dólares, possivelmente mais, somando-se aos danos já sofridos pela reputação da empresa.
Os estados também buscam medidas judiciais para obrigar a Meta a desistir de algumas de suas práticas mais desonrosas. As gigantes da tecnologia costumam prevalecer em ambientes legais, mas o volume de casos e o endurecimento das atitudes bipartidárias em relação ao gigante das redes sociais sugerem que a maré pode estar lentamente virando.
Como alguém que leu e escreveu extensivamente sobre os desafios legais enfrentados pela Big Tech, esses processos envolvem alguns dos documentos mais flagrantemente incriminatórios que vi tornados públicos. Os documentos recentemente divulgados sem censura, em particular, estão repletos de conversas surpreendentemente embaraçosas entre os executivos mais graduados da Meta, com o CEO Mark Zuckerberg sendo particularmente prejudicado.
"Adolescentes são insaciáveis"
Os efeitos psicológicos negativos do uso intensivo de mídias sociais citados pelos estados incluem insônia, ansiedade e interferência na vida diária. O uso excessivo de notificações e a “rolagem infinita” dos feeds do aplicativo criam o que os estados chamam de “recursos de produto psicologicamente manipuladores”.
Os estados alegam que a Meta capturou os usuários injustamente e os “viciou” na plataforma. Essa alegação é um tanto obscura à primeira vista — todos nós não usamos as redes sociais mais do que deveríamos, e isso realmente é culpa da Meta? Mas há uma compreensão estabelecida na lei de que a juventude vem com certas vulnerabilidades e que os jovens não devem ser tratados como tomadores de decisão totalmente autônomos. Essa compreensão é refletida em requisitos legais que vão desde restrições de idade mínima para comprar tabaco até leis de idade de consentimento.
A América corporativa tem um longo histórico de tentar explorar essas vulnerabilidades, que o governo tentou remediar com medidas como proibições de publicidade para cigarros. No entanto, os designers de redes sociais são notórios por criar plataformas com algoritmos que aprendem rapidamente os interesses de um usuário e oferecem a eles um fluxo interminável desse conteúdo, custe o que custar.
O ponto possivelmente mais incriminador nesse sentido é uma apresentação interna da Meta sobre design de produtos em 2020, afirmando que a empresa deveria aproveitar as fraquezas psicológicas reconhecidas há muito tempo dos jovens usuários. Observando que eles são “predispostos a impulsos, pressão dos colegas e comportamentos arriscados potencialmente prejudiciais”, a apresentação argumentava que, em vez de projetar suas plataformas para evitar prejudicar os menores, ela deveria aproveitar suas vulnerabilidades.
Essa ação é separada do outro processo movido contra a Meta pela Comissão Federal de Comércio dos Estados Unidos e quarenta e seis estados norte-americanos, por monopolizar as mídias sociais por meio das aquisições do WhatsApp e Instagram, que atualmente aguarda uma data de julgamento. As penalidades neste novo caso sobre danos aos jovens provavelmente estão na faixa de centenas de milhões de dólares, possivelmente mais, somando-se aos danos já sofridos pela reputação da empresa.
Os estados também buscam medidas judiciais para obrigar a Meta a desistir de algumas de suas práticas mais desonrosas. As gigantes da tecnologia costumam prevalecer em ambientes legais, mas o volume de casos e o endurecimento das atitudes bipartidárias em relação ao gigante das redes sociais sugerem que a maré pode estar lentamente virando.
Como alguém que leu e escreveu extensivamente sobre os desafios legais enfrentados pela Big Tech, esses processos envolvem alguns dos documentos mais flagrantemente incriminatórios que vi tornados públicos. Os documentos recentemente divulgados sem censura, em particular, estão repletos de conversas surpreendentemente embaraçosas entre os executivos mais graduados da Meta, com o CEO Mark Zuckerberg sendo particularmente prejudicado.
"Adolescentes são insaciáveis"
Os efeitos psicológicos negativos do uso intensivo de mídias sociais citados pelos estados incluem insônia, ansiedade e interferência na vida diária. O uso excessivo de notificações e a “rolagem infinita” dos feeds do aplicativo criam o que os estados chamam de “recursos de produto psicologicamente manipuladores”.
Os estados alegam que a Meta capturou os usuários injustamente e os “viciou” na plataforma. Essa alegação é um tanto obscura à primeira vista — todos nós não usamos as redes sociais mais do que deveríamos, e isso realmente é culpa da Meta? Mas há uma compreensão estabelecida na lei de que a juventude vem com certas vulnerabilidades e que os jovens não devem ser tratados como tomadores de decisão totalmente autônomos. Essa compreensão é refletida em requisitos legais que vão desde restrições de idade mínima para comprar tabaco até leis de idade de consentimento.
A América corporativa tem um longo histórico de tentar explorar essas vulnerabilidades, que o governo tentou remediar com medidas como proibições de publicidade para cigarros. No entanto, os designers de redes sociais são notórios por criar plataformas com algoritmos que aprendem rapidamente os interesses de um usuário e oferecem a eles um fluxo interminável desse conteúdo, custe o que custar.
O ponto possivelmente mais incriminador nesse sentido é uma apresentação interna da Meta sobre design de produtos em 2020, afirmando que a empresa deveria aproveitar as fraquezas psicológicas reconhecidas há muito tempo dos jovens usuários. Observando que eles são “predispostos a impulsos, pressão dos colegas e comportamentos arriscados potencialmente prejudiciais”, a apresentação argumentava que, em vez de projetar suas plataformas para evitar prejudicar os menores, ela deveria aproveitar suas vulnerabilidades.
"Os adolescentes são insaciáveis quando se trata dos efeitos de 'sentir-se bem' da dopamina", diz a apresentação. Ela continua observando que a plataforma legada do Facebook já é projetada para fornecer regularmente o “golpe de dopamina” da gratificação social, construindo um hábito duradouro.
Mas não está claro se a alegação legal dos estados sobre danos ao usuário prevalecerá nos tribunais, uma vez que os usuários tecnicamente dão consentimento informado ao criar contas, e há pouco precedente legal para responsabilizar as empresas pelo uso excessivo de seus produtos pelos consumidores.
Vozes internas
A parte mais forte do caso será provavelmente a alegação de que as plataformas da Meta estão infestadas de usuários menores de idade. Apesar de ter sido notificada de mais de um milhão de contas criadas por usuários menores de treze anos, a empresa desativou apenas uma fração delas, e os estados chamam o uso de menores de idade no Instagram de “um segredo aberto” dentro da empresa. A plataforma continuou a coletar dados pessoais de usuários menores de idade, como gênero e data de nascimento, o que provavelmente viola a Lei de Proteção à Privacidade Online Infantil (COPPA). Essa lei exige que as empresas obtenham a permissão dos pais antes de coletar dados de menores.
Os documentos internos na reclamação não selada são bastante explícitos, incluindo um diagrama da empresa descrevendo como a Meta monitorava diariamente a proporção de usuários menores de treze anos no Instagram. Os documentos da empresa descrevem uma estimativa algorítmica de até quatro milhões de contas de menores de idade e incluem diagramas internos mostrando um forte uso por crianças de onze e doze anos. A Meta emprega medidas fracas de verificação de idade, exigindo apenas a declaração da idade do usuário e contando apenas com um pequeno número de funcionários lidando com o uso denunciado de menores de idade. O Instagram tem um grande número de contas de menores denunciadas aguardando revisão.
Não ajuda o caso a recente reportagem, liderada pelo Wall Street Journal, sobre o recurso de vídeo do Instagram, Reels, que é projetado para maximizar a interação do usuário, assim como o restante das plataformas online. Partindo da simples observação de que muitas contas de mulheres jovens influenciadoras, como ginastas ou revisoras de produtos, têm um grande número de homens adultos entre seus seguidores, o Journal criou contas falsas para seguir essas mesmas jovens mulheres.
As contas falsas foram então incentivadas pelo algoritmo a seguir outros usuários adultos que postam extensivamente sobre sexo com adultos e jovens, e então mostradas vídeo após vídeo de sexo adulto, jovens envolvidos em atividades de flerte e anúncios de marcas nacionais. Os repórteres do jornal concluíram que “enquanto a ginástica pode parecer um tópico inócuo, o rastreamento comportamental da Meta descobriu que alguns usuários do Instagram que seguem meninas pré-adolescentes desejarão se envolver com vídeos sexualizando crianças e, em seguida, direciona tal conteúdo para eles”.
A natureza radioativa da sexualização da juventude é tal que esse assunto específico provavelmente será abordado pela empresa, especialmente se levar a responsabilidade sob a COPPA. As forças de mercado, parece, não impedirão esse comportamento — o Journal leu documentos da empresa mostrando que "os funcionários de segurança da empresa têm amplamente proibido alterações na plataforma que possam reduzir a quantidade mensurável de usuários ativos diários".
Metamaldição
Outro aspecto interessante da reclamação dos estados diz respeito à tomada de decisões relacionadas a esses problemas, especialmente ao abuso de notificações para manter os usuários presos a seus dispositivos e às plataformas. O próprio diretor de marketing da empresa apoiou uma proposta para reduzir o uso pesado de notificações da plataforma, escrevendo em um e-mail: "Fundamentalmente, acredito que abusamos do canal de notificações como empresa."
O chefe de produto concordou — apenas para ser sobrepujado pelo próprio Zuckerberg. Outro executivo disse mais tarde que a métrica da empresa de uso diário "é uma preocupação maior para Mark agora do que a experiência do usuário".
Essa atitude imperiosa vem do tamanho ainda gigantesco da plataforma e de sua aparente capacidade de absorver punições sem muitas consequências. Basta lembrar o infame escândalo de aspiração de dados pessoais pela Cambridge Analytica em 2018-19, quando a FTC considerou o Facebook culpado por violar os termos de proteção de privacidade de seu decreto de consentimento de 2011 e multou a empresa com uma multa gigantesca de vários bilhões de dólares. Como foi relatado na época, a multa equivalia a meros 9 por cento da receita do Facebook apenas naquele ano.
Mesmo enquanto enfrenta múltiplos desafios legais sob o peso de documentos incriminadores, a empresa não está exatamente fugindo de controvérsias políticas. A Meta está bloqueando atualmente as notícias no Canadá em protesto contra a Lei de Notícias Online, que exigiria que as empresas de mídia social pagassem às organizações de notícias por notícias compartilhadas em suas plataformas. Depois de quatro meses, o uso do Facebook no Canadá mal diminuiu, mas legisladores e reguladores estão cada vez mais irritados com a empresa. Nos Estados Unidos, a empresa anunciou recentemente que permitirá anúncios políticos questionando a integridade das eleições presidenciais de 2020, mas não da próxima corrida de 2024.
Depois de anos de crescimento e lucros declinantes, em parte devido ao gasto massivo da empresa no desenvolvimento de seu fracasso no Metaverso, a empresa está de volta ao verde. A receita e os lucros aumentaram dois dígitos nos últimos trimestres depois que Zuckerberg demitiu mais de vinte e um mil funcionários.
Mas mesmo o afeto dos investidores e de Wall Street pode não ser suficiente para uma empresa com tantas observações incriminatórias nos registros públicos. Ações públicas contra as grandes plataformas geralmente perdem força ou resultam apenas em penalidades economicamente modestas, como multas de bilhões de dólares. Se a Meta pode continuar essa série vitoriosa depende de quão dispostos os juízes de distrito estão a continuar ignorando a vergonhosa lavagem de roupa suja corporativa.
Colaborador
Rob Larson é professor de economia no Tacoma Community College e autor de "Bit Tyrants: The Political Economy of Silicon Valley", publicado pela Haymarket Books.
Mas não está claro se a alegação legal dos estados sobre danos ao usuário prevalecerá nos tribunais, uma vez que os usuários tecnicamente dão consentimento informado ao criar contas, e há pouco precedente legal para responsabilizar as empresas pelo uso excessivo de seus produtos pelos consumidores.
Vozes internas
A parte mais forte do caso será provavelmente a alegação de que as plataformas da Meta estão infestadas de usuários menores de idade. Apesar de ter sido notificada de mais de um milhão de contas criadas por usuários menores de treze anos, a empresa desativou apenas uma fração delas, e os estados chamam o uso de menores de idade no Instagram de “um segredo aberto” dentro da empresa. A plataforma continuou a coletar dados pessoais de usuários menores de idade, como gênero e data de nascimento, o que provavelmente viola a Lei de Proteção à Privacidade Online Infantil (COPPA). Essa lei exige que as empresas obtenham a permissão dos pais antes de coletar dados de menores.
Os documentos internos na reclamação não selada são bastante explícitos, incluindo um diagrama da empresa descrevendo como a Meta monitorava diariamente a proporção de usuários menores de treze anos no Instagram. Os documentos da empresa descrevem uma estimativa algorítmica de até quatro milhões de contas de menores de idade e incluem diagramas internos mostrando um forte uso por crianças de onze e doze anos. A Meta emprega medidas fracas de verificação de idade, exigindo apenas a declaração da idade do usuário e contando apenas com um pequeno número de funcionários lidando com o uso denunciado de menores de idade. O Instagram tem um grande número de contas de menores denunciadas aguardando revisão.
Não ajuda o caso a recente reportagem, liderada pelo Wall Street Journal, sobre o recurso de vídeo do Instagram, Reels, que é projetado para maximizar a interação do usuário, assim como o restante das plataformas online. Partindo da simples observação de que muitas contas de mulheres jovens influenciadoras, como ginastas ou revisoras de produtos, têm um grande número de homens adultos entre seus seguidores, o Journal criou contas falsas para seguir essas mesmas jovens mulheres.
As contas falsas foram então incentivadas pelo algoritmo a seguir outros usuários adultos que postam extensivamente sobre sexo com adultos e jovens, e então mostradas vídeo após vídeo de sexo adulto, jovens envolvidos em atividades de flerte e anúncios de marcas nacionais. Os repórteres do jornal concluíram que “enquanto a ginástica pode parecer um tópico inócuo, o rastreamento comportamental da Meta descobriu que alguns usuários do Instagram que seguem meninas pré-adolescentes desejarão se envolver com vídeos sexualizando crianças e, em seguida, direciona tal conteúdo para eles”.
A natureza radioativa da sexualização da juventude é tal que esse assunto específico provavelmente será abordado pela empresa, especialmente se levar a responsabilidade sob a COPPA. As forças de mercado, parece, não impedirão esse comportamento — o Journal leu documentos da empresa mostrando que "os funcionários de segurança da empresa têm amplamente proibido alterações na plataforma que possam reduzir a quantidade mensurável de usuários ativos diários".
Metamaldição
Outro aspecto interessante da reclamação dos estados diz respeito à tomada de decisões relacionadas a esses problemas, especialmente ao abuso de notificações para manter os usuários presos a seus dispositivos e às plataformas. O próprio diretor de marketing da empresa apoiou uma proposta para reduzir o uso pesado de notificações da plataforma, escrevendo em um e-mail: "Fundamentalmente, acredito que abusamos do canal de notificações como empresa."
O chefe de produto concordou — apenas para ser sobrepujado pelo próprio Zuckerberg. Outro executivo disse mais tarde que a métrica da empresa de uso diário "é uma preocupação maior para Mark agora do que a experiência do usuário".
Essa atitude imperiosa vem do tamanho ainda gigantesco da plataforma e de sua aparente capacidade de absorver punições sem muitas consequências. Basta lembrar o infame escândalo de aspiração de dados pessoais pela Cambridge Analytica em 2018-19, quando a FTC considerou o Facebook culpado por violar os termos de proteção de privacidade de seu decreto de consentimento de 2011 e multou a empresa com uma multa gigantesca de vários bilhões de dólares. Como foi relatado na época, a multa equivalia a meros 9 por cento da receita do Facebook apenas naquele ano.
Mesmo enquanto enfrenta múltiplos desafios legais sob o peso de documentos incriminadores, a empresa não está exatamente fugindo de controvérsias políticas. A Meta está bloqueando atualmente as notícias no Canadá em protesto contra a Lei de Notícias Online, que exigiria que as empresas de mídia social pagassem às organizações de notícias por notícias compartilhadas em suas plataformas. Depois de quatro meses, o uso do Facebook no Canadá mal diminuiu, mas legisladores e reguladores estão cada vez mais irritados com a empresa. Nos Estados Unidos, a empresa anunciou recentemente que permitirá anúncios políticos questionando a integridade das eleições presidenciais de 2020, mas não da próxima corrida de 2024.
Depois de anos de crescimento e lucros declinantes, em parte devido ao gasto massivo da empresa no desenvolvimento de seu fracasso no Metaverso, a empresa está de volta ao verde. A receita e os lucros aumentaram dois dígitos nos últimos trimestres depois que Zuckerberg demitiu mais de vinte e um mil funcionários.
Mas mesmo o afeto dos investidores e de Wall Street pode não ser suficiente para uma empresa com tantas observações incriminatórias nos registros públicos. Ações públicas contra as grandes plataformas geralmente perdem força ou resultam apenas em penalidades economicamente modestas, como multas de bilhões de dólares. Se a Meta pode continuar essa série vitoriosa depende de quão dispostos os juízes de distrito estão a continuar ignorando a vergonhosa lavagem de roupa suja corporativa.
Colaborador
Rob Larson é professor de economia no Tacoma Community College e autor de "Bit Tyrants: The Political Economy of Silicon Valley", publicado pela Haymarket Books.
Nenhum comentário:
Postar um comentário