Que tipo de escritor é o ChatGPT?

Chatbots têm sido criticados como ferramentas perfeitas para plágio. A verdade é mais surpreendente.

Cal Newport

Ilustração de Timo Lenzen

Na primavera passada, um estudante de pós-graduação em antropologia social — vamos chamá-lo de Chris — sentou-se em seu laptop e pediu ajuda ao ChatGPT com uma tarefa de redação. Ele colou alguns milhares de palavras, uma mistura de resumos e tópicos anotados, na caixa de texto que serve como interface do ChatGPT. "Aqui está a minha prova completa", escreveu ele. "Não edite, eu lhe direi o que fazer depois que você ler."

Chris estava lidando com uma dissertação difícil sobre perspectivismo, que é o princípio antropológico de que a perspectiva de alguém molda inevitavelmente as observações que fazemos e o conhecimento que adquirimos. O ChatGPT perguntou a ele: "De quais tarefas específicas ou assistência você precisa com este conteúdo?" Chris colou um parágrafo do seu rascunho na caixa de texto. "Por favor, edite", ele digitou.

O ChatGPT retornou uma versão condensada e ligeiramente reformulada do parágrafo. A versão ajustada removeu o termo francês grande idée e americanizou a grafia britânica de "marginalização", mas, fora isso, não ficou claramente melhor. Logo, Chris desistiu de pedir ao ChatGPT para editar seu trabalho. Em vez disso, ele esboçou um trecho que queria adicionar ao artigo. "Por favor, escreva este parágrafo como achar melhor", ele instruiu.

A resposta foi forçada. "Quero que a linguagem seja viva, mas direta e objetiva", ele digitou. Mas o resultado ainda não estava totalmente correto. Ele disse ao ChatGPT: "Gostei disso, mas escreva um pouco mais como uma história. Não exagere."

Ao longo de uma conversa de horas, Chris percebeu que a escrita do ChatGPT não estava à altura dos seus padrões. Ele tentou outras abordagens. Em certo momento, ele compartilhou o texto de um capítulo relevante de um livro e, em uma espécie de diálogo socrático com o modelo, fez uma série de perguntas: "Você pode dar um exemplo que ilustre isso?" "A que você acha que se refere?" "Você poderia dar um exemplo ilustrativo com mito?" Mais tarde, Chris perguntou à IA a opinião sobre a força de um parágrafo que ele havia escrito. "Você pode testar esse argumento? Ele é verdadeiro, na sua análise?"

Quando o ChatGPT foi lançado, muitas pessoas o consideraram uma ferramenta perfeita para plágio. "A IA parece quase feita para colar", escreveu Ethan Mollick, um comentarista de IA, em seu livro "Co-Inteligência". (Mais tarde, ele previu um "apocalipse das tarefas de casa".) Um professor de ciências agrícolas da Texas A&M reprovou todos os seus alunos ao se convencer de que toda a turma havia usado IA para escrever suas tarefas. (Descobriu-se que seu método de detecção — perguntar ao ChatGPT se ele havia gerado os trabalhos em questão — não era confiável, então ele alterou as notas.) Um colunista do The Spectator perguntou: "Como você pode mandar os alunos para casa com trabalhos de redação quando, entre tragadas de maconha quase legal, eles podem dizer ao laptop: 'Ei, ChatGPT, escreva um bom trabalho de 1.000 palavras comparando os temas de Fleabag e Macbeth' — e dois segundos depois, voilà?"

Mas "voilà" não era a palavra certa para descrever o que quer que o ChatGPT estivesse fazendo para o Chris. Ele não estava terceirizando sua prova para o ChatGPT; raramente usava o novo texto ou as revisões fornecidas pelo chatbot. Ele também não parecia estar simplificando ou acelerando seu processo de escrita. Se eu fosse professor do Chris, gostaria que ele revelasse o uso da ferramenta, mas não acho que consideraria isso uma trapaça. Então, o que era?

Pedi ao Chris que explicasse o que ele achava que estava fazendo. "Pode-se dizer que, enquanto meu papel é uma espécie de orquestrador e guia, o papel do ChatGPT é principalmente a execução e o suporte da estrutura do meu trabalho", ele me disse. Isso fazia sentido em teoria, mas não parecia capturar a transcrição caótica que eu havia lido. Chris então recitou várias contribuições adicionais que o ChatGPT havia feito ao seu processo. Ele estava com dificuldade para explicar como a ferramenta o havia ajudado; parecia não ter a linguagem necessária para descrever esse novo estilo de colaboração.

Chris não é o único. No ano passado, Stacey Pigg, professora de comunicação na Universidade Estadual da Carolina do Norte, estudou sistematicamente trinta e cinco vídeos do YouTube e do TikTok nos quais pessoas usavam IA generativa para ajudar a elaborar artigos de pesquisa. Pigg dividiu os vídeos em segmentos curtos, cada um capturando uma única interação digital que ela pôde rotular e categorizar. Pigg finalmente identificou quarenta e quatro coisas que os escritores pediram ao ChatGPT para fazer, como reformular descobertas para um público leigo ou avaliar a qualidade das citações. Algumas dessas atividades — pedir ao modelo para elaborar uma seção de conclusão do zero, por exemplo — poderiam ser consideradas trapaça, mas a maioria era mais difícil de categorizar. Escrever com IA não era um "fenômeno coerente ou estável", escreveu ela. "Em vez disso, o estudo sugere usos díspares e fragmentados de tecnologias de IA generativa." Mais recentemente, a organização sem fins lucrativos que organiza o Mês Nacional da Escrita de Romances, NaNoWriMo, anunciou que permitiria aos participantes o uso de IA e, em seguida, declarou: "condenar categoricamente a IA seria ignorar questões classistas e capacitistas em torno do uso da tecnologia". Uma tempestade de ódio logo se seguiu; alguns críticos acusaram o próprio NaNoWriMo de classismo e capacitismo, e a organização atualizou sua declaração. Uma coisa que parecia clara era que ninguém tinha uma boa noção de como os escritores estavam usando as ferramentas de IA e quais usos poderiam ser mais aceitáveis ​​do que outros.

Para os escritores que Pigg estudou e os alunos que entrevistei para este artigo, o ChatGPT não era tanto uma ferramenta perfeita contra plágio, mas sim uma caixa de ressonância. O chatbot não conseguia produzir grandes seções de texto utilizável, mas podia explorar ideias, aprimorar a prosa existente ou fornecer um texto bruto para o aluno aprimorar. Permitia que os escritores brincassem com suas próprias palavras e ideias. Em alguns casos, essas interações com o ChatGPT parecem quase parassociais. Chris me disse que Chat — seu apelido para ChatGPT — era um "bom parceiro de conversa". Outro aluno, que foi descrito em um artigo recente sobre o assunto, apelidou o chatbot de Lisa e a descreveu como "uma parceira e até mesmo uma amiga". O ChatGPT levanta questões práticas complexas sobre originalidade e plágio. Mas a pergunta binária "É trapaça?" esconde a possibilidade de que algo novo e inventivo possa estar acontecendo aqui.

Escrever é difícil. Exige que usemos várias partes do cérebro em uma sinfonia improvável de esforço intenso. Nosso hipocampo evoca fatos relevantes; o córtex pré-frontal tenta organizá-los. Uma região do cérebro conhecida como área de Broca nos ajuda a narrar com uma voz interior familiar; nossa memória de trabalho verbal armazena e manipula a narração à medida que a transferimos para a página. Enquanto isso, nosso cérebro recruta nossa memória de trabalho espacial, que evoluiu para rastrear nossa localização no espaço físico, para orientar nossas palavras dentro de um todo. (No laboratório, se você pedir a uma pessoa para traçar um padrão com a mão livre — um método padrão para esgotar a memória de trabalho espacial — sua capacidade de estruturar um ensaio diminui.)

Essas demandas mentais podem ajudar a explicar os hábitos excêntricos dos escritores. Para escrever seu primeiro livro, "O Fim da Natureza", Bill McKibben deixou o barulho de seu apartamento em Manhattan e se mudou para uma remota casa de moinho nos Adirondacks; Maya Angelou escrevia em quartos de hotel, removendo as obras de arte das paredes para simplificar o espaço. Há um quê de romântico no isolamento, mas nesses casos existe uma motivação mais prática: eliminar distrações facilita a tarefa de forçar os circuitos cerebrais a escrever.

Muitos autores reduzem as demandas cognitivas da escrita por meio do uso de hábitos e rituais familiares, projetados para facilitar o cérebro a entrar em um modo propício à produção literária. Haruki Murakami combina suas sessões de escrita com corridas de dez quilômetros, acreditando que o físico e o mental estão intimamente relacionados. Agatha Christie achou mais fácil criar ideias para o enredo enquanto comia maçãs durante longos banhos de banheira. Anne Lamott aconselhou escrever um "primeiro rascunho ruim" o mais rápido possível, aquecendo o cérebro para a tarefa mais difícil de produzir prosa com qualidade profissional. Ernest Hemingway obteve um efeito semelhante interrompendo cada sessão no meio da página para que tivesse mais facilidade para começar no dia seguinte. "Quando você ainda está indo bem", ele supostamente comentou, "é hora de parar".

Escritores também são obcecados pelas ferramentas que podem tornar seu ofício mais tolerável. Quentin Tarantino escreve os primeiros rascunhos de seus roteiros à mão; Neal Stephenson escreveu "O Ciclo Barroco", uma série de oito livros ambientados nos séculos XVII e XVIII, com uma caneta-tinteiro. (Por um tempo, o Hall da Fama da Ficção Científica e Fantasia em Seattle exibiu seu manuscrito, frascos de tinta vazios e papel mata-borrão descartado.) Muitos escritores, inclusive eu, juram por programas de escrita especializados como o Scrivener, que organiza materiais de pesquisa e particiona projetos em várias partes. Outros permanecem fiéis a qualquer software que tenham dominado inicialmente. George R. R. Martin ainda usa o WordStar 4.0, lançado originalmente em 1987. Ele o executa no Microsoft DOS e salva seus manuscritos em disquetes. Quando uma pessoa tem dificuldade para escrever, todos esses detalhes importam. Se usar uma caneta-tinteiro ou se refugiar em uma casa na montanha pode tornar a carga cognitiva de produzir um texto ainda mais suportável, os escritores considerarão isso.

Depois de observar Chris, comecei a me perguntar se o ChatGPT poderia ser entendido como sua versão do WordStar ou de comer maçãs no banho: um truque cerebral usado para tornar o ato de escrever menos difícil. Testei minha teoria pedindo ajuda ao ChatGPT com o primeiro parágrafo desta seção, sobre os processos neurais envolvidos na escrita. Comecei buscando auxílio em pesquisa: descrevi o trecho que esperava escrever e pedi ao ChatGPT "fatos sobre a neurociência da escrita que enfatizassem que escrever é de fato difícil". Ele organizou sua resposta em sete tópicos, incluindo "Alta Carga Cognitiva" e "Função Executiva", fornecendo algumas frases com anotações para cada um. Pedi ao chatbot que se aprofundasse no papel dos lobos temporais, pois isso parecia promissor. O ChatGPT respondeu com outra lista, desta vez resumindo seis subtópicos.

Essas respostas me deram algumas ideias sobre o que pesquisar posteriormente, mas não foram diretamente úteis. Em tópicos técnicos, o ChatGPT parecia sintonizado com uma espécie de insosso de reportagem literária, como quando me disse que "escrever frequentemente requer a conversão de tons e nuances emocionais sutis, seja em diálogos, descrições narrativas ou argumentos persuasivos". Tive ainda menos sucesso quando pedi ao chatbot que fornecesse uma citação de um cientista que enfatizasse a dificuldade cognitiva da escrita. Recebi uma resposta perfeita — "Escrever é a tarefa mais complexa e exigente que nosso cérebro pode realizar" — atribuída ao psicólogo de Harvard Steven Pinker. Na realidade, era perfeita demais: não consegui encontrar nenhuma evidência de que Pinker tivesse feito essa afirmação. O ChatGPT parecia ter alucinado.

Seguindo a abordagem que aprendi com Chris, mudei de tática. Dei ao ChatGPT um esboço para expandir:

Você pode reescrever o seguinte parágrafo em uma linguagem mais interessante, como a que você encontraria em uma matéria da New Yorker? "Escrever é difícil. Envolve muitas partes do cérebro trabalhando juntas. O hipocampo é necessário para recuperar memórias. Os lobos temporais também estão envolvidos."

O resultado não foi terrível. O ChatGPT criou uma metáfora sinfônica semelhante à que aparece na minha versão final do parágrafo. Mas a escrita também não era boa. O chatbot misturava metáforas — apenas uma frase depois de descrever as atividades do cérebro como uma sinfonia, por exemplo, descrevia o trabalho dos lobos temporais como uma dança — e sua linguagem era carregada de adjetivos e frequentemente exagerada. "Cada palavra é um testemunho das capacidades extraordinárias do nosso cérebro", declarou o ChatGPT, como se estivesse falando na voz de David Attenborough e não na da The New Yorker.

No início, tive dificuldade em entender por que alguém escreveria dessa maneira. Meu diálogo com o ChatGPT era frustrantemente sinuoso, como se eu estivesse escavando um ensaio em vez de escrevê-lo. Mas, quando pensei na experiência psicológica de escrever, comecei a ver o valor da ferramenta. O ChatGPT não estava gerando prosa profissional de uma só vez, mas estava fornecendo pontos de partida: ideias de pesquisa interessantes para explorar; Parágrafos medíocres que poderiam, com edição suficiente, se tornar úteis. Apesar de todas as suas ineficiências, essa abordagem indireta parecia mais fácil do que ficar olhando para uma página em branco; "conversar" com o chatbot sobre o artigo era mais divertido do que trabalhar em isolamento silencioso. A longo prazo, eu não estava economizando tempo: ainda precisava pesquisar fatos e escrever frases com minha própria voz. Mas minhas trocas pareciam reduzir o esforço mental máximo exigido de mim. A escrita tradicional exige explosões de foco que me lembram os picos agudos de um eletrocardiograma. Trabalhar com o ChatGPT suavizou a experiência, arredondando esses picos para as curvas suaves de uma onda senoidal.

É possível explicar minha experiência com o ChatGPT em termos cognitivos. Se escrever exige que uma pessoa armazene informações usando vários tipos de memória de trabalho ao mesmo tempo, então conversas com o ChatGPT podem proporcionar momentos de descanso, descarregando temporariamente algumas dessas informações. (Uma pausa mais completa — por exemplo, navegar pelo celular ou verificar o e-mail — seria muito mais perturbadora.) Assim, mesmo interações aparentemente improdutivas podem proporcionar o benefício sutil de aumentar sua resistência geral à escrita. Colaborar com a IA também pode oferecer um "primeiro rascunho ruim" de alta tecnologia, permitindo que você gaste mais tempo editando textos ruins e menos tempo tentando criar um bom texto do zero. O ChatGPT não é tanto escrever para você, mas sim gerar um estado mental que o ajude a produzir textos melhores.

Quando conversei com Chris pela primeira vez sobre escrever com o ChatGPT, eu estava muito preocupado com a questão de quem estava escrevendo. Eu também deveria estar pensando em como os chatbots mudam a experiência de preencher uma página em branco. "Nem todo texto é de autoria humana ou sintético", escreveu recentemente Alan M. Knowles, pesquisador que estuda interações entre humanos e IA, no periódico Computers and Composition. "Ambas são categorias significativas que não devem ser descartadas, mas são insuficientes para discutir como os escritores usam a GenAI na prática." Knowles descreve a colaboração entre escritores e IA como "compartilhamento de carga retórica". A IA não escreve em nosso nome, mas também não está apenas nos apoiando enquanto escrevemos do zero; ela se situa em algum lugar entre os dois. Dessa forma, ela está tanto no espectro dos truques e rituais de escrita quanto, em certo sentido, além dele. Isso ajuda a explicar nosso desconforto com a tecnologia. Estamos acostumados com escritores se mudando para um local tranquilo ou usando uma caneta especial para ajudar a desenvolver sua criatividade. Ainda não estamos acostumados com a ideia de que eles possam conversar com um programa de computador para aliviar a tensão cognitiva ou pedir ao programa um rascunho para ajudar a gerar impulso mental.

Quando perguntei a alguns professores sobre escrita assistida por IA, tive sentimentos mistos. Um instrutor me disse que tarefas de escrita fáceis, como parágrafos curtos de resposta que incentivam os alunos a concluir a leitura, são facilmente "GPT" e provavelmente precisariam ser eliminadas. Mas, para tarefas mais longas e complexas, como o artigo de pós-graduação de Chris sobre perspectivismo, os professores parecem estar descobrindo, para seu alívio, que o "compartilhamento de carga" com o ChatGPT — embora seja uma técnica nova e desconhecida — ainda exige que os alunos pensem com cuidado e escrevam com clareza. Isso pode tornar o processo de conclusão de uma tarefa menos assustador, mas não é um atalho para receber uma nota mais alta.

Tentei terminar este ensaio de algumas maneiras, mas meu editor não gostou de nenhuma delas. Quando fiquei sem ideias, decidi pedir ao ChatGPT para dividir a carga. Ele poderia escrever uma conclusão concisa para mim? “No fim das contas, o verdadeiro valor de ferramentas como o ChatGPT não está em facilitar o trabalho acadêmico, mas em capacitar os alunos a se envolverem mais profundamente com suas ideias e a expressá-las com mais confiança”, sugeriu o chatbot. Não é tão ruim assim, pensei. Mas ainda precisava de algum trabalho. ♦

Cal Newport é escritor e colaborador da The New Yorker e professor de ciência da computação na Universidade de Georgetown.