Ninguém escreveu o teu devocional

A 19 de agosto, a Originality.ai, empresa de deteção de IA, publicou um estudo com um número que parece inventado: de 2.034 livros de religião em brochura que amostrou na Amazon — em inglês, com avaliações de quatro estrelas ou mais, distribuídos por 14 categorias de crença — 63 por cento foram sinalizados como provavelmente escritos por IA. A bruxaria liderava a lista com 78 por cento, seguida do hinduísmo com 76 e do taoismo com 74. A categoria menos tocada pelas máquinas, com 22 por cento, foi o satanismo. A Publishers Weekly publicou os resultados sob um título que dispensou nuances: «AI Invades Religion Books on Amazon» — a IA invade os livros de religião na Amazon.

As ressalvas são reais, por isso vão já aqui, à cabeça. A Originality.ai vende deteção de IA, o que significa que tem interesse comercial em encontrar aquilo que foi procurar. A deteção é probabilística — uma pontuação de 50 ou mais significava «provavelmente IA», não «comprovadamente IA» — e as categorias mais pequenas distorcem-se com facilidade. Ninguém pode pegar num livro específico e afirmar com certeza que nenhum humano o escreveu.

Mas o contorno do resultado sobrevive mesmo a margens de erro generosas, e a economia por baixo dele é fácil de acreditar. Os livros sinalizados eram mais baratos — 16,84 dólares em média contra 18,96 dos provavelmente escritos por humanos — e mais curtos: 170 páginas contra 208. O modelo de negócio escreve-se sozinho: escrever um prompt, carregar o resultado, vender dois dólares abaixo da concorrência, repetir. Os autores do estudo chamam-lhe uma forma moderna de fraude de afinidade — conteúdo engenhado para puxar por aquilo em que uma pessoa religiosa já acredita, vendido de volta a essa pessoa por ninguém em particular.

Porque importa

A leitura espiritual sempre assentou numa suposição silenciosa: há alguém do outro lado da página. Quando pegamos em Thomas Merton, em Rumi ou num livro gasto sobre luto e oração, parte do que lemos é o custo — os anos, a dúvida, a vida concreta que teve de ser vivida antes de aquelas frases poderem existir. É por isso que esses livros nos conseguem amparar. Foram escritos por alguém que também foi amparado, ou não foi, e o disse.

Um devocional gerado imita o tom desse custo sem incorrer em nada dele. As frases são lisas, o consolo chega a horas, e nada por trás delas alguma vez passou uma noite em claro. Não é bem heresia. É mais como um recado de voz vindo de uma sala vazia.

Vale a pena parar

Eis o pormenor que nos devia abrandar: o estudo só amostrou livros bem avaliados. Leitores reais deram a esta consolação feita à máquina quatro estrelas ou mais. Isso não é uma acusação aos leitores — é informação sobre o que muitos de nós realmente queremos quando procuramos palavras religiosas. Algo que acalme. Algo que concorde connosco. Algo sem atrito. Um modelo de linguagem consegue produzir exatamente isso, em quantidade infinita, para sempre.

O que é, estranhamente, uma dádiva clarificadora. As máquinas tornaram-se boas num tipo específico de escrita espiritual — o tipo que nos sossega — e isso obriga a uma pergunta honesta sobre o outro tipo: o que se dirige a nós, nos inquieta e pede algo em troca. Nenhum modelo está a competir para escrever esse, porque ninguém o procura às onze da noite com a compra com um clique ativada.

Por isso, antes de o próximo livro algoritmicamente agradável cair no carrinho: uma pausa. Perguntar o que estamos mesmo a comprar — um sedativo ou um encontro. Os 63 por cento não são realmente uma história sobre IA. São um espelho, com um desconto de cerca de dois dólares.