Vaši zbožnou knížku nikdo nenapsal

Firma Originality.ai, která se zabývá detekcí AI, zveřejnila 19. srpna studii s číslem, které zní jako vymyšlené: z 2 034 náboženských paperbacků, které vzorkovala na Amazonu — anglicky psaných, s hodnocením čtyři hvězdičky a výš, napříč 14 kategoriemi vyznání — jich 63 procent označila jako pravděpodobně napsané umělou inteligencí. Nejvýš skončilo čarodějnictví se 78 procenty, následované hinduismem se 76 a taoismem se 74. Kategorií, jíž se stroje dotkly nejméně — 22 procent — byl satanismus. Publishers Weekly uvedl zjištění pod titulkem, který se s nuancemi nepáral: „AI vpadá do náboženských knih na Amazonu”.

Výhrady jsou skutečné, tak je vyložme hned na začátku. Originality.ai detekci AI prodává, takže má komerční zájem najít to, co hledat vyrazila. Detekce je pravděpodobnostní — skóre 50 a výš znamenalo „pravděpodobně AI”, ne „prokazatelně AI” — a menší kategorie se snadno zkreslí. Nikdo nemůže zvednout jednu konkrétní knihu a s jistotou říct, že ji nepsal člověk.

Jenže obrys zjištění přežije i velkorysé chybové úsečky a ekonomice pod ním se dá snadno uvěřit. Označené knihy byly levnější — v průměru 16,84 dolaru proti 18,96 dolaru u těch pravděpodobně psaných člověkem — a kratší, 170 stran proti 208. Byznysmodel se píše sám: napsat prompt, nahrát výstup, podlézt konkurenci o dva dolary, opakovat. Autoři studie tomu říkají moderní forma podvodu zneužívajícího důvěru vlastní komunity — obsah zkonstruovaný tak, aby tahal za to, čemu věřící člověk už věří, a prodával mu to zpátky nikdo konkrétní.

Proč na tom záleží

Duchovní četba vždycky stála na tichém předpokladu: na druhé straně stránky někdo je. Když sáhnete po Thomasi Mertonovi, po Rúmím nebo po ohmataném paperbacku o zármutku a modlitbě, čtete zčásti i cenu — roky, pochybnost, konkrétní život, který musel být odžit, aby ty věty mohly existovat. Proto vás takové knihy dokážou podržet. Napsal je někdo, koho také něco drželo — nebo nedrželo, a řekl to.

Generovaná zbožná knížka napodobuje tón té ceny, aniž by z ní cokoli zaplatila. Věty jsou hladké, útěcha přichází podle rozvrhu a nic za nimi nikdy neprobdělo noc. Není to tak docela hereze. Je to spíš hlasová zpráva z prázdné místnosti.

Stojí za zastavení

Tady je detail, který by vás měl zpomalit: studie vzorkovala jen dobře hodnocené knihy. Skuteční čtenáři dali téhle strojově vyrobené útěše čtyři hvězdičky a víc. To není obžaloba čtenářů — je to informace o tom, co mnozí z nás doopravdy chtějí, když sahají po náboženských slovech. Něco konejšivého. Něco, co s námi souhlasí. Něco bez tření. Jazykový model umí vyrobit přesně tohle, v nekonečné zásobě, navždy.

Což je, kupodivu, projasňující dar. Stroje se naučily jeden konkrétní druh duchovního psaní — ten, který vás ukonejší — a to si vynucuje poctivou otázku po tom druhém druhu: tom, který vás oslovuje, znejišťuje a něco po vás chce. Žádný model nesoutěží o to, aby ho psal, protože ho nikdo nehledá v jedenáct večer se zapnutým nákupem na jedno kliknutí.

Takže než vám v košíku přistane další algoritmicky příjemný paperback: zastavte se. Zeptejte se, co vlastně nakupujete — sedativum, nebo setkání. Těch 63 procent není doopravdy příběh o AI. Je to zrcadlo, ve slevě asi o dva dolary.