Twoich rozważań nikt nie napisał

Nowe badanie twierdzi, że większość religijnych książek na Amazonie napisała prawdopodobnie maszyna — a czytelnicy dali im cztery gwiazdki.

19 sierpnia firma Originality.ai, zajmująca się wykrywaniem treści pisanych przez AI, opublikowała badanie z liczbą, która brzmi jak zmyślona: z 2034 religijnych książek w miękkiej oprawie, które przebadała na Amazonie — anglojęzycznych, z ocenami od czterech gwiazdek wzwyż, rozłożonych na 14 kategorii wyznaniowych — 63 procent oznaczono jako prawdopodobnie napisane przez AI. Najwyżej na liście znalazły się książki o czarach, 78 procent, dalej hinduizm z 76 i taoizm z 74. Kategorią najmniej tkniętą przez maszyny, z 22 procentami, okazał się satanizm. Publishers Weekly podało wyniki pod nagłówkiem, który nie bawił się w niuanse: „AI Invades Religion Books on Amazon” — AI dokonuje inwazji na książki religijne na Amazonie.

Zastrzeżenia są realne, więc wyłóżmy je na początek. Originality.ai sprzedaje narzędzia do wykrywania AI, ma więc komercyjny interes w znajdowaniu tego, czego szukała. Detekcja jest probabilistyczna — wynik 50 lub wyższy oznaczał „prawdopodobnie AI”, nie „udowodnione AI” — a mniejsze kategorie łatwo się przekrzywiają. Nikt nie może podnieść jednej konkretnej książki i powiedzieć z pewnością, że nie napisał jej człowiek.

Ale kształt wyniku przetrwa nawet hojne marginesy błędu, a ekonomia pod spodem jest łatwa do uwierzenia. Oznaczone książki były tańsze — średnio 16,84 dolara wobec 18,96 za te prawdopodobnie pisane przez ludzi — i krótsze: 170 stron wobec 208. Model biznesowy pisze się sam: wpisz prompt, wgraj wynik, zejdź z ceną o dwa dolary poniżej konkurencji, powtórz. Autorzy badania nazywają to współczesną formą affinity fraud, oszustwa żerującego na wspólnocie przekonań — treść skrojona tak, by grać na tym, w co religijny człowiek już wierzy, i sprzedawana mu z powrotem przez nikogo konkretnego.

Dlaczego to ważne

Lektura duchowa zawsze opierała się na cichym założeniu: po drugiej stronie kartki ktoś jest. Kiedy bierzesz do ręki Thomasa Mertona, Rumiego albo sfatygowaną książkę o żałobie i modlitwie, częścią tego, co czytasz, jest cena — lata, wątpliwości, konkretne życie, które musiało zostać przeżyte, zanim te zdania mogły powstać. Dlatego takie książki potrafią człowieka utrzymać. Napisał je ktoś, kto sam był utrzymywany — albo nie był, i to powiedział.

Wygenerowane rozważanie naśladuje ton tej ceny, nie ponosząc żadnej. Zdania są gładkie, pociecha przychodzi punktualnie i nic za nimi nigdy nie czuwało po nocy. To nie jest dokładnie herezja. To raczej wiadomość głosowa z pustego pokoju.

Warto się zatrzymać

Oto szczegół, który powinien cię przyhamować: badanie objęło wyłącznie książki dobrze oceniane. Prawdziwi czytelnicy dali tej maszynowej pociesze cztery gwiazdki i więcej. To nie akt oskarżenia wobec czytelników — to informacja o tym, czego wielu z nas naprawdę chce, sięgając po religijne słowa. Czegoś kojącego. Czegoś, co się z nami zgadza. Czegoś bez tarcia. Model językowy potrafi wyprodukować dokładnie to, w nieskończonych ilościach, na zawsze.

Co jest, o dziwo, darem jasności. Maszyny stały się dobre w jednym konkretnym rodzaju pisania duchowego — tym, który człowieka uspokaja — i to wymusza uczciwe pytanie o ten drugi rodzaj: ten, który się do ciebie zwraca, wytrąca cię z równowagi i prosi o coś w zamian. Żaden model nie konkuruje o napisanie takiego tekstu, bo nikt go nie szuka o 23:00 z włączonym zakupem jednym kliknięciem.

Więc zanim następna algorytmicznie przyjemna książka wyląduje w twoim koszyku: zatrzymaj się. Zapytaj, po co właściwie robisz zakupy — po środek uspokajający czy po spotkanie. Te 63 procent to tak naprawdę nie jest historia o AI. To lustro, przecenione o jakieś dwa dolary.