Paranoja koja je pojela kulturu čitanja: em dash, ChatGPT, autoritet i smrt kritičkog mišljenja
Updated: 1 day ago
U poslednjih godinu dana razvila se gotovo paranoična opsesija prepoznavanjem AI pisanja. Ljudi su počeli da traže tragove. Em dash. Previše uredne rečenice. Konstrukcije poput „to nije ovo, već ono“. Pasusi koji deluju „previše organizovano“. Reči koje zvuče „previše akademski“. Kao da je internet razvio neku vrstu digitalne grafologije.
Paradoks je u tome što su mnogi od tih navodnih „znakova upozorenja“ zapravo znakovi disciplinovanog i stilistički kontrolisanog pisanja.
Na fakultetima, društvenim mrežama i forumima studentima se sve češće govori da obrate pažnju na obrasce koji „odaju AI“. Problem nastaje onog trenutka kada ti obrasci prestanu da budu povezani sa mašinskim pisanjem i počnu da budu povezani sa samom retoričkom disciplinom. Rezultat je gotovo apsurdan: tekst koji je jasno strukturisan, ritmički kontrolisan i argumentativno precizan automatski postaje sumnjiv.
Drugim rečima, što tekst deluje stabilnije i promišljenije, veća je verovatnoća da će neko reći da „zvuči kao ChatGPT“.
To govori mnogo više o savremenoj kulturi čitanja nego o samoj veštačkoj inteligenciji.
U ovom tekstu:
Sa tim paradoksom sam se i lično susreo kao student psihologije dok sam pisao seminarski rad. Nakon što sam završio tekst, krenuo sam da ga lektorišem i dorađujem, iako sam ga napisao isključivo sopstvenim jezikom, sopstvenim stilom i bez ikakve pomoći AI-a. I onda mi se, dok sam čitao jednu rečenicu, pojavila potpuno apsurdna misao: „Čekaj… ova rečenica može da zvuči kao AI. Možda treba da je promenim.“ Taj trenutak mi je bio veoma zanimljiv jer sam tada shvatio koliko je duboko ova paranoja već ušla ljudima u glavu. Došli smo do tačke u kojoj snažno, kontrolisano i intelektualno strukturisano pisanje automatski rizikuje da bude percipirano kao veštačko.
Ironično, ljudi su nesvesno stvorili kulturnu atmosferu u kojoj dobro pisanje samo po sebi počinje da liči na dokaz mašinskog porekla.
Naravno da nisam promenio rečenicu. Nisam želeo da menjam sopstveni autorski glas samo zato što bi neko potencijalno mogao nešto da pomisli. Neka misli šta hoće.
Uostalom, ako neko odbaci tekst pre nego što se suoči sa njegovim argumentom, onda zapravo nije pročitao tekst nego sopstvenu pretpostavku o njemu. U tom smislu, dobro napisan tekst zaista filtrira svoju publiku.
Kada sumnja postane važnija od argumenta
„Ali šta ako mi to utiče na ocenu na fakultetu?“ Ako takva sumnja utiče na ocenu, najrazumnije je tražiti konsultacije uživo i pokazati da razumete tekst, argument i proces kojim je nastao.
Ja ću se uvek povući pred validnim dijalektičkim i intelektualno poštenim argumentom koji je snažniji od mog. Ali neću se povući pred zaključkom koji jedini smisao ima jer ga je dao autoritet. Koji autoritet? U redu, ali da li je taj argument logički jači od mog? Autoritet može biti razlog da neku tvrdnju shvatimo ozbiljno, ali ne može sam da zameni obrazloženje. Što je tvrdnja važnija i spornija, opravdanije je pitati na čemu počiva.
Ljudi se uplaše od autoriteta i pokleknu, pa odustanu od sopstvenog argumenta pre nego što ga i završe. Ne treba. U redu je poštovati autoritet onoliko koliko zaslužuje da bude poštovan, recimo, zbog godina edukacije. Ali da li su godine edukacije garancija da zna bolje od vas tu konkretnu stvar? Ne. Lično poznajem diplomirane filologe koji ne znaju šta su lirski paralelizmi, psihologe koji nisu čuli za određene kognitivne pristupe, pravnike koji ne znaju napamet član zakona koji svakodnevno primenjuju. I to je u redu. Stvarno je u redu. Nemoguće je da iko zna sve, da se svega seti, da pokrije svaku oblast kojom se bavi. Ljudi nisu enciklopedije — ni autoriteti nisu.
Zanimljivo je da čak i ljudi koji su apsolutno zaslužili sve što su kreirali, među njima doktori nauka, istraživači i priznati stručnjaci, ponekad doživljavaju ono što se u psihologiji najčešće naziva impostorskim fenomenom: uporno osećanje da su prevaranti, da nisu dovoljno dobri, da će ih neko „raskrinkati“ uprkos objektivnim dokazima o suprotnom. Oni mogu sumnjati u sebe dok ih drugi tretiraju kao nepogrešive autoritete. To je koristan podsetnik da stručnost i subjektivni osećaj sigurnosti nisu ista stvar.
Nemojte ići u dva ekstrema: ni slepo klečati pred autoritetom, ni ga odbacivati samo zato što nije sveznajući. Ostanite u onome kako stvari jesu. Autoritet nije intelektualno nadmoćan po definiciji: tu je jer je pokazao određene sposobnosti u određenim oblastima, u određenom trenutku, pred određenim ljudima. To je sve. Autoritet nikada nisam dozvoljavao kao intelektualnu pretnju. Vidim ga kao funkciju, a ne kao garanciju istine.
Ideal naučnog rada podrazumeva spremnost da se argument podvrgne kritici, korekciji i eventualnom odbacivanju kada se pokaže slabijim od dostupnih dokaza. Problem nastaje kada status počne da zamenjuje argument. Rečenice poput: „Ja ovde radim već dvadeset godina.“ ili: „Ti si premlad da bih ti ja to objašnjavao.“ ne odgovaraju na kritiku. One samo pozivaju na hijerarhiju. Kada neko uporno brani svoj status umesto tvrdnje, sopstvena superiornost može postati prepreka upravo onome što nauka zahteva: osporavanju, korekciji i napretku.
Tužno je kada znanje bude opstruisano sujetom.
Kako je stil postao dokaz
Jedan od najboljih primera ove konfuzije jeste opsesija konstrukcijama poput: „To nije X, već Y.“ ili: „Nije reč o ovome, već o nečem drugom.“ Danas mnogi upravo ovakve formulacije proglašavaju „AI stilom“, iako korektivne i antitetičke konstrukcije ovog tipa postoje vekovima u filozofiji, teologiji i esejistici. Čak i klasični teološki i metafizički tekstovi često funkcionišu kroz korekciju početne pretpostavke: ono što mislite da je suština problema zapravo nije suština problema: pravi problem nalazi se dublje.
Takve konstrukcije nisu algoritamska slučajnost. One imaju filozofsku funkciju. Njihova svrha nije ukras, već pomeranje perspektive. Autor najpre destabilizuje intuitivno značenje nečega, a zatim tera čitaoca da problem sagleda iz drugog ugla.
Kada Fuko pomera pažnju sa same bolesti na način na koji se bolest posmatra, klasifikuje i proizvodi kao predmet znanja, poenta nije u stilskom obrascu nego u promeni epistemološkog okvira čitave teme.
Isto važi i za em dash, znak interpunkcije koji je poslednjih meseci postao gotovo internet meme za „AI pisanje“. Ironično je što em dash nije proizvod veštačke inteligencije. Duge crtice kao retoričko sredstvo postojale su u književnosti mnogo pre računara. Kod Emily Dickinson, na primer, crtice su jedan od najprepoznatljivijih elemenata njene interpunkcije.
Em dash služi za prekid ritma, ubacivanje dodatnog sloja misli, neočekivano proširenje rečenice ili stvaranje konceptualne tenzije. Drugim rečima, njegova funkcija je retorička i psihološka.
Problem je što je internet počeo da tretira svaki stilistički alat kao dokaz mašinskog porekla.
I tu dolazimo do možda najzanimljivijeg pitanja:
„Da li ljudi danas uopšte čitaju tekst da bi nešto naučili — ili ga čitaju samo da bi dijagnostikovali AI?“
To pitanje otkriva suštinu problema.
Poreklo teksta i vrednost teksta
Slažem se da postoje ozbiljna etička pitanja kada je reč o korišćenju AI-a u akademskim i profesionalnim kontekstima. Korišćenje AI-a u doktoratima i naučnim radovima mimo pravila autorstva, ili u pravnim, medicinskim i drugim profesionalnim procenama bez stručne provere i odgovornosti, jeste ozbiljan problem. Postoje oblasti u kojima odgovornost, autorstvo i preciznost zaista imaju ogromnu težinu.
Ali internet je postepeno proširio tu sumnju daleko izvan tih konteksta.
Danas ljudi čak i obične informativne tekstove, eseje, blogove ili edukativni sadržaj posmatraju gotovo forenzički, kao da je identifikovanje AI-a postalo važnije od samog sadržaja teksta.
I tada dolazi do veoma čudnog obrta: poreklo teksta postaje važnije od vrednosti teksta.
Lično, kada čitam neki informativni tekst, moje prvo pitanje obično nije: „Ko je ovo napisao?“ Moje prvo pitanje je: „Da li sam iz ovoga naučio nešto korisno?“ Poreklo postaje važnije tamo gde autorstvo, stručnost ili odgovornost menjaju težinu tvrdnje.
Čak i kada posumnjam da je određeni deo možda nastao uz pomoć AI-a, moja reakcija je uglavnom: pa šta?
Toliko smo uslovljeni da AI automatski povezujemo sa nečim nužno lošim, lažnim ili intelektualno praznim da su ljudi počeli instinktivno da sumnjaju u svaki kvalitetno napisan tekst. Da, AI može da halucinira. Da, može da izmišlja informacije. Da, može da proizvede utisak razumevanja i onda kada su njegove tvrdnje pogrešne, izmišljene ili samo prividno koherentne.
Ali upravo zato kritičko čitanje treba da postoji nezavisno od AI-a.
Ako bilo koji tekst čitate bez proveravanja informacija, bez preispitivanja izvora i bez elementarne kritičke distance, onda AI nikada nije ni bio stvarni rizik za vas.
Ljudi su konzumirali dezinformacije mnogo pre pojave veštačke inteligencije. Tabloidi, pseudonauka, senzacionalizam, manipulativno novinarstvo i samouvereno napisane gluposti stvarnih ljudi dominirali su internetom decenijama. Odsustvo kritičkog mišljenja nije počelo sa ChatGPT-om.
AI je dodatno razotkrio koliko je kultura pasivnog čitanja već bila prisutna.
Šta je zaista problem AI teksta
Problem AI tekstova nije u em dash-u niti u konstrukcijama poput „nije ovo, već ono“. Problem je mnogo suptilniji. AI često proizvodi tekst koji deluje previše gladak, sterilan i bez stvarnog misaonog rizika. Rečenice mogu zvučati inteligentno, ali između njih često ne postoji prava konceptualna nužnost. Stil imitira filozofiju bez stvarne intelektualne tenzije. I upravo je tu ključna razlika.
Kod filozofa retoričke strukture proističu iz načina mišljenja. Generativni AI može da reprodukuje površinu tih struktura zato što prepoznaje njihove jezičke obrasce.
Ironija današnjeg trenutka zato postaje gotovo komična: u opsesivnom pokušaju da detektuju veštačku inteligenciju, ljudi sve češće počinju da sumnjaju upravo u one osobine koje su nekada bile znak obrazovanog i disciplinovanog ljudskog pisanja.
Ovaj obrazac može poprimiti oblik genetic fallacy, odnosno greške u kojoj se tvrdnja prihvata ili odbacuje samo zbog njenog porekla, iako poreklo nije relevantno za njenu istinitost. To ne znači da izvor nikada nije važan. U akademskom autorstvu, ekspertizi, sukobu interesa ili proceni pouzdanosti poreklo može biti relevantan podatak. Greška nastaje kada etiketa „AI“ zameni procenu samog argumenta tamo gde ta etiketa ništa ne dokazuje o njegovoj tačnosti.
Kako prepoznati AI tekst — i zašto to najčešće ne možete
Postoje slučajevi u kojima je sumnja opravdana. Ako osoba koja nikada nije napisala gramatički ispravnu rečenicu odjednom isporuči tehnički besprekoran esej prepun stručne terminologije, možete posumnjati. Ali samo posumnjati. Jer čak i ta sumnja počiva na pretpostavci da znate sve relevantne varijable: da li je osoba bila anksiozna pa se oslobodila, da li je konačno pronašla temu koja je zaista zanima, da li je prosto dugo odlagala da pokaže šta zna.
Uzdržavanje od zaključka kada nemate dovoljno informacija nije slabost, već elementarna logička higijena.
Možete, naravno, da provodite vreme po internetu flagujući i diskreditujući tekstove i ljude. Ali time nećete dobiti pouzdan dokaz porekla: neki AI tekst proći će kao ljudski, a neki ljudski kao AI. Čak i kada prepoznate obrazac koji vam deluje mašinski, takvi stilski markeri mogu lako da se izmene, imitiraju ili izbegnu. Ne možete iskoreniti taj fenomen. Možete jedino sebe kalibrisati.
A izbor je uvek isti: prvi je da idete internetom i vređate ljude koji koriste AI i postignete apsolutno ništa. Drugi je da čitate tekst, analizirate, proveravate, naučite nešto, kritikujete i nastavite ka intelektualnom razvoju. Da li nešto gubite ako idete redom i skraćujete tekstove na „ovo je AI, preskačem“? I da i ne.
Suštinski, svi bismo trebalo da imamo unapred aktiviran kritički stav: ne „ovo je AI“, već „ovo je netačno, sumnjivo, diskutabilno“. Neka je AI. Recite sebi: ok, ovaj autor možda koristi AI. On mi je diskutabilan, biću malo podozriviji. Ali hajde da vidim šta mogu da naučim iz ovog teksta. Da li je logičan, koherentan, etičan, informativan? Ima li tu nešto korisno, neki uvid koji mogu da proverim, uporedim, preispitam? Statistiku, definiciju, perspektivu koju nisam razmatrao? Jer ako odbacite tekst samo zbog pretpostavljenog porekla, vi kao intelektualci željni znanja rizikujete da propustite nešto vredno.
Čak i netačna tvrdnja može imati intelektualnu vrednost kao predmet kritike, ako nas natera da proverimo izvor, razjasnimo pojam ili otkrijemo sopstvenu grešku. To je drugačije od tretiranja netačne informacije kao pouzdane činjenice. Jeste li pronašli nešto od toga? To je to. Niste? Idemo dalje.
Strah od veštačke inteligencije
Postoji još jedan sloj ovog problema koji se retko imenuje direktno: strah. Mnogi ljudi su iskreno uplašeni od veštačke inteligencije: da će zameniti poslove, da će postati nerazlučiva od ljudskog uma, da će izmestiti čoveka kao autora, mislioca, stručnjaka. I taj strah je donekle racionalan. I ja se malo uznemirim kada vidim leteći automobil ili kada shvatim koliko brzo se stvari menjaju. Ali strah koji je racionalan u jednom kontekstu ne sme nekritički da se preliva u sve ostale. Kada taj strah projektujemo na svaki tekst koji deluje previše dobro napisan, mi ga ne rešavamo. Mi ga samo prenosimo, nesvesno, na mesta gde mu nije mesto. Generativni sistemi jesu ljudski napravljeni alati, ali alati mogu imati ozbiljne posledice u zavisnosti od načina na koji su projektovani, primenjeni i institucionalno kontrolisani. Odsustvo ljudske namere u samom sistemu ne uklanja potrebu za kritikom njegovih posledica. Upravo zato ima smisla da ih koristimo sa kritičkim umom, a ne da od njih bežimo sa strahom koji nas čini slabijim čitaocima nego što bismo inače bili.
Poreklo teksta treba uzeti kao jedan podatak, ali ne kao zamenu za čitanje. Važnije je proveriti šta tekst tvrdi, kako argumentuje, na čemu zasniva činjenice i šta iz njega zaista možemo zaključiti.
Kritičko čitanje traži više od detekcije porekla: traži proveru tvrdnje, argumenta i izvora. Tek tada zaista čitamo.
Comments