Roxana-Mălina Chirilă

AI-ul ne va sărăci

Clarkesworld, una dintre cele mai mari reviste de povestiri scurte science fiction și fantasy, a anunțat că nu va mai accepta povestiri noi o vreme. Motivul nu e greu de ghicit: au fost invadați de povestiri „scrise” de AI.

Părerea mea e că problema asta e copilul-zombi al maniei crypto/nft (lăcomie care se dă drept entuziasm pentru tehnologie) și al schemelor de îmbogățire rapidă ce se axează pe cantitate, nu pe calitate. Să vă explic.

Nu există „inteligență artificială”

Sintagma de „inteligență artificială” duce cu gândul la mașinării care gândesc de capul lor. Nu avem așa ceva. Avem, însă, imitații.

Ce înseamnă asta? Înseamnă că tot ce ține de computere funcționează cam la fel: introducem niște date într-o cutie neagră, iar cutia neagră ne returnează alte date. Noi spunem „2 + 2”, primim înapoi „4”. Noi dăm clic într-un punct pe ecran, iar personajul din joc se mută acolo.

Tot ce vedem pe ecran e o iluzie a naturaleții. Dacă vedem pe ecran o animație a unei mingi care sare, cineva a desenat mingea, cineva a calculat traiectoria ei (chiar dacă sare în sus și-n jos, trebuie să încetinească în partea din sus ca să pară naturală), cineva a scris cod spunând unde trebuie să se afle mingea în fiecare moment, cineva i-a zis calculatorului cum să deseneze mingea în fiecare punct de pe parcurs, iar la final s-a asamblat totul ca în desenele animate: avem cadre pe ecran care se schimbă atât de repede încât ochiul are impresia de mișcare.

În mod real, nu doar că nu există o minge care sare pe calculator, dar calculatorul nici nu are noțiuni despre „gravitație” sau „minge”. Printr-o mulțime de operații, calculează niște numere, apoi aprinde niște luminițe în secvența corectă. Asta e.

Avem o mulțime de iluzii: iluzia care ne pune litere pe ecran în timp ce tastăm, iluzia că inamicii din jocuri reacționează la personajele noastre, iluzia că dacă tragem o poză, ea se mișcă. Avem și iluzii care ne pot face să credem că sunt alți oameni acolo: ne introducem numele într-un câmp, apoi textele standard ne „spun pe nume”, introducându-ne numele în locuri prestabilitate; inamicii din jocuri reacționează de parcă ar fi oameni (mai mult sau mai puțin); iar uneori, putem avea dialoguri cu calculatorul, ca în Microsoft Word pe vremuri, când vorbeam cu Clippy.

În cutia neagră a calculatorului sunt foarte, foarte multe decizii luate de oameni. „Dacă valoarea variabilei tale „Viață” scade sub x%, îndreaptă-te spre bază”; „Dacă inamicul greșește, redă aleatoriu una din replicile 1, 2 sau 3”; șamd. Dar pentru că nu vezi în interiorul cutiei negre, rămâi doar cu iluzia magiei.

Cea mai nouă găselniță în materie de tehnologie și cea mai entuziast promovată acum e ChatGPT, un AI cu care dialoghezi. E complex, dă impresia de vorbire articulată și e o cutie neagră în care s-au băgat tone de date. I s-a programat bine gramatica, așa că dă impresia vorbirii articulate. S-au făcut niște modele statistice, care să aleagă cele mai potrivite cuvinte în funcție de context. Acum, când bagi date noi, îți returnează răspunsuri care imită binișor un partener de discuție uman. Evident, treaba asta i-a dat pe mulți pe spate - e ca atunci când vezi trucurile de levitație ale magicienilor cu experiență și nu te prinzi care e schepsisul.

După cum spune Ted Chiang într-un articol din The New Yorker, ChatGPT e un fel de jpeg neclar al internetului, care pune de la sine cuvinte probabile ca să umple niște goluri. Sigur, e mai complicat de atât, dar cam asta e ideea. În plus, răspunsurile lui pot fi găunoase, după cum demonstrează cineva, iar pentru că modelul se bazează pe statistică, ratează uneori matematica pe care te-ai aștepta s-o știe un calculator. În fond, dacă suficientă lume spune că 2 plus 2 face 5, statistica îl va forța să spună și el la fel.

În cele din urmă, deși e un pas înainte impresionant, ChatGPT nu e o „inteligență artificială” într-o măsură mai mare decât un inamic dintr-un joc. Nu poate crea lucruri noi, nu poate fi niciodată un vârf - ci va fi întotdeauna o medie, pentru că se bazează pe probabilități.

Entuziasm pentru tehnologie!!! (Și lăcomie)

Suntem într-un punct în care inovația tehnologică cam stagnează, dar toți așteptăm ceva măreț. În care marile inovații tehnologice nu prea mai au loc, dar ne-am prins cât de importante au fost cele din trecut și ne dorim să le fi prins de la început.

Nu știu dacă ați remarcat, dar marile știri despre tehnologie din ultimii ani au fost tocmai despre foamea de a prinde ceva magnific încă din fașă, iar cele mai popularizate inovații au fost bitcoin și NFT-urile. Nimeni nu știa exact ce e un bitcoin, în afară de faptul că e o „monedă virtuală” care se „minează” și care e foarte matematică într-un fel sau altul… iar de NFT se știe că erau… imagini? (NFT-urile nu sunt imagini, ci au imagini.)

S-a vorbit mult despre posibilitățile tehnologice deschise de noile tehnologii reprezentate de monede virtuale și de NFT-uri, lucruri complexe pe care nu le-a înțeles multă lume, dar toți au fost atenți la valoarea lor: cât au costat ieri? Cât costă azi? Cu cât poți să le vinzi? Cât de tare poți să te îmbogățești? Bitcoinul e mult prea volatil ca să poată fi folosit ca monedă, NFT-urile au fost mereu o prostie, dar speranța de îmbogățire rapidă nu a ținut cont de lucrurile astea. A avut loc o goană după aur motivată doar de trăncăneală despre progres.

Deși poate că ar avea mai multe utilizări, AI-ul ajunge acum în aceeași zonă a lăcomiei: companii precum Google vor să-l integreze (fără motiv) în căutări, probabil pentru că e „următoarea chestie importantă” și vor să își ia și ei partea din profit, oricare ar fi profit și oricum s-ar face. AI-ul care face imagini e folosit ca să elimine cheltuieli cu artiști (la case mai mari, la case mai mici), iar AI-ul care poate inventa povești e folosit ca să nu mai stea omul să scrie povești.

Scandalul legat de imagini e că AI-ul nu creează nimic (după cum spuneam mai sus), ci doar imită - iar uneori imită foaaaarte mult ce au făcut anumiți artiști, mai ales dacă știi ce să-i ceri. Scandalul legat de povești e ce se întâmplă la Clarkesworld.

Îmbogățire rapidă și spam

E AI-ul capabil să facă treabă bună? Ahahaha, nu. După cum am stabilit mai sus, e o medie a internetului, care își atinge limitările destul de repede. Nu poate fi original, nu poate avea idei interesante. Dar știți la ce e bun? La spam.

Dacă poți crea o imagine doar scriind câteva cuvinte, dacă poți „scrie” o poveste doar zicându-i cuiva „scrie despre”, o să poți umple foldere întregi cu nimicuri. Or să fie bune? Nu neapărat. Or să fie multe? Da.

Există două mari abordări când vrei să scoți un ban: cea calitativă și cea cantitativă. Prin abordarea calitativă, lucrezi mult la un număr restrâns de lucruri; banii vin din faptul că sunt suficient de bune încât să merite prețuri mari. Prin abordarea cantitativă, lucrezi mult la un număr mare de lucruri; banii vin din faptul că vinzi o cantitate mare de lucruri, chiar dacă la prețuri mici. Iar atunci când producția e foarte ușor de făcut, abordarea cantitativă pare o idee bună.

Cu alte cuvinte, dacă poți „scrie” o sută de povestiri într-o zi, pe care să le folosești ca să scoți în medie un dolar de pe fiecare, ai o sută de dolari. Sau cel puțin așa zice teoria. Dar adevărul e că nimeni nu vrea neapărat să citească povestiri scrise en gros. Când vrem să citim, vrem mai mult decât să consumăm cuvinte, așa că niciun editor nu o să-și dorească să-și umple site-ul sau revista cu umplutură care nu interesează pe nimeni.

Însă asta nu o să oprească lacomii să încerce marea cu degetul în speranța că poate-poate pică ceva. Așa că o revistă gen Clarkesworld se trezește cu sute de povestiri „scrise” de AI, până când sunt atât de multe încât personalul nu mai face față.

Dar să spunem că o revistă de SF și fantasy e mult prea nișată ca să fie de interes pentru majoritatea. Problema e că acolo, tocmai pentru că există editori și oameni cărora le pasă, putem vedea mai clar și mai bine explicate efectele. Însă există multe locuri unde verificarea nu se va face la fel de bine, unde nu vom vedea efectele decât când dăm noi înșine de ele. Poți folosi AI-ul ca să generezi articole spam pentru site-uri, de exemplu.

De ce sărăcim

Revistele de SF și fantasy sunt o rampă de lansare pentru scriitori. La modul ideal, o mulțime de persoane trimit povestiri, iar cele mai bune sunt alese pentru publicare. La modul mai puțin ideal, primesc și spam, care trebuie eliminat din start, așa că o parte din eforturi și răbdare se duc pe lucruri care nu-i sunt utile nimănui. La modul și mai puțin ideal, primesc spam care imită superficial non-spamul, așa că și mai multe eforturi se duc acolo. Iar așa cum stau lucrurile acum, e atât de mult spam încât nu mai primesc temporar nimic și și-au mutat eforturile pe încercarea de a inventa un sistem prin care să le permită autorilor noi să publice, dar să oprească spamul care scapă de sub control.

E o grămadă de efort care, în loc să fie pus în slujba autorilor și a publicului, e făcut doar pentru a gestiona o mare parte din daune. Probabil că și după ce vor implementa un nou sistem, oricât ar fi de bun, tot vor trebui să aloce o parte din efortul zilnic gestionării spamului.

Acum gândiți-vă la un internet care e îngreunat în totalitatea lui de spam. Site-uri generate automat pe orice subiect, multe-multe, ca să fie, ca să ia bani de reclame. Dispare unul, apar alte trei. De unde ele existau deja, dar aveau nevoie de un pic de efort uman și de niște angajați care să scoată „conținut”, pot acum să-și scoată conținutul cu AI. Poate chiar site-uri care au făcut un minimum de efort înainte ar putea începe să bage texte de umplutură scrise de AI, ca să vadă cum merge treaba. E simplu și nu costă mai nimic, deci de ce nu?

Deja e greu să-ți dai seama ce informații sunt legitime și ce informații nu sunt legitime pe internet. Generatoarele de spam nu or să ne ajute, iar efortul de filtrare a informațiilor se va muta și mai mult pe noi, pentru că Google în mod clar nu e capabil să filtreze ce e bun de ce e rău, iar alte motoare de căutare nu fac neapărat o treabă mai bună.

Entuziasmul pentru inteligența artificială e deci legat mai puțin de tehnologie, pe care nimeni n-o prea explică, dar mulți o ridică în slăvi, și mai mult de lăcomie. Lăcomia de a intra printre primii pe piața de AI și de a „da lovitura”. Lăcomia de a scoate un ban cumva (oricum) de pe urma lui. E și o unealtă grozavă pentru toate mișmașurile de îmbogățire rapidă în care „nu trebuie să faci mare lucru, doar dai niște clicuri și bagi niște bani, iar apoi curge profitul”. (Parcă văd că vor apărea cursuri despre cum să-ți faci site-uri pe diverse teme, pe care apoi să le umpli de texte generate automat.)

Sunt șanse mari să înotăm în din ce în ce mai multe gunoaie. Cel mai bun rezultat ar fi să începem să facem ca pe vremuri, să strângem directoare de site-uri bune, alese pe verificatelea să fie în regulă. Dar sincer, nu prea cred că o să se întâmple așa ceva. Cel mai probabil, doar o să vedem că parcă internetul e din ce în ce mai nasol.


Distribuie: | Mastodon | Facebook |

Comentarii: e-mail | facebook |