Când îl întreb pe Ted Chiang dacă vrea să stea de vorbă cu mine la prânz, răspunsul său – ca și poveștile pe care le scrie – este succint și precis: „Mi-ar face plăcere să discutăm despre momentul actual al inteligenței artificiale și despre cum se raportează science fiction-ul la acesta”, îmi răspunde el. „Dar nu voi vorbi despre viața mea personală. Dacă nu te deranjează, sunt disponibil pentru un prânz”.
Nu viața personală a lui Chiang mă interesează: este vorba de lumile din capul lui. Scriitorul chinez-american este unul dintre cei mai lăudați scriitori de science-fiction din generația sa, câștigând mai multe premii majore de science-fiction pentru cele doar 18 povestiri pe care le-a scris în peste 30 și ceva de ani. Nuvela sa Story of Your Life, despre un lingvist care învață să comunice cu o specie extraterestră, a fost adaptată în filmul hollywoodian Arrival.
Suita de povestiri ale lui Chiang poartă semnele stilului său distinctiv: simplitate, rigoare științifică și, mai presus de toate, o originalitate uimitoare. În una dintre cele mai scurte povestiri ale sale, „Ce se așteaptă de la noi”, un dispozitiv numit Predictor înnebunește omenirea. Gadgetul seamănă cu o telecomandă de mașină, constând dintr-un buton și un LED verde. Lumina clipește întotdeauna cu o secundă înainte de a apăsa butonul. Atunci când oamenii încearcă să fie mai deștepți decât acesta, constată că acest lucru este imposibil. Conceptul demonstrează lipsa liberului arbitru în această lume imaginată – și totuși de ce oamenii trebuie să creadă în el pentru a supraviețui. Totul în două pagini și jumătate.
Am convenit să ne întâlnim la Mediterranean Kitchen, un restaurant fără pretenții din Bellevue, statul Washington, chiar peste râu de Seattle, unde Chiang locuiește cu soția sa de mulți ani. Chiang intră timid, la 55 de ani, slab și sobru, cu o față fără contur și părul încărunțit pe care îl poartă tras la spate într-o coadă lungă de cal. Este îmbrăcat cu un tricou alb și pantaloni crem. Este politicos, dar nu răspunde niciodată imediat la o întrebare, dacă se poate abține.
„Oamenii sunt adesea surprinși să afle că am crescut pe Coasta de Est”, spune el. „Există un desen animat al acestui caricaturist (John) Callahan la care mă gândesc întotdeauna – este un mic panou al diferenței dintre New York și Los Angeles. Și în New York, persoana spune ‘du-te dracului’, dar în bula de gânduri este ‘bună ziua! Iar în Los Angeles, persoana spune „Bună ziua”, dar gândul este „du-te naibii!””. Îmi promite că nu la asta se gândește în prezent. „Dar cred că sunt tăcut”.
Deci, dacă ar trebui să inventeze un alt termen pentru inteligența artificială, care ar fi acela? Răspunsul său este instantaneu: statistică aplicată
Am venit direct din San Francisco, unde am vizitat companii de inteligență artificială de top la nivel mondial. În mintea tuturor se afla inteligența artificială „generativă”, un nou tip de software care poate produce proză și imagini asemănătoare cu cele umane ca răspuns la interogări conversaționale. Inventatorii din Silicon Valley ai acestor noi instrumente se confruntă cu provocări filosofice fără precedent care vin odată cu o tehnologie care poate folosi limbajul uman.
Acestea sunt teme cu care cititorii operei lui Chiang vor fi familiarizați: relația dintre limbaj și cunoaștere, implicațiile unei inteligențe supraumane și, în cele din urmă, natura schimbătoare a locului nostru în lume.
Înainte să apucăm să comandăm, proprietarul, care este și chelner, apare cu două boluri aburinde de supă de linte roșie piperată. Aromele îmi trezesc instantaneu papilele gustative: sărate și înțepătoare. În timp ce începem să mâncăm, Chiang, în felul său contemplativ, nu este de acord cu observația mea că lumile sale fictive și cea în care trăim noi se apropie în mod incomod.
„Mașinile pe care le avem acum nu sunt conștiente”, spune el. „Când o persoană învață o altă persoană, aceasta este o interacțiune între conștiințe”. Între timp, modelele de inteligență artificială sunt antrenate prin comutarea așa-numitelor „ponderi” sau a puterii conexiunilor dintre diferitele variabile din model, pentru a obține un rezultat dorit. „Ar fi o adevărată greșeală să crezi că atunci când înveți un copil, tot ceea ce faci este să ajustezi greutățile într-o rețea.”
Principala obiecție a lui Chiang, o obiecție scriitoricească, se referă la cuvintele pe care le alegem pentru a descrie toate acestea. Limbajul antropomorfic, cum ar fi „a învăța”, „a înțelege”, „a cunoaște” și pronumele personale, cum ar fi „eu”, pe care inginerii de inteligență artificială și jurnaliștii le proiectează asupra chatbots precum ChatGPT, creează o iluzie. Această prescurtare pripită ne împinge pe toți, spune el – chiar și pe cei care cunosc îndeaproape modul în care funcționează aceste sisteme – spre a vedea scântei de senzitivitate în instrumentele de inteligență artificială, acolo unde nu există.
„A existat un schimb de replici pe Twitter cu ceva timp în urmă în care cineva a întrebat: „Ce este inteligența artificială?”. Și altcineva a spus: „O alegere proastă a cuvintelor în 1954″”, spune el. „Și, știți, au dreptate. Cred că dacă am fi ales o altă expresie pentru ea, în anii ’50, am fi putut evita o mare parte din confuzia pe care o avem acum”.
Deci, dacă ar trebui să inventeze un termen, care ar fi acela? Răspunsul său este instantaneu: statistică aplicată.
„Este cu adevărat uimitor că … aceste tipuri de lucruri pot fi extrase dintr-o analiză statistică a unui volum mare de text”, spune el. Dar, în opinia sa, acest lucru nu face ca instrumentele să fie inteligente. Statistica aplicată este un descriptor mult mai precis, „dar nimeni nu vrea să folosească acest termen, deoarece nu este la fel de sexy”.
În The Lifecycle of Software Objects (Ciclul de viață al obiectelor software), nuvela din 2010 a lui Chiang, Ana, fostă îngrijitoare de grădină zoologică, se angajează la o companie de inteligență artificială care dezvoltă ființe digitale sensibile (cunoscute sub numele de „digients”) pentru a fi vândute ca animale de companie virtuale. Aceste mașinării, spre deosebire de inteligența artificială de astăzi, sunt conștiente, dar imature. Nuvela derulează acest experiment de gândire pe parcursul mai multor ani, examinând relațiile dintre creatorii de tehnologie și invențiile lor pe măsură ce acestea se dezvoltă, precum și întrebările filosofice generate de crearea unui nou tip de inteligență. Ce fel de morală au aceștia? Cine este responsabil pentru ele? Pot fi lăsați să ia singuri decizii? Cumva, în mâinile lui Chiang, povestea devine, de asemenea, un portret intim al paternității și al renunțării.
Sunt curios în legătură cu originile poveștilor sale, care par să funcționeze întotdeauna pe două niveluri: un singur concept științific expansiv, cum ar fi mecanica cuantică, inteligența artificială sau matematica teoretică împinsă la limită – și nuanțele vieții umane obișnuite: munca, dragostea și familia.
Suntem întrerupți de mâncarea care sosește în succesiune rapidă: mai întâi, un platou meze pentru a împărți, cu o selecție de sosuri, cum ar fi baba ganoush afumat, conopidă condimentată și labneh cremos cu frunze de mentă, însoțit de măsline și crudități de roșii și castraveți. Există și pâine pita caldă pentru înmuiat.
„Pentru mine, ideile vin și apoi, de multe ori, dispar aproape imediat după aceea. Dar, uneori, o idee îmi revine din nou și din nou, pe o perioadă de luni sau ani”, spune Chiang, înfulecând conopida crocantă. „Atunci încep să bănuiesc că poate este ceva despre care trebuie să scriu o poveste. Pentru că, din anumite motive, această idee nu mă lasă în pace.”
Bucătăria mediteraneană
103 Bellevue Way NE, Bellevue, WA 98004
Supă de linte roșie x2
Tavă Meze $20.95
Mudammas murdare $14.95
Spanakopita $15.50
Baklava x 2 $10
Total (inclusiv taxe și bacșiș) $85.08
Înainte de a face prea multe progrese, apar mudammas murdare ale lui Chiang, o tocană gătită lent din fasole fava și garbanzo în ulei de măsline și suc de lămâie, și spanakopita mea – paste filo umplute cu feta și spanac – ambele servite cu o grămadă de orez cu șofran și humus alături. Aproape că pot să aud masa gemând.
Există teme la care Chiang revine des: și anume, modul în care limbajul modelează modul în care gândim și cine suntem; și existența liberului arbitru.
În povestirea sa din 2019, Anxietatea este amețeala libertății, oamenii deschid în mod obișnuit un portal către un univers paralel – un tropar comun al science-fiction-ului – și conversează cu sinele lor alternativ. Ideea sa inițială a fost să scrie despre cum ar arăta un astfel de dispozitiv și cum ar funcționa acesta folosind computere cuantice.
Dar povestea a explorat, de asemenea, sentimentul schimbător al oamenilor în ceea ce privește propria agenție; cum greutatea deciziilor personajelor sale dispărea cumva atunci când alter-ego-urile lor acționau diferit. „Am început să mă gândesc din ce în ce mai mult la asta, iar apoi asta s-a transformat într-o poveste care era un fel de poveste despre liberul arbitru.”
Aceasta nu este chiar o aprobare răsunătoare a abilităților lor, spune el despre chatbots care produc texte de umplutură pe care nimeni nu vrea neapărat să le citească sau să le scrie
Deși poveștile sale întruchipează concepte complexe, Chiang a rămas la forma de povestire scurtă, care, subliniază el, face parte dintr-o lungă tradiție în science fiction. A trimis prima sa povestire la o revistă la vârsta de 15 ani, inspirat de scriitori precum Arthur C Clarke și Isaac Asimov. Și, deși se identifică ferm cu această tradiție, mai degrabă decât cu scriitori de ficțiune literară sau speculativă precum Margaret Atwood sau Kazuo Ishiguro, opera sa depășește cumva granițele genului și ajunge la un public cu totul nou – până la Hollywood.
„Trebuie să spun că faptul că opera mea a ajuns la cititori care nu sunt cititori obișnuiți de science-fiction a fost o surpriză totală pentru mine. Nu a fost ceva ce mi-am imaginat vreodată”, spune Chiang. Mai mulți agenți literari i-au spus că opera sa nu va ajunge niciodată la publicul larg.
Motivul pentru care scrie, spune el, este pentru că este un imperativ. El o citează pe scriitoarea Annie Dillard, care a spus:: „Există ceva ce ți se pare interesant, dintr-un motiv greu de explicat. Este greu de explicat pentru că nu l-ai citit niciodată pe nicio pagină; acolo începi. Ai fost făcut și așezat aici pentru a da glas la asta, la propria ta uimire.”
„Este interesant tocmai pentru că nimeni altcineva nu a articulat-o încă, iar tu vrei să o faci”, spune Chiang. „Și așa că asta este ceea ce faci.”
Chiang sugerează să ne plimbăm prânzul în parcul Bellevue Downtown Park din apropiere. Îl conving să mai rămână puțin, pentru a împărți niște baklava. Dispare în restaurant și le aduce el însuși pe o farfurioară albă, câte un pătrat pe care îl mâncăm dintr-o singură și delicioasă înghițitură.
Având în vedere fascinația sa față de relația dintre limbaj și inteligență, sunt deosebit de curios în legătură cu opiniile sale despre scrisul AI, tipul de text produs de cei ca ChatGPT. Cum, întreb eu, vor schimba cuvintele generate de mașini tipul de scris pe care îl facem amândoi? Pentru prima dată în conversația noastră, văd o străfulgerare de iritare. „Scriu lucruri care să le vorbească oamenilor? Adică, a existat vreun eseu generat de ChatGPT care să vorbească cu adevărat oamenilor?”, spune el.
Opinia lui Chiang este că modelele lingvistice mari (sau LLM), tehnologia care stă la baza chatbots precum ChatGPT și Bard de la Google, sunt utile mai ales pentru a produce texte de umplutură pe care nimeni nu vrea neapărat să le citească sau să le scrie, sarcini pe care antropologul David Graeber le-a numit „bullshit jobs”. Textul generat de inteligența artificială nu este încântător, dar poate că ar putea fi util în acele anumite domenii, recunoaște el.
„Dar faptul că LLM-urile sunt capabile să facă unele dintre acestea – nu este chiar o aprobare răsunătoare a abilităților lor”, spune el. „Aceasta este mai degrabă o declarație despre cât de mult rahat suntem nevoiți să generăm și să ne ocupăm de el în viața noastră de zi cu zi”.
Chiang este îngrijorat de creșterea inegalității, exacerbată de IA, care concentrează puterea în mâinile câtorva persoane
Chiang și-a expus gândurile într-un eseu viral în The New Yorker, publicat în februarie, intitulat „ChatGPT Is a Blurry JPEG of the Web”. El descrie modelele lingvistice ca fiind imitații neclare ale textului pe care au fost antrenate, rearanjări ale secvențelor de cuvinte care respectă regulile gramaticale. Deoarece tehnologia reconstruiește un material care este ușor diferit de ceea ce există deja, dă impresia de înțelegere.
În timp ce compară acest lucru cu copiii care învață limba, îi povestesc despre modul în care copilul meu de cinci ani a început să inventeze mici glume de un rând, în principal jocuri de cuvinte, și să le testeze pe noi. Anecdota îl face să se anime.
„Fiica dumneavoastră a auzit glume și le-a găsit amuzante. ChatGPT nu găsește nimic amuzant și nu încearcă să fie amuzant. Există o componentă socială uriașă în ceea ce face fiica dumneavoastră”, spune el.
Între timp, ChatGPT nu „repetă mental lucruri pentru a vedea dacă poate obține un râs de la tine data viitoare când ieșiți împreună”. Chiang crede că limbajul fără intenția, emoția și scopul pe care i le aduc oamenii devine lipsit de sens. „Limbajul este un mod de a facilita interacțiunile cu alte ființe. Acest lucru este complet diferit de un fel de predicție a următorului cuvânt, ceea ce avem acum (cu instrumentele de inteligență artificială)”.
Este o zi glorioasă pentru o plimbare în parc, în special acest spațiu plin de verdeață, cu tufe de hortensii de un roz strălucitor și caracteristici extinse de apă. Începem într-un ritm alert, discutând de ce contează SF-ul. Deși nu scrie cu scopul de a incita, el vede cum SF-ul poate fi o forță radicalizantă. „SF-ul este despre schimbare și despre a-i ajuta pe oameni să-și imagineze că lumea este diferită de cum este acum”, spune el.
Este ca și cum Mark Fisher, criticul cultural și teoreticianul politic britanic, a spus odată. Chiang parafrazează: rolul politicii emancipatoare este de a dezvălui că lucrurile despre care ni se spune că sunt inevitabile sunt, de fapt, contingente. Iar lucrurile despre care ni se spune că sunt imposibile sunt, de fapt, realizabile. „Cred că același lucru se poate spune și despre science-fiction.”
Deși Chiang nu amestecă politica cu ficțiunea sa, el este îngrijorat de faptul că IA este un „multiplicator de forță” pentru capitalism. Într-un eseu pentru BuzzFeed din 2017, el i-a comparat pe tehnologiști cu creațiile lor presupus superinteligente de inteligență artificială: entități care „(își) urmăresc obiectivele cu o concentrare monomaniacă, fără să țină cont de posibilitatea unor consecințe negative”.
Înțeleg, interacțiunea cu oamenii este dificilă. Solicită mult, este adesea neplăcută. Roboții de chat social ar putea oferi confort, o adevărată alinare oamenilor
Teama sa nu se referă la un scenariu apocaliptic, așa cum prevăd cercetătorii, în care AI-ul preia controlul asupra lumii. El este mult mai îngrijorat de creșterea inegalității, exacerbată de tehnologii precum IA, care concentrează puterea în mâinile câtorva persoane.
Până acum, am făcut câteva ture de parc și încep să recunosc unii dintre ceilalți plimbători: un duo mamă-fiică, o doamnă cu un câine cu două picioare și oameni care stau pe bănci, cu cărți, reviste și înghețată. Mă întorc către Chiang, întrebându-l cum își imaginează că se va schimba lumea atunci când oamenii vor comunica în mod obișnuit cu mașinile.
Ne plimbăm în tăcere câteva minute și apoi, deodată, mă întreabă dacă îmi amintesc filmul Cast Away al lui Tom Hanks. Pe insula sa, Hanks are o minge de volei pe nume Wilson, singurul său companion, pe care îl iubește. „Cred că acesta este un mod mai util de a ne gândi la aceste sisteme”, îmi spune el. „Nu diminuează ceea ce personajul lui Tom Hanks simte pentru Wilson, pentru că Wilson i-a oferit un confort autentic. Dar chestiunea este că … el se proiectează pe o minge de volei. Nu mai este nimeni altcineva acolo”.
El recunoaște de ce oamenii ar putea începe să prefere să vorbească cu sistemele de inteligență artificială mai degrabă decât între ei. „Înțeleg, să interacționezi cu oamenii, este greu. Este greu. Solicită mult, este adesea neplăcută”, spune el. Dar el consideră că viața modernă i-a lăsat pe oameni blocați pe propriile lor insule pustii, lăsându-i să tânjească după companie. „Așa că acum, din această cauză, există o oportunitate de piață pentru mingile de volei”, spune el. „Roboții de chat social, ar putea oferi confort, o adevărată consolare oamenilor în același mod în care o oferă Wilson.”
Dar, în cele din urmă, ceea ce face ca viețile noastre să aibă sens este empatia și intenția pe care o obținem din interacțiunile umane – oamenii care își răspund unii altora. Cu AI, spune el: „Se simte ca și cum ar exista cineva la celălalt capăt. Dar nu este așa”.
Madhumita Murgia este editorul pentru inteligență artificială al FT
Sursa – www.ft.com