Mustafa Suleyman, șeful diviziei de inteligenţă artificială de la Microsoft, critică tendinţa din Silicon Valley de a dezvolta superinteligența artificială asemănătoare unor zei. Într-un podcast recent, el a spus că această direcţie ar putea fi periculoasă, iar riscurile pentru omenire sunt prea mari.
Ce se întâmplă atunci când unul dintre cei mai influenţi oameni din domeniul inteligenţei artificiale afirmă că visul Silicon Valley ar putea fi o mare greșeală? Mustafa Suleyman, fondatorul Google DeepMind și acum lider în echipa de Al a Microsoft, a generat dezbateri intense în industria tehnologică după ce a declarat că dezvoltării superinteligenţei nu ar trebui să fie un scop, ci un „anti-obiectiv”. Ar trebui considerat un
De ce Microsoft tratează cu prudență superinteligenţa
Într-un episod al podcastului „Silicon Valley Girl Podcast”, Suleyman a explicat că superinteligența artificială, adică sistemele care depășesc capacitatea umană de raţionament, nu reprezintă o „viziune pozitivă” pentru viitor. Nu pare a fi o viziune pozitivă asupra viitorului. El consideră că ar fi extrem de dificil să controlăm sau să aliniem astfel de sisteme la valorile noastre. Ar fi foarte greu să controlezi ceva de genul acesta sau să îl aliniezi la valorile noastre. Suleyman, care a lucrat la Google DeepMind, companie recunoscută pentru Al-ul care a învins oameni la șah și Go, susţine că eforturile ar trebui direcționate spre o superinteligență umanistă, adică un Al care să ajute oamenii, nu să îi înlocuiască. În contextul investițiilor la bursă și al presiunilor pentru reglementare, marile companii de inteligență artificială devin tot mai atente la impactul social și la securitatea naţională.
EI subliniază că aceste sisteme nu au sentimente și nu simt durere, ci doar simulează conversații complexe. Aceste lucruri nu suferă. Nu simt durere. Ele doar simulează conversații de înaltă calitate. Avertismentul său este că atribuirea de conștiință sau valoare morală Al-ului este o greșeală fundamentală, iar lideri mondiali cer oprirea dezvoltării superinteligenței tocmai din cauza acestor riscuri.
AGI și superinteligența: diferenţe și perspective
În timp ce Suleyman atrage atenția asupra pericolelor, alţi lideri din industrie accelerează spre dezvoltarea inteligenţei artificiale generale (AGI), adică sisteme care pot raţiona la fel ca oamenii. Sam Altman, CEO OpenAl, a declarat: Unelte superinteligente ar putea accelera enorm descoperirile științifice și inovaţia, mult dincolo de ceea ce suntem capabili să facem pe cont propriu și, la rândul lor, ar crește masiv abundența și prosperitatea. Companii de inteligență artificială investesc miliarde de dolari pentru a atinge acest obiectiv.
Ce spun alţi lideri despre viitor?
Demis Hassabis, cofondator Google DeepMind, estimează că AGI ar putea fi realizată În următorii cinci până la zece ani.
Hassabis a mai spus: Vom avea un sistem care chiar înțelege tot ce este în jurul tău în moduri foarte nuanţate și profunde și care va fi oarecum integrat în viața ta de zi cu zi.
Yann LeCun, șeful cercetării Al la Meta Platforms, crede că mai avem „decenii” până la AGI. El susţine: Cele mai interesante probleme nu se scalează deloc bine. Nu poţi presupune pur și simplu că mai multe date și mai multă putere de calcul înseamnă o inteligenţă artificială mai inteligentă. Mark Zuckerberg, șeful Meta, a declarat recent pentru revista presei că abordarea trebuie să fie una echilibrată, iar superinteligența medicală ar putea aduce beneficii reale, precum creșterea speranţei de viaţă.
Reacţii și opinii din industrie
Deși Microsoft și OpenAl colaborează strâns, abordările lor diferă. Altman vede superinteligenţa ca pe un instrument pentru progresul uman. Suleyman, în schimb, insistă că trebuie evitată construirea unor entităţi pe care nu le putem înțelege sau controla, iar experți și lideri mondiali cer oprirea dezvoltării superinteligenţei riscurile fiind imposibil de prevăzut.
Reacţiile din industrie sunt variate. Mulţi experți recunosc riscurile, dar cred că beneficiile pot fi mai mari decât pericolele. Hassabis imaginează un viitor în care Al-ul „înțelege totul în jurul tău într-un mod profund” și este integrat în viaţa cotidiană, inclusiv în hoteluri şi băi termale sau în administrarea pensiilor speciale și pensiilor private.
Întrebarea rămâne: cine stabilește câtă inteligență este suficientă? Suleyman propune o abordare mai prudentă. El spune că nu trebuie să replicăm inteligența umană, ci să o completăm – o poziţie susținută și de Mark Zuckerberg, dar și de Alexadr Wang sau Richard Branson în ultimele știri.
Viitorul inteligenţei artificiale
Dezbaterea este departe de a se încheia. Pe de o parte, entuziaștii tehnologiei văd în superinteligenţă o soluţie pentru probleme precum schimbările climatice sau bolile incurabile. Pe de altă parte, scepticii ca Suleyman avertizează că am putea pierde controlul asupra propriilor creaţii, iar cod roşu pentru securitatea globală ar putea fi activat dacă dezvoltării superinteligenţei scapă de sub control.
Ce urmează? Companiile vor continua să investească masiv în cercetarea Al, însă presiunile pentru reglementare cresc tot mai mult. Uniunea Europeană deja pregătește legi care să limiteze riscurile sistemelor Al avansate, iar marile companii sunt obligate să respecte termeni și condiţii stricte.
Într-un domeniu unde progresul se face rapid, discuţia despre superinteligenţă și despre termeni și condiţii va rămâne în prim-plan. Suleyman subliniază că trebuie să alegem cu atenţie ce fel de viitor vrem să construim, iar echipa editorială vă va ţine la curent cu ultimele știri și evoluţii la ultima oră.
Pentru a fi la curent cu toate știrile, urmărește Financiarul.ro și pe Google News
Parteneri
Articole recomandate din rețeaua noastră
Revista IoanaCartofii dulci ies crocanți cu metoda cuptorului rece. Îi coci 20 de minute și îi rumenești încă 10
News24Nicușor Dan respinge alegerile anticipate înaintea votului de miercuri
Dolce SportRomânia începe Nations League în Suedia după șase deplasări fără victorie
GetPonyO plecare de pe loc a provocat un accident cu patru mașini în Ploiești. O femeie a fost rănită
BravonetDupă 40 de ani de carieră, Monica Anghel spune că nu aleargă numai după bani
LylaCe poți face pentru a întârzia îmbătrânirea pielii. Vara, evită soarele între orele 10 și 17
