# Războiul cu inteligența artificială îi poate împuternici atât pe cei răi, cât și pe cei buni

> Scriitorul este fondatorul Sifted, o companie media susținută de FT care acoperă start-up-urile europene Pune inteligența artificială în aceeași propoziție cu războiul, iar ochiul minții evocă roiu...

Publicat: 16 februarie 2023, 12:48 · Autor: Bianca Barbu · Categorie: [Externe](https://financiarul.ro/externe/index.html.md) · Pagina web: https://financiarul.ro/externe/razboiul-cu-inteligenta-artificiala-ii-poate-imputernici-atat-pe-cei-rai-cat-si-pe-cei-buni/ · Publicație: Financiarul

![](https://financiarul.ro/wp-content/uploads/2023/08/dc2cb871-1f54-4caf-8cf0-adcfc4b299fe.jpg)

Scriitorul este fondatorul Sifted, o companie media susținută de FT care acoperă start-up-urile europene

Pune inteligența artificială în aceeași propoziție cu războiul, iar ochiul minții evocă roiuri de drone-roboți ucigași care bâzâie peste câmpurile de luptă, zburând soldații inamici, ca într-un film de groază futurist. Dar realitatea războiului din Ucraina a evidențiat modul în care sistemele de învățare automată transformă deja desfășurarea luptei în moduri mult mai puțin grafice, dar foarte importante, facilitând procesarea datelor și alte funcții „back office” și înclinând avantajul militar spre Kiev.

Ei au arătat cum o armată inteligentă și curajoasă, înarmată cu software inteligent, poate învinge un inamic mult mai mare, dependent excesiv de hardware-ul prost. Ele ridică, de asemenea, noi întrebări, totuși, cu privire la cât de departe ar trebui externalizate capabilitățile critice de securitate națională către companii private care nu sunt în mare parte responsabile pentru utilizarea tehnologiei.

În Ucraina, companii americane precum Microsoft, Starlink și Palantir au fost esențiale în stimularea efortului de război ucrainean. Microsoft a oferit asistență tehnologică de peste 100 de milioane de dolari Kievului pentru a consolida infrastructura digitală a țării și a securiza datele în cloud. Starlink, compania de internet prin satelit condusă de SpaceX de la Elon Musk, a furnizat comunicații sigure forțelor din prima linie ale Ucrainei. Și compania de date Palantir a contribuit la optimizarea „lanțului de ucidere” digital al Ucrainei prin furnizarea de informații acționabile extrase din imagini din satelit, senzori de câmp de luptă și alte surse deschise.

Alex Karp, directorul executiv al Palantir, este clar despre lecțiile care ar trebui învățate. Dacă intri în luptă folosind tehnologia veche, vei fi în continuare într-un „dezavantaj masiv” împotriva unui adversar care folosește țintirea digitală și AI, mi-a spus el la conferința REAIM de la Haga săptămâna aceasta. „Țara care câștigă bătăliile viitorului AI va stabili ordinea internațională.”

Participanții la conferința responsabilă cu inteligența artificială, găzduită de guvernele olandez și sud-coreean, au salutat în general rolul pe care îl joacă tehnologia în a ajuta Ucraina să se apere împotriva invaziei brutale a Rusiei. Ei au văzut, de asemenea, inteligența artificială ca un multiplicator al forței critice pentru menținerea apărării societăților democratice împotriva altor rivali autocrați, cum ar fi China. Dar neliniștea mai largă cu privire la adoptarea pe scară largă a sistemelor AI letale a fost palpabilă. A existat un sentiment că conduita războiului intră rapid pe un teritoriu radical nou și nu avem nicio foaie de parcurs spre viitor.

Unul dintre factorii de complicare este rolul fără precedent pe care îl joacă companiile din sectorul privat. Karp de la Palantir a susținut că compania sa a acceptat pe deplin ca politicienii și ofițerii militari aleși să rămână întotdeauna în controlul utilizării tehnologiei. Dar el a recunoscut că nu era o viziune universală în Silicon Valley. Acest punct a fost evidențiat de decizia lui Musk de a reduce accesul Ucrainei la rețeaua Starlink de teama de a escalada conflictul, generând o dispută acerbă cu Kievul. „Musk are acum propria sa politică de apărare”, după cum a spus un participant la conferință.

Unul dintre principiile mai largi despre AI, care este ușor de enunțat și aproape imposibil de pus în aplicare, este că oamenii ar trebui să rămână întotdeauna în controlul mașinilor. Algoritmilor nu ar trebui să li se permită niciodată să ia singuri decizii de viață și de moarte. Nu este clar modul în care oamenii rămân întotdeauna „în buclă” atunci când sistemele AI sunt utilizate pe scară largă la viteza fulgerului în moduri difuze în timp de război. Cu toate acestea, guvernele ar trebui să insiste în continuare pentru norme acceptate pentru a încadra utilizarea IA militară, chiar dacă nu ajung la un acord de tratate internaționale obligatorii.

După cum a susținut Agnès Callamard, secretarul general al Amnesty International, capacitatea sistemelor AI de a ajuta ofițerii militari să ia decizii mai fiabile și mai precise nu face neapărat acele decizii corecte. De exemplu, rachetele ghidate cu precizie pot fi folosite pentru a reduce victimele civile – sau exact invers: pentru a viza spitalele sau personalul medical, așa cum au făcut rușii în Siria și Ucraina. „Fiabilitatea nu înseamnă respectarea dreptului internațional. Precizia nu înseamnă conformitate”, a spus ea la conferință. „Războaiele sunt murdare.”

Sistemele de arme autonome letale pot împuternici actorii răi, precum și pe cei buni care participă la conferințe responsabile de AI. Democrațiile auto-drepte pot suferi de ceea ce Stuart Russell, profesor de informatică la Universitatea din California, Berkeley, numește „eșecul proprietății unice”. Ca și în cazul încercărilor de a limita utilizarea armelor biologice, chimice și nucleare, guvernele ar trebui să concluzioneze că este în interesul lor colectiv să restricționeze lucrurile groaznice pe care le pot face altora, astfel încât acele lucruri groaznice să nu fie provocate și asupra lor.

Sursa - www.ft.com