Cele mai importante companii de inteligenta artificiala sunt de acord sa colaboreze pentru transparenta si siguranta: „Aceasta este o prioritate ridicata pentru Casa Alba”

Sapte companii de top din domeniul inteligentei artificiale au convenit asupra unei serii de bune practici din industrie, un prim pas catre o reglementare mai semnificativa, a anuntat joi Casa Alba, scrie NBC News.

Companiile – Amazon, Anthropic, Google, Inflection, Meta, Microsoft si OpenAI – au convenit asupra principiilor care includ securitatea, transparenta fata de public si testarea produselor lor la nivel intern inainte de a le lansa in public.

Intr-o convorbire telefonica cu jurnalistii, miercuri seara, in care s-a facut o avanpremiera a anuntului, un oficial de la Casa Alba a declarat ca presedintele Joe Biden va semna in cele din urma un ordin executiv care sa reglementeze mai puternic IA, desi oficialii inca lucreaza la detalii.

„Casa Alba elaboreaza o actiune executiva pentru a reglementa utilizarea IA”, a declarat oficialul. „Aceasta este o prioritate ridicata pentru presedinte”.

Directorii de top ai companiilor implicate se vor intalni la Casa Alba vineri, printre care presedintele Microsoft, Brad Smith, presedintele pentru afaceri globale al Google si Alphabet, Kent Walker, directorul general al Amazon Web Services, Adam Selipsky, presedintele Meta pentru afaceri globale, Nick Clegg, presedintele OpenAI, Greg Brockman, directorul general al Anthropic, Dario Amodei, si directorul general al Inflection AI, Mustafa Suleyman.

Fiecare dintre cele sapte companii a fost de acord sa angajeze experti independenti care sa le cerceteze sistemele pentru a gasi vulnerabilitati si sa impartaseasca intre ele informatiile pe care le descopera, cu guvernele si cu cercetatorii, a declarat oficialul. De asemenea, au convenit sa dezvolte asa-numitele mecanisme de „filigranare” pentru a ajuta utilizatorii sa identifice cand continutul pe care il vad sau il aud este generat de inteligenta artificiala.

Angajamentele sunt voluntare si nu sunt obligatorii.

Gary Marcus, un critic de frunte al inteligentei artificiale, a declarat ca angajamentele sunt importante, dar a remarcat ca acestea nu obliga companiile de inteligenta artificiala sa spuna ce date folosesc pentru a-si antrena modelele.

„Cred ca este un prim pas si nu merge suficient de departe”, a spus Marcus. „In primul rand, pentru ca este voluntar. In al doilea rand, unul dintre cele mai importante lucruri de care avem nevoie aici este ce date sunt folosite pentru a antrena modelele, iar acest lucru nu face parte din intelegere.”

„Faptul ca societatile fac schimb de informatii este grozav. Un acord cu privire la filigranare este grozav. Toate acestea sunt pasi buni. Dar pana cand nu vom avea o transparenta reala in ceea ce priveste datele, nu am terminat”, a adaugat el.

Sistemele de inteligenta artificiala generativa, precum ChatGPT de la OpenAI, au facut senzatie la sfarsitul anului trecut, provocand o multime de noi utilizatori.

In luna mai, directorul general al OpenAI, Sam Altman, le-a cerut membrilor Congresului sa reglementeze industria. In iunie, Biden a zburat la San Francisco pentru a se intalni cu lideri ai unora dintre companiile din Silicon Valley care conduc AI in SUA. Oficialul de la Casa Alba a declarat ca accentul acordului este pus pe crearea unei transparente care va permite expertilor sa examineze mai bine sistemele de inteligenta artificiala.

„Ceea ce companiile se angajeaza sa faca este o analiza independenta efectuata de experti in domeniu si stabilirea unui regim mai larg, cu multiple fatete, pentru a se asigura ca aceasta analiza este credibila si demna de incredere”, a declarat oficialul.”Si se angajeazasa lucreze impreuna cu mediul academic si societatea civila, cu SUA si cu alte guverne in vederea stabilirii celor mai bune practici de protejare a acestor sisteme.”