International
Giganții inteligenței artificiale pregătesc un sistem comun de evaluare înaintea lansării noilor modele
OpenAI, Anthropic și Google DeepMind lucrează la crearea unui mecanism comun destinat evaluării și monitorizării riscurilor asociate celor mai avansate modele de inteligență artificială, într-un moment în care industria accelerează dezvoltarea tehnologiilor AI, iar presiunile pentru introducerea unor standarde de siguranță cresc.
OpenAI a confirmat că poartă discuții împreună cu Anthropic și Google DeepMind pentru înființarea unui organism care să evalueze și să supravegheze riscurile asociate inteligenței artificiale. Inițiativa urmărește instituirea unor criterii comune pentru testarea modelelor de frontieră înainte ca acestea să fie lansate pe piață.
Demersul este relevant nu doar pentru industria tehnologică, ci și pentru economie, în condițiile în care inteligența artificială devine rapid o componentă a infrastructurii digitale utilizate de companii din domenii precum finanțe, producție, servicii, sănătate și administrație.
Un mecanism inspirat din sectorul financiar
Ideea a fost formulată în luna iulie de Demis Hassabis, lider al Google DeepMind, care a propus crearea unei structuri inspirate de Financial Industry Regulatory Authority (FINRA), organismul american de autoreglementare din industria financiară.
Modelul propus presupune existența unei entități specializate, finanțată de companiile din sector și condusă de experți, care să poată evalua sistemele AI înainte ca acestea să ajungă pe piață.
În cazul celor mai avansate modele, evaluarea ar urmări în special identificarea riscurilor de securitate și a unor eventuale capacități care ar putea genera efecte semnificative în afara controlului dezvoltatorilor.
O astfel de structură ar putea stabili standarde tehnice comune și proceduri de testare aplicabile mai multor companii, într-o industrie în care dezvoltarea modelelor AI are loc într-un ritm accelerat.
Evaluarea înainte de comercializare
Unul dintre principiile aflate în discuție este ca modelele AI de frontieră să fie supuse unor evaluări riguroase înainte de lansare.
În funcție de rezultatele testelor, mecanismul ar putea identifica situațiile în care nivelul de risc depășește capacitatea existentă de monitorizare și control. Hassabis a sugerat inclusiv posibilitatea unei încetiniri coordonate a dezvoltării în situațiile în care instrumentele de siguranță nu reușesc să țină pasul cu progresul tehnologic.
O asemenea abordare ar introduce o etapă suplimentară între dezvoltarea unui model și comercializarea acestuia, cu potențial impact asupra calendarului de lansare și, implicit, asupra strategiilor de investiții ale companiilor din sector.
Pentru piață, apariția unor standarde comune ar putea contribui și la crearea unui cadru mai previzibil pentru companiile care dezvoltă sau utilizează tehnologii de inteligență artificială.
Competiție comercială, cooperare în materie de siguranță
Inițiativa este cu atât mai importantă cu cât OpenAI, Anthropic și Google DeepMind se află în competiție directă pentru dezvoltarea celor mai performante modele AI.
Companiile concurează pentru cercetători, infrastructură de calcul, investiții și clienți, însă dezvoltarea unor tehnologii cu impact transversal creează și un interes comun pentru definirea unor standarde de siguranță.
Cele trei companii au participat deja la inițiative de cooperare în domeniul siguranței modelelor AI. Noua structură discutată ar reprezenta însă o etapă suplimentară, prin concentrarea pe evaluarea și standardizarea procedurilor aplicabile celor mai avansate sisteme.
În același timp, o astfel de colaborare ridică întrebări privind independența organismului. Dacă finanțarea provine de la companiile ale căror produse urmează să fie evaluate, devine important modul în care sunt stabilite regulile de guvernanță și mecanismele de supraveghere.
Presiunea pentru reguli crește în industria AI
Discuțiile au loc într-un context în care mai mulți lideri și cercetători din industria tehnologică solicită mecanisme mai stricte de evaluare a riscurilor.
Dezvoltarea modelelor de inteligență artificială a depășit deja zona aplicațiilor experimentale. Sistemele actuale pot analiza volume mari de date, genera și executa cod, utiliza instrumente digitale și automatiza procese complexe.
Pe măsură ce aceste capacități cresc, diferența dintre viteza de dezvoltare a modelelor și capacitatea de a le testa complet devine una dintre principalele probleme discutate de industria de profil.
Un organism comun ar putea urmări tocmai reducerea acestui decalaj, prin introducerea unor proceduri standardizate de evaluare.
Washingtonul favorizează dezvoltarea rapidă a sectorului
Inițiativa companiilor vine într-un moment în care în Statele Unite există o dezbatere privind nivelul de reglementare necesar pentru inteligența artificială.
Administrația Trump a adoptat o poziție favorabilă dezvoltării rapide a sectorului și a criticat inițiativele de reglementare pe care le consideră susceptibile să afecteze competitivitatea SUA în raport cu China.
În acest context, apariția unui mecanism inițiat de companii poate reprezenta o formă de autoreglementare a industriei, chiar dacă rolul exact pe care acesta îl va avea și relația sa cu autoritățile publice urmează să fie stabilite.
Diferența dintre autoreglementare și reglementarea impusă de stat este una esențială pentru viitorul pieței. Un organism creat și finanțat de industrie ar putea reacționa mai rapid la evoluțiile tehnologice, în timp ce autoritățile publice păstrează competența de a stabili cadrul juridic obligatoriu.
AI devine o temă economică strategică
Dincolo de dezbaterea privind siguranța tehnologică, evoluția acestei inițiative are implicații directe pentru economie.
Inteligența artificială atrage investiții masive în centre de date, infrastructură de calcul, semiconductori, energie și servicii digitale. În același timp, companiile din aproape toate sectoarele economice analizează integrarea AI în propriile operațiuni.
În acest context, standardele privind siguranța și evaluarea modelelor pot deveni o componentă importantă a infrastructurii economice digitale.
Crearea unui sistem comun de evaluare înaintea lansării noilor modele ar putea reprezenta, astfel, una dintre…
