SUA începe, în sfârșit, să ia inteligența artificială în serios

The New York Times

Președintele Trump și-a petrecut cea mai mare parte a celui de-al doilea mandat opunându-se apelurilor de a impune supraveghere federală asupra inteligenței artificiale. Dar, în ultimele săptămâni, administrația sa a arătat semne că își temperează abordarea privind neintervenția.

Cu aproape două săptămâni în urmă, președintele urma să semneze un ordin executiv la un eveniment cu lideri americani din tehnologie, care ar fi cerut companiilor de I.A. să trimită noile modele guvernului pentru evaluare înainte de a le lansa publicului. Ordinul a fost abandonat cu câteva ore înainte de a fi semnat, după ce dl Trump și-a exprimat îngrijorarea că acesta ar împiedica sectorul privat. Acum, cu mai puțină atenție mediatică, a semnat un ordin executiv similar, care instituie un proces de evaluare mai scurt.

Forțele anti-reglementare spun că ordinul merge prea departe. Grupurile pro-reglementare spun că nu merge suficient de departe. După ce mi-am petrecut mare parte din carieră apărând sisteme critice în guvern și industrie, salut această mișcare ca pe o recunoaștere a unei noi realități urgente: cele mai puternice capabilități ale I.A. devin prea importante pentru securitatea națională pentru a fi lansate fără o coordonare semnificativă între companiile care le construiesc și guvernul responsabil de protejarea țării. Totuși, este doar un prim pas în construirea unei strategii federale mai solide pentru protejarea americanilor de amenințările generate de I.A.

În ultimele săptămâni, două companii americane de top din domeniul I.A. au oferit acces limitat la capabilități avansate de securitate cibernetică. Anthropic a oferit unor entități selectate acces timpuriu la Claude Mythos Preview, despre care compania spune că a identificat mii de vulnerabilități necunoscute anterior în software-urile critice. OpenAI a oferit acces timpuriu restricționat la GPT-5.5-Cyber, acordând entităților verificate o capacitate mai mare de a desfășura activități autorizate de securitate, sub măsuri suplimentare de protecție.

Ambele decizii reflectă un tip de autocontrol rar într-o industrie în care presiunea concurențială favorizează, în general, implementarea mai largă și mai rapidă. Ele reprezintă un semnal despre cât de serios evaluează aceste companii riscurile a ceea ce au construit.

Aceste riscuri sunt reale: intervalul dintre descoperirea unei vulnerabilități și transformarea ei într-o armă se comprimă rapid. Acest lucru contează deoarece Statele Unite nu au atât o problemă de securitate cibernetică, cât o problemă de calitate a software-ului. O mare parte din industria securității cibernetice, evaluată la miliarde de dolari, există pentru a compensa tehnologia construită pentru viteză, comoditate și funcționalități — nu pentru securitate.

Software-ul care stă la baza băncilor, spitalelor, rețelelor de telecomunicații, sistemelor de apă și serviciilor guvernamentale rămâne plin de erori și defecte. Unele persistă de mulți ani, iar actorii rău intenționați le-ar putea exploata pentru a perturba servicii critice, a fura informații sensibile sau a lua organizații ostatice prin ransomware.

În timp ce instrumentele anterioare puteau căuta slăbiciuni cunoscute, noile modele de I.A. pot analiza cantități uriașe de software pentru a descoperi vulnerabilități necunoscute anterior, la scară largă. În unele cazuri, ele pot identifica defecte ascunse într-un software utilizat pe scară largă, în detrimentul potențial al mii de organizații, înainte ca cineva să realizeze că acestea există.

Pe de altă parte, I.A. poate oferi cea mai bună oportunitate pe care am avut-o vreodată pentru a schimba această situație. Aceleași modele i-ar putea ajuta pe dezvoltatori să scrie cod mai sigur și i-ar putea ajuta pe apărători să găsească și să remedieze vulnerabilitățile înainte ca acestea să fie exploatate de infractori sau guverne ostile.

Un model capabil să identifice vulnerabilități periculoase într-un software utilizat pe scară largă ar putea oferi apărătorilor un avantaj extraordinar. În mâinile nepotrivite, ar putea oferi adversarilor același avantaj.

Ordinul executiv al domnului Trump este o încercare de a anticipa posibilele abuzuri, prin crearea unui program prin care companiile de A.I. să ofere voluntar guvernului o fereastră de acces anticipat de 30 de zile pentru a analiza noile modele înainte de lansare. În plus, acesta înființează un centru de coordonare pentru securitatea cibernetică A.I. în cadrul guvernului federal, care să coordoneze identificarea vulnerabilităților, validarea și remedierea acestora în întreaga industrie și în infrastructura critică. De asemenea, recunoaște pe bună dreptate necesitatea de a sprijini acele entități cel mai puțin pregătite să se apere: spitale rurale, bănci comunitare și mici furnizori de utilități.

Criticii vor susține că orice măsuri de protecție privind A.I. riscă să încetinească inovația americană exact în momentul în care China lucrează agresiv pentru a dezvolta capacități similare. Această preocupare este reală. Dar riscul mai mare pentru avantajul american este să implementăm aceste modele neglijent și să oferim adversarilor aceleași instrumente. Un model puternic lansat fără controale semnificative de acces nu este un avantaj american; este unul global.

Limitarea accesului Chinei la unelte A.I. puternice necesită controale mai stricte asupra infrastructurii de calcul avansate, o aplicare mai bună a regulilor împotriva ocolirii acestora și o protecție mai mare împotriva furtului capabilităților modelelor de frontieră. Guvernarea responsabilă a ceea ce companiile americane construiesc deja necesită altceva: colaborare între guvern și industrie înainte ca cele mai puternice sisteme să fie larg implementate.

Recunoașterea principiului corect este doar un prim pas. Un cadru voluntar nu poate garanta că experții tehnici ai guvernului vor putea evalua cele mai importante capabilități ale modelelor de frontieră înainte ca acestea să fie lansate, tocmai în momentul în care presiunea competitivă este maximă și o companie are cel mai puternic stimulent să se miște rapid. Iar un principiu consacrat printr-un ordin executiv este la fel de durabil precum administrația care l-a emis.

Este timpul ca Congresul să acționeze, nu cu reguli care tratează fiecare start-up de A.I. ca pe o amenințare la securitatea națională sau care sufocă numeroasele utilizări benefice ale inteligenței artificiale, ci cu obligații țintite și durabile pentru cele mai avansate modele. Un proiect de lege bipartizan, prezentat de reprezentanții Jay Obernolte din California și Lori Trahan din Massachusetts, este un semn promițător că această muncă este deja în desfășurare. Indiferent de forma sa finală, obligațiile ar trebui să includă testări riguroase de siguranță și securitate, practici sigure de dezvoltare și controale responsabile asupra implementării.

Statele Unite reglementează deja accesul la alte elemente cu capacități atât benefice, cât și periculoase — agenți patogeni, anumite substanțe chimice, materiale nucleare — nu pentru a împiedica cercetarea legitimă, ci pentru că unele capacități necesită ca guvernul să știe cine le deține și de ce, înainte de a fi disponibile pe scară largă. Un model de A.I. cu capabilități ofensive demonstrate în domeniul cibernetic este o tehnologie cu dublă utilizare în exact acest sens. Congresul ar trebui să îl trateze ca atare.

Statele Unite ar trebui să conducă lumea în domeniul inteligenței artificiale. Dar leadershipul nu poate însemna să fii primul care oferă adversarilor un instrument capabil să găsească vulnerabilități necunoscute în software-ul care rulează în spitale, sisteme financiare și rețele electrice și să speri că vom putea gestiona consecințele mai târziu. Ordinul executiv al președintelui este un prim pas bun. Munca mai dificilă — construirea unui ecosistem de A.I. inovator, de încredere și rezilient — revine încă Congresului.

HINT

Software-ul utilizat de bănci, spitalele, rețele de telecomunicații, sisteme de apă și servicii guvernamentale rămâne plin de erori și defecte. Unele persistă de mulți ani, iar actorii rău intenționați le-ar putea exploata pentru a perturba servicii critice, a fura informații sensibile sau a lua organizații ostatice prin ransomware.

HINT

Statele Unite reglementează deja accesul la alte elemente cu capacități atât benefice, cât și periculoase — agenți patogeni, anumite substanțe chimice, materiale nucleare — nu pentru a împiedica cercetarea legitimă, ci pentru că unele capacități necesită ca guvernul să știe cine le deține și de ce, înainte de a fi disponibile pe scară largă. Un model de A.I. cu capabilități ofensive demonstrate în domeniul cibernetic este o tehnologie cu dublă utilizare în exact acest sens.

AUTOR

Jen Easterly este fost director al Agenției de Securitate Cibernetică și Securitate a Infrastructurii din SUA.