Inteligența artificială are nevoie urgentă de o reglementare la nivel global, cu evaluatori independenți capabili să verifice noile evoluții, a declarat președintele Microsoft, Brad Smith, avertizând că, în prezent, AI se confruntă în prezent cu mai puține cerințe de siguranță decât laptele, transmite Reuters.

Într-un interviu acordat BBC și difuzat luni, Brad Smith a declarat că este nevoie de un set de reguli globale de siguranță, care să oblige ca o 'victimă' să fie informată dacă sistemul său este compromis de un agent AI necinstit și să existe o 'frână de urgență'.

Președintele Microsoft a mai spus că ar trebui să existe și o obligație legală pentru companii de a redacta 'rapoarte de incident'. 'Știm cum să facem acest lucru pentru alte produse. Ar trebui să ne bazăm pe aceste cunoștințe și să ne gândim cum să le aplicăm AI', a spus Smith.

'În acest moment, mașina dumneavoastră de spălat este supusă mai multor reguli de siguranță decât AI. Fiecare cutie de lapte pe care o vedeți în magazinul alimentar este supusă regulilor de siguranță și inspecțiilor', a subliniat președintele Microsoft.

Companii de tehnologie precum Anthropic și OpenAI au început să dezvăluie că au existat cazuri de comportamente incorecte sau nedorite ale agenților lor de AI, în contextul unei dezbateri globale despre o tehnologie în continuă dezvoltare, care a inclus avertismente ale cercetătorilor cu privire la o eventuală amenințare existențială la adresa umanității.

Unele companii au cerut încetinirea dezvoltării AI, dar acest lucru a stârnit o dezbatere cu privire la o posibilă agendă ascunsă a directorilor de companii care dezvoltă modele AI, cum ar fi stabilirea unor reguli care să mențină poziția de lider deținut de firmelor lor, prevenirea unei reacții negative mai ample din partea guvernului sau pur și simplu încetinirea cheltuielilor amețitoare.

Președintele Microsoft a spus că singura țară care este bine plasată pentru a deschide calea în ceea ce privește reglementarea AI este Marea Britanie, datorită Institutului de Securitate AI, care a fost lansat sub fostul prim-ministru Rishi Sunak.

Smith a precizat că oficialii de la Washington privesc Londra foarte diferit față de cum privesc Bruxelles-ul, care reglementează AI pe baza nivelului de risc prin intermediul Legii AI. Institutul britanic de Securitate AI primește acces înainte de implementare, în baza unor acorduri voluntare cu principalele modele de AI, ceea ce îi permite să evalueze capacitățile și riscurile acestora.

Ministrul britanic pentru Inteligența Artificială, Kanishka Narayan, a declarat pentru Reuters că Marea Britanie va lua în considerare reglementarea modelelor avansate dacă sistemul actual se dovedește insuficient. AGERPRES/(AS-redactor: Constantin Balaban, editor: Andreea Marinescu, editor online: Ady Ivaşcu)