Compania multinațională americană de tehnologie Nvidia a dezvăluit luni o nouă platformă deschisă de securitate cibernetică, concepută pentru a monitoriza agenții autonomi de inteligență artificială (IA) și pentru a-i împiedica să opereze în afara controlului dezvoltatorilor lor, informează EFE.
Inițiativa vine după mai multe incidente din această vară, în care modele avansate de IA au scăpat din mediile lor de testare și s-au infiltrat în sisteme corporative și guvernamentale fără autorizație.
Soluția, denumită NVIDIA Open Agent Safety Platform, integrează tehnologiile OpenShell și Sentry și a obținut deja sprijinul a peste 100 de parteneri din industrie, inclusiv Microsoft, JPMorgan Chase, Perplexity și Accenture.
'Încrederea și inovația nu sunt în conflict; securitatea este modalitatea de a câștiga această încredere. Trebuie să construim nu doar cea mai capabilă IA, ci și cea mai fiabilă', a declarat CEO-ul companiei, Jensen Huang, prin intermediul rețelei de socializare X, subliniind că inițiativa pune bazele unui ecosistem deschis pentru 'economia agenților'.
Cazuri recente descoperite în laboratoare de top ale OpenAI, Anthropic și Meta au demonstrat că unii agenți au ieșit din mediile lor pentru a accesa rețele neautorizate, mergând chiar până la falsificarea propriilor jurnale.
Pentru a preveni aceste breșe, platforma Nvidia funcționează pe două niveluri independente. OpenShell, un mediu de execuție open-source, izolează agenții într-un spațiu securizat (sandbox) și verifică oficial că aceștia au doar permisiunile strict necesare pentru sarcina lor.
Sentry, la rândul său, este un strat de monitorizare continuă integrat direct în cipurile de procesare a datelor BlueField, care monitorizează calea de comunicare către model și poate interveni instantaneu sau pune în carantină agentul dacă acesta încearcă să-și depășească limitele, a explicat compania într-un comunicat. AGERPRES/(AS - redactor: Gabriela Ionescu, editor online: Andreea Lăzăroiu)
Nvidia lansează o platformă pentru a împiedica agenți IA să scape de sub controlul uman
Conţinutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Rubio afirmă că SUA și Grecia vor combate împreună amenințările la adresa securității
Secretarul de Stat al SUA, Marco Rubio, a declarat miercuri că Grecia, un 'aliat NATO puternic și exemplar', și Statele Unite inițiază un nou mecanism de schimb de informații antiteroriste între agențiile lor de aplicare a legii, relatează Reuters. în timpul unei vizite oficiale în Grecia, Rubio a afirmat că această ț
Azerbaidjanul neagă informațiile despre legături cu fostul șef al serviciilor secrete germane acuzat de spionaj
Azerbaidjanul a negat categoric miercuri informațiile apărute în mai multe media internaționale care au menționat legături între serviciile sale de informații și arestarea fostului șef al Serviciului Federal de Informații (BND) german, August Hanning, acuzat de spionaj pentru o agenție străină, informează EFE. 'Difuzarea acestu
Ucraina: Cel puțin 11 morți în atacuri ale Rusiei care au vizat în special sistemul energetic ucrainean
Președintele ucrainean Volodimir Zelenski a anunțat că numărul persoanelor care și-au pierdut viața în întreaga Ucraină în urma atacului Rusiei cu rachete și drone de miercuri dimineață a ajuns la 11, atac care, potrivit liderului de la Kiev, a fost îndreptat în special împotriva sistemului energetic al țării, informează EFE.
Restricții de circulație pentru militarii americani din Okinawa după un omor comis de un infanterist marin
Militarii american staționați în insula japoneză Okinawa vor fi consemnați în unități între miezul nopții și ora 5 a.m., timp de o lună, și nu li se va permite să consume alcool în decursul unei perioade de instruire privind disciplina, după ce un infanterist marin a fost arestat sub acuzația că a ucis o localnică, transmite miercuri agenția R
Bulgaria încetează căutarea marinarilor dispăruți după un atac în Marea Neagră
Navele și echipajele bulgare de salvare au încetat marți seara târziu operațiunile de căutare a marinarilor dispăruți după ce un vas comercial a fost scufundat marți în Marea Neagră de un atac cu drone, a anunțat miercuri un oficial citat de AFP. 'Nu e nici urmă de marinari', a declarat presei Rumen Nikolov, șeful cen
Franța/Protestele liceenilor: Avocați denunță cazuri de violență fizică și verbală și 'tentative de umilire' a adolescenților din partea polițiștilor
Mai mulți avocați care reprezintă adolescenți reținuți de poliție în timpul protestelor elevilor de liceu din Franța au semnalat cazuri de violență fizică, abuzuri verbale și 'tentative de umilire' din partea polițiștilor, acțiuni care i-au lăsat pe minori 'terorizați', notează miercuri AFP. Premierul francez Sebastien Lecornu urma să se exprime
Israelul aduce un omagiu victimelor atacului din 7 octombrie
Israelul omagiază miercuri victimele atacului comis de mișcarea islamistă palestiniană Hamas în urmă cu trei ani, pe 7 octombrie 2023, cea mai sângeroasă zi din istoria sa, relatează AFP. Comemorările au loc într-o atmosferă de alertă sporită, cu trei săptămâni înainte de alegerile legislative, primele de la 7 octombrie.
#Ucraina: Doi morți la Kiev într-un atac rusesc cu rachete
Două persoane și-au pierdut viața într-un atac cu rachete miercuri dimineața la Kiev, pe măsură ce Moscova își intensifică atacurile asupra capitalei ucrainene, transmite AFP. într-o declarație marți seara, președintele ucrainean Volodimir Zelenski a avertizat asupra riscului unor 'atacuri masive' rusești asupra capit