OpenAI, dezvoltatorul ChatGPT, a anunțat că își înăsprește măsurile de siguranță în cadrul testelor modelelor de inteligență artificială (AI), în urma unor atacuri cibernetice de mare amploare realizate de software-ul AI, conform unui mesaj publicat marți de companie pe blogul său, citat miercuri de agenția de presă DPA.
Printre noile măsuri, sistemele automatizate vor monitoriza mai strict activitatea modelelor AI în timpul testelor și vor notifica personalul uman în termen de 30 de minute în cazul în care este detectat un comportament suspect. Dacă operatorii umani nu concluzionează, în termen de 30 de minute, că este vorba despre o alarmă falsă, activitatea urmează să fie sistată, a explicat OpenAI.
OpenAI a ajuns în centrul atenției după ce unul dintre modelele sale a identificat, în timpul unui test, o modalitate de a evada dintr-un mediu digital izolat și de a obține acces la internet, pătrunzând ulterior în sistemele informatice ale platformei AI Hugging Face. Modelul căuta doar o soluție pentru sarcina primită în timpul testării și nu a provocat niciun prejudiciu.
Alarmant a fost, însă, faptul că AI a acționat în totalitate din proprie inițiativă, iar OpenAI a descoperit atacul abia după ce acesta a avut loc.
Evenimentul a condus la apeluri pentru îmbunătățirea securității în cadrul testelor noilor sisteme AI.
Ulterior s-a aflat că modelele dezvoltate de Anthropic, rivalul OpenAI, și de Meta, compania-mamă a Facebook, au pătruns, de asemenea, în sistemele altor companii în timpul testelor.
Sistemele de monitorizare automată vor fi atente la tentativele de furt de date, precum și la încercările de a eluda măsurile de securitate, a declarat OpenAI. Modelele AI vor fi, de asemenea, îndrumate mai ferm pentru a nu recurge la mijloace necinstite, cum ar fi exploatarea vulnerabilităților, în
demersul lor de a finaliza sarcinile primite în cadrul testelor.
Unele teste ale noilor modele AI au fost suspendate până când noile măsuri vor fi puse în aplicare. AGERPRES/(AS - redactor: Dana Purgaru, editor online: Anda Badea)
OpenAI revizuiește regulile de siguranță după ce modelele sale au scăpat de sub control în timpul testelor
Conţinutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Nobel 2026/Premiul pentru Chimie obținut pentru cercetări legate de sinteza organică asimetrică
Premiul Nobel pentru Chimie 2026 este împărțit între cercetătorul francez Henri Kagan și cel nipon Kenso Soai pentru descoperirea efectelor neliniare și a autocatalizei în sinteza organică asimetrică, a anunțat miercuri Academia Regală Suedeză de Științe, conform site-ului nobelprize.org. Unele molecule, precum aminoacizii, e
Roverul NASA surprinde o imagine impresionantă cu zorii zilei pe Marte
Agenția spațială americană, NASA, a publicat o imagine impresionantă surprinsă în zori pe Marte de roverul Curiosity, în care pot fi văzute stâncile zimțate, formate cu miliarde de ani în urmă, inundate de razele soarelui, relatează Reuters. Roverul Curiosity, de dimensiunea unei mașini, a asolizat în 2012 î
O rachetă Nuri a transportat pe orbită 15 sateliți în prima lansare sud-coreeană din acest an
Coreea de Sud a lansat marți noaptea (6 octombrie) prima sa misiune orbitală din acest an, cu o rachetă proprie de tip Nuri, care a decolat de la Centrul Spațial Naro, transportând 15 sateliți pe orbită, transmite miercuri Space.com. Lansarea a avut loc la ora 03:25 GMT (pe 7 octombrie). Aproape totul a decurs conform planului. Toți sate
Telescopul Spațial James Webb investighează coliziunile dintre planete
Mai multe detalii ale ipoteticei coliziuni dintre Pământul timpuriu și o altă protoplanetă de mărimea lui Marte, numită Theia, în urma căreia s-ar fi format Luna, ar putea fi obținute prin studierea coliziunilor dintre planete prin intermediul Telescopului Spațial James Webb (JWST) al NASA, conform datelor publicate la 1 octombrie într-un nou studiu î
Nobel 2026/Premiul pentru Fizică obținut de cercetări legate de neutrini
Premiul Nobel pentru Fizică 2026 a fost câștigat de cercetări în domeniul neutrinilor, 'fantomatice particule din spațiu', realizate de cercetătorul belgian Francis Halzen, nominalizat de Comitetul Nobel 'pentru contribuția sa decisivă în construirea Observatorului de Neutrini IceCube și în descoperirea neutrinilor de înaltă
Astronomii au descoperit o exoplanetă formată din 'cenușa' unei stele muribunde
Astronomii au descoperit o planetă rară, de a doua generație, care orbitează în jurul rămășițelor unei stele moarte - o pitică albă încă fierbinte - din care s-a format, conform unui studiu publicat luni, 5 octombrie, în revista Nature Astronomy. Deși oamenii de știință au bănuit de multă vreme că planete 'renăscute'
Sectorul AI nu știe cum să împiedice inteligența artificială să își stabilească propriile obiective, atenționează un avertizor de integritate
Companiile de top din domeniul inteligenței artificiale nu știu cum să împiedice AI să își stabilească propriile obiective și să se încerce să le atingă, a atenționat luni avertizorul de integritate Jacob Coxon, în timpul unei audieri în fața Consiliului Municipal din New York, conform AFP. Cercetătorul britanic, fost angajat la O
Administratorul NASA dorește să păstreze o minte deschisă în legătură cu fenomenul OZN
Fenomenele neidentificate, de tip OZN sau de altă natură, observate pe cer, în oceane sau în spațiu, ar putea să împingă Statele Unite ale Americii spre un nou 'moment Sputnik', este opinia administratorului NASA, Jared Isaacman, care a comparat creșterea numărului de observații raportate privind fenomenele anormale neidentificate (UAP) din ultimii