Startup-ul american de inteligență artificială (AI) Anthropic a anunțat joi că modelele sale au 'obținut acces neautorizat' la sistemele a trei organizații în timpul unor teste menite să împiedice accesul acestora la sisteme din 'lumea reală', relatează AFP și dpa.
Anunțul vine la doar câteva zile după ce rivalul Anthropic, OpenAI, a dezvăluit că două dintre modelele sale au ieșit din mediul controlat de testare, din proprie inițiativă, pentru a ataca site-ul Hugging Face.
Anthropic a analizat peste 141.000 de teste și a constatat că trei versiuni diferite ale modelului său Claude au pătruns în sistemele a trei organizații, ale căror nume nu au fost dezvăluite.
Spre deosebire de incidentul care a implicat OpenAI, modelele Anthropic au obținut acces la internet 'din cauza unei neînțelegeri între noi și partenerul nostru de evaluare', Irregular, a explicat compania în comunicat.
'În niciuna dintre aceste situații Claude nu a evadat și nici nu a încercat în mod deliberat să evadeze din mediul său de testare', a adăugat compania.
Printre modelele implicate s-a numărat și unul dintre cele mai puternice, Mythos 5, care a fost pus la dispoziția unui număr limitat de parteneri.
În prezent, Anthropic colaborează cu Irregular pentru a analiza situația și a contactat sau a încercat să contacteze cele trei organizații neprecizate.
OpenAI (creatorul ChatGPT), un concurent al Anthropic, a anunțat săptămâna trecută că modelele sale avansate de AI au lansat, din proprie inițiativă, un atac cibernetic asupra platformei Hugging Face în timpul unor teste de siguranță.
Șeful OpenAI, Sam Altman, a dezvăluit într-un podcast săptămâna aceasta că, după ce a aflat despre atac, compania și-a suspendat testele 'pentru a înțelege cum putem menține izolat spațiul nostru de testare'.
Incidentul a determinat, de asemenea, lansarea unei petiții semnate de peste o mie de angajați ai unor companii de top din domeniul inteligenței artificiale, prin care se cere guvernului SUA să ajute la 'încetinirea' lansării celor mai avansate modele de inteligență artificială. Între semnatarii petiției s-a numărat și Dario Amodei, șeful Anthropic.
Deși nu a semnat petiția, Sam Altman a recunoscut că 's-ar putea să fie nevoie să încetinim ritmul dezvoltării inteligenței artificiale pentru a oferi societății suficient timp pentru a face față acestor noi capabilități'.AGERPRES/(AS - redactor: Mihaela Toth, editor: Mariana Ionescu, editor online: Irina Giurgiu)
Anthropic dezvăluie că modelele sale AI au obținut acces neautorizat la sistemele altor organizații
Conţinutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Președinția UE propune reducerea cu 8% a bugetului Uniunii pentru 2028-2034
Președinția Uniunii Europene, asigurată semestrul acesta de Irlanda, a propus sâmbătă reducerea cu 8% a bugetului multianual al UE pe perioada 2028-2034, transmite Reuters. în urma reducerii de 141 de miliarde, ar rezulta astfel o valoare de circa 1600 de miliarde de euro, cu 30% mai mare decât b
Turcia interzice accesul în rețelele sociale până la vârsta de 15 ani
Turcia a interzis sâmbătă accesul în rețelele sociale până la vârsta de 15 ani, publicând în gazeta oficială o decizie în acest sens conform unei legi adoptate în aprilie de parlamentul de la Ankara, transmite AFP. Restricția va intra în vigoare la 1 noiembrie.
Liderul Partidului Gândacilor din India a fost arestat înaintea unui protest împotriva Comisiei Electorale
Poliția indiană l-a arestat sâmbătă pe Abhijeet Dipke, fondatorul Partidului Poporului Gândacilor (Cockroach Janta Party, CJP), înaintea unei manifestații neautorizate împotriva președintelui Comisiei Electorale din India, informează Reuters și AFP. CJP a difuzat în rețelele sociale m
Taiwanul își majorează cheltuielile militare fiindcă dorește pacea, susține președintele Lai Ching-te
Președintele taiwanez Lai Ching-te a afirmat sâmbătă că Taiwanul dorește pacea și tocmai de aceea a alocat o sumă record, echivalentă cu 34,5 miliarde de dolari americani sau peste 3% din produsul intern brut, pentru bugetul apărării pe 2027, informează AFP și Reuters. Taiwanul independent de facto și guvern
Trump cumpără motorină din Rusia, Zelenski îl acuză că îi face un cadou lui Putin
Președintele american Donald Trump a anunțat vineri că Rusia a acceptat să livreze motorină pe piața internațională, iar Statele Unite au suspendat temporar sancțiunile împotriva Moscovei pentru a permite tranzacțiile respective, transmite Reuters. Liderul de la Casa Albă a afirmat în media sociale că
Loviturile rusești ucid opt oameni, din care trei copii, în Zaporojie
Lovituri rusești asupra orașului Zaporojie din sud-estul Ucrainei au ucis sâmbătă dimineața opt oameni, din care trei copii, au anunțat autoritățile ucrainene citate de AFP. Ivan Fedorov, copreședinte al Consiliului de Apărare din regiunea Zaporojie, a adăugat că atacul s-a soldat și cu 16 răniți, iar 12 per
Cinci eurodeputați critică sancțiunile SUA împotriva CPI și cer ca UE să apere ferm dreptul internațional
'Sancțiunile SUA împotriva Curții Penale Internaționale sunt un atac inacceptabil asupra fundamentelor justiției internaționale', declară cinci eurodeputați care conduc comisii ale Parlamentului European, în urma anunțului de vineri al Statelor Unite privind intenția de a impune sancțiuni CPI. 'Luarea la țintă a Curții
ONU consideră 'inacceptabile' sancțiunile SUA împotriva CPI
înaltul Comisar al ONU pentru Drepturile Omului, Volker Türk, a declarat 'inacceptabile' sancțiunile anunțate vineri de Statele Unite împotriva Curții Penale Internaționale (CPI),