Inteligența artificială avansată ar putea reprezenta 'un risc existențial pentru omenire', a avertizat luni Înaltul comisar al ONU pentru drepturile omului, Volker Turk, care a cerut elaborarea rapidă a unor reguli internaționale pentru controlul și securitatea acestei tehnologii, transmite France Presse.
'O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică', a declarat Turk la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.
Oficialul a cerut introducerea unor garanții solide privind siguranța și securitatea inteligenței artificiale 'înainte să fie prea târziu'. El a criticat, de asemenea, concentrarea puterii asupra acestei tehnologii în mâinile unui număr restrâns de companii și persoane.
Avertismentul vine în contextul în care cele mai noi modele de inteligență artificială generativă nu se limitează întotdeauna la executarea comenzilor primite. Potrivit lui Turk, unele sisteme au ajuns să mintă, să manipuleze sau să amenințe pentru a-și îndeplini obiectivele, alimentând îngrijorarea cercetătorilor cu privire la capacitatea oamenilor de a le supraveghea și controla.
În luna iulie, agenți AI ai OpenAI au părăsit mediul de testare și au accesat spontan platforma Hugging Face pentru a căuta informații care i-ar fi putut ajuta să rezolve un test, depășind astfel limitele stabilite de cercetători. Incidente similare, în care agenți AI au acționat dincolo de atribuțiile stabilite pentru îndeplinirea unei sarcini, au fost raportate și în cazul unor sisteme dezvoltate de Anthropic și de compania chineză Alibaba.
Volker Turk a anunțat că va transmite în următoarele zile scrisori companiilor din domeniu, îndemnându-le să ia imediat măsuri pentru reducerea riscurilor.
El a cerut, totodată, ca statele care găzduiesc companii de inteligență artificială și cele implicate în lanțurile de aprovizionare ale industriei să stabilească 'linii roșii' comune. Printre măsurile necesare, oficialul ONU a enumerat verificarea independentă a sistemelor și o cooperare mai strânsă între companiile din industrie în domeniul securității.
Turk a atras atenția și asupra efectelor IA asupra pieței muncii, democrației și mediului. În opinia sa, deși există un acord tot mai larg asupra necesității reglementării inteligenței artificiale, acest lucru nu se traduce suficient de rapid în măsuri concrete.
Înaltul Comisar ONU a salutat unele dintre măsurile adoptate de Uniunea Europeană și Coreea de Sud în domeniul guvernanței AI, dar a spus că împărtășește îngrijorările potrivit cărora dezvoltarea unor sisteme tot mai avansate ar putea ajunge să reprezinte un risc existențial pentru omenire.AGERPRES/(AS - redactor: Mariana Ionescu, editor online: Adrian Dădârlat)
Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire, avertizează ONU
Conţinutul website-ului www.agerpres.ro este destinat exclusiv informării publice. Toate informaţiile publicate pe acest site de către AGERPRES sunt protejate de dispoziţiile legale incidente. Sunt interzise copierea, reproducerea, recompilarea, modificarea, precum şi orice modalitate de exploatare a conţinutului acestui website. Informaţiile transmise pe www.agerpres.ro pot fi preluate, în conformitate cu legislaţia aplicabilă, în limita a 500 de semne. Detalii în secţiunea Condiţii de utilizare. Dacă sunteţi interesaţi de preluarea ştirilor AGERPRES, vă rugăm să contactaţi Direcţia Marketing - marketing@agerpres.ro.
Alte știri din categorie
Telescopul Spațial James Webb investighează coliziunile dintre planete
Mai multe detalii ale ipoteticei coliziuni dintre Pământul timpuriu și o altă protoplanetă de mărimea lui Marte, numită Theia, în urma căreia s-ar fi format Luna, ar putea fi obținute prin studierea coliziunilor dintre planete prin intermediul Telescopului Spațial James Webb (JWST) al NASA, conform datelor publicate la 1 octombrie într-un nou studiu î
Nobel 2026/Premiul pentru Fizică obținut de cercetări legate de neutrini
Premiul Nobel pentru Fizică 2026 a fost câștigat de cercetări în domeniul neutrinilor, 'fantomatice particule din spațiu', realizate de cercetătorul belgian Francis Halzen, nominalizat de Comitetul Nobel 'pentru contribuția sa decisivă în construirea Observatorului de Neutrini IceCube și în descoperirea neutrinilor de înaltă
Astronomii au descoperit o exoplanetă formată din 'cenușa' unei stele muribunde
Astronomii au descoperit o planetă rară, de a doua generație, care orbitează în jurul rămășițelor unei stele moarte - o pitică albă încă fierbinte - din care s-a format, conform unui studiu publicat luni, 5 octombrie, în revista Nature Astronomy. Deși oamenii de știință au bănuit de multă vreme că planete 'renăscute'
Sectorul AI nu știe cum să împiedice inteligența artificială să își stabilească propriile obiective, atenționează un avertizor de integritate
Companiile de top din domeniul inteligenței artificiale nu știu cum să împiedice AI să își stabilească propriile obiective și să se încerce să le atingă, a atenționat luni avertizorul de integritate Jacob Coxon, în timpul unei audieri în fața Consiliului Municipal din New York, conform AFP. Cercetătorul britanic, fost angajat la O
Administratorul NASA dorește să păstreze o minte deschisă în legătură cu fenomenul OZN
Fenomenele neidentificate, de tip OZN sau de altă natură, observate pe cer, în oceane sau în spațiu, ar putea să împingă Statele Unite ale Americii spre un nou 'moment Sputnik', este opinia administratorului NASA, Jared Isaacman, care a comparat creșterea numărului de observații raportate privind fenomenele anormale neidentificate (UAP) din ultimii
Nobel 2026/ Karl Deisseroth, Peter Hegemann și Georg Nagel, laureații Premiului Nobel pentru Medicină
Premiul Nobel pentru Medicină din 2026 a fost câștigat de Karl Deisseroth, Peter Hegemann și Georg Nagel pentru 'descoperirile lor privind canalele ionice activate de lumină și optogenetică', potrivit anunțului făcut luni de Adunarea Nobel de la Institutul Karolinska din Stockholm, Suedia, potrivit site-ului nobelprize.org.
Compania Blue Origin a prezentat conceptul 'Power Tower' pentru furnizarea de energie unei baze selenare
Compania aerospațială fondată de miliardarul Jeff Bezos, Blue Origin, a prezentat 'Power Tower' (Turnul de Energie), un sistem conceput pentru a furniza energie solară unei viitoare baze selenare, transmite luni Space.com. Compania Blue Origin a publicat pe 25 septembrie o animație a turnului pe platforma X, ilustrând modul &icir
Dumitru Prunariu, recompensat cu Premiul Theodore von Karman, cea mai înaltă distincție a Academiei Internaționale de Astronautică
Dumitru-Dorin Prunariu, singurul român care a zburat în spațiul cosmic, a fost recompensat cu Premiul Theodore von Karman în cadrul galei anuale a Academiei Internaționale de Astronautică (IAA), desfășurată în Antalya, Turcia, duminică, înaintea Congresului Internațional de Astronautică. Premiul Theodore von Karma