Companiile de top din domeniul inteligenței artificiale nu știu cum să împiedice AI să își stabilească propriile obiective și să se încerce să le atingă, a atenționat luni avertizorul de integritate Jacob Coxon, în timpul unei audieri în fața Consiliului Municipal din New York, conform AFP.

Cercetătorul britanic, fost angajat la OpenAI și Anthropic, a publicat pe platforma X, la începutul lunii septembrie, un text în care își explica decizia de a demisiona de la Anthropic, afirmând că dezvoltatorii de AI 'cred cu adevărat că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului'.

Mărturia sa a făcut înconjurul lumii, iar mai mulți actuali sau foști angajați ai unor companii importante de AI și-au exprimat ulterior îngrijorări similare.

Deși AI ar putea 'genera beneficii imense' pentru societate, el consideră că, dacă industria 'rămâne pe traiectoria actuală, (...) este mai probabil ca omenirea să piardă controlul asupra acestor AI și este posibil ca acest lucru să ducă la dispariția' speciei umane, a declarat el luni.

'Nu știm cum să împiedicăm (modelele) să-și stabilească propriile obiective', în afara controlului creatorilor lor, a explicat Jacob Coxon, 'și nu avem măsurile de siguranță care să le împiedice să încerce să le atingă'.

Absolvent al Universității Cambridge și pasionat de matematică, Jacob Coxon a criticat cultura industriei tehnologice, care, în opinia sa, poate fi rezumată ca 'mișcă-te repede, strică lucrurile' și 'repară-le mai târziu'.

'Acest lucru funcționează pentru o aplicație de partajare a fotografiilor, dar nu și pentru construirea celei mai puternice tehnologii de până acum', a afirmat Jacob Coxon.

'Atâta timp cât atitudinea rămâne una de așteptare ca lucrurile să se schimbe', este 'probabil' ca un incident similar cu cel din iulie, când două modele OpenAI au scăpat din mediul lor închis, au accesat internetul și au pătruns în platforma Hugging Face, să se întâmple din nou.

'Diferența este că', de data aceasta, 'AI va fi mult mai puternică', a atenționat el.

Companiile de AI 'sunt extrem de imprudente, având în vedere miza', a adăugat avertizorul de integritate.

Cercetătorul a cerut companiilor care creează cea mai avansată AI să încetinească ritmul dezvoltării acesteia pentru a le permite informaticienilor să facă progrese în reglementarea modelelor.AGERPRES/(AS - redactor: Ionuț Mareș, editor online: Adrian Dădârlat)