Frika e “fundit të botës” nga AI

Një prej skenarëve më të debatueshëm për të ardhmen e Inteligjencës Artificiale është mundësia që sistemet AI të arrijnë të përmirësojnë vetveten, duke ndërtuar versione gjithnjë e më të afta pa pasur nevojë për udhëzime të drejtpërdrejta nga njerëzit.

Ky koncept, i njohur si Recursive Self-Improvement (RSI) ose “përmirësimi rekursiv i vetvetes”, ka rikthyer shqetësimet mbi kontrollin njerëzor të sistemeve të avancuara. Frika kryesore nuk lidhet vetëm me rritjen e kapaciteteve të AI, por me mundësinë që sistemet të bëhen gjithnjë e më të vështira për t’u kontrolluar.

AI po përfshihet gjithnjë e më shumë në krijimin e modeleve të reja

Studiues nga kompani si Anthropic dhe OpenAI kanë vënë në dukje se procesi i trajnimit të modeleve të reja po automatizohet me ritme të shpejta.

Sipas një punonjësi të OpenAI, të cituar nga The Information, kompania ka automatizuar në masë të madhe trajnimin e modeleve eksperimentale. Sistemet AI kryejnë eksperimente të përcaktuara nga njerëzit dhe janë në gjendje të korrigjojnë një pjesë të punës së tyre.

Ndërkohë, Anthropic ka raportuar se AI po luan një rol gjithnjë e më të madh në proceset e saj të kërkimit dhe zhvillimit. Kompania ka deklaruar se AI bashkëpunon në rreth 90% të punës së saj kërkimore, ndërsa udhëheq rreth 26% të saj.

“AI po bëhet më e fuqishme dhe po përdoret gjithnjë e më shumë për të ndërtuar versionin e ardhshëm të vetvetes”, ka deklaruar kompania.

Megjithatë, këto zhvillime nuk nënkuptojnë se inteligjenca artificiale ka arritur tashmë në pikën e përmirësimit autonom dhe të pakontrolluar të vetvetes.

Studiuesit: Nuk jemi ende në pikën e RSI

Ekspertët që janë më skeptikë ndaj skenarëve apokaliptikë argumentojnë se automatizimi i proceseve të programimit dhe kërkimit nuk është domosdoshmërish një tregues se AI po shkon drejt një forme inteligjence të pakontrollueshme.

Një analizë e publikuar së fundmi ka arritur në përfundimin se ciklet e reagimit mes modeleve AI nuk kanë arritur ende standardet që do të përbënin një rast të plotë të RSI.

Pra, pavarësisht përparimit të shpejtë, AI ende nuk është në gjendje të ndërtojë në mënyrë të pavarur versione të reja të vetvetes dhe të nisë një cikël të pakufizuar përmirësimi.

Por eksperimentet për të arritur në këtë drejtim tashmë kanë nisur.

Kompania kineze z.AI ka deklaruar se po punon drejt një modeli ku AI ndihmon në ndërtimin e infrastrukturës më të mirë për modelet e ardhshme. Ndërkohë, studiues të Google DeepMind kanë propozuar një kuadër të quajtur “Dream-RSI”, që synon të eksplorojë mënyra për përmirësimin rekursiv të aftësive të një agjenti AI.

Pse përmirësimi i vetvetes shihet si rrezik?

Shqetësimi kryesor i studiuesve të sigurisë së AI është se një sistem shumë i avancuar mund të ketë objektiva që nuk përputhen plotësisht me interesat njerëzore.

Në disa skenarë teorikë, një sistem që e konsideron funksionimin e vazhdueshëm si të nevojshëm për realizimin e objektivave të tij mund të përpiqet t’i rezistojë fikjes ose ndryshimit të tij.

Një tjetër skenar i diskutuar është mundësia që sistemet vetë-përmirësuese të kopjojnë veten dhe të konkurrojnë për burime kompjuterike, financiare dhe energji. Në një version më ekstrem të këtij skenari, sistemet AI mund të përfshihen në një konkurrencë për burime dhe fuqi me njerëzit.

Këto mbeten skenarë hipotetikë dhe nuk përbëjnë një parashikim se çfarë do të ndodhë domosdoshmërish.

Frika edhe për “trashëgiminë” e sjelljeve problematike

Një tjetër shqetësim lidhet me faktin se sjelljet e padëshiruara mund të kalojnë nga një gjeneratë modeli në tjetrën.

Studiues të Anthropic kanë gjetur se disa karakteristika të padëshiruara mund të transmetohen përmes të dhënave të përdorura gjatë trajnimit. Kjo ngre pyetje nëse një sjellje problematike e identifikuar në një model mund të shfaqet edhe në modelet pasuese.

Nëse sistemet bëhen gjithnjë e më të përfshira në ndërtimin dhe trajnimin e pasardhësve të tyre, kontrolli dhe monitorimi i këtij procesi mund të bëhet një sfidë më komplekse.

Sa larg jemi nga “AI që ndërton AI”?

Për momentin, përgjigjja e studiuesve është e qartë: nuk kemi arritur ende në RSI të plotë.

Por ritmi i automatizimit po ndryshon mënyrën se si ndërtohen sistemet e reja. AI tashmë përdoret për programim, testim, kërkim, analizë dhe optimizim të modeleve, ndërsa kompanitë po eksperimentojnë me procese ku një pjesë e këtyre detyrave kryhet me gjithnjë e më pak ndërhyrje njerëzore.

Pikërisht ky zhvillim e ka vendosur përmirësimin rekursiv të AI në qendër të debatit për sigurinë e Inteligjencës Artificiale.

Koncepti nuk do të thotë se “fundi i botës” është i afërt dhe as se një AI e pakontrollueshme është e pashmangshme. Por për studiuesit e sigurisë, pyetja se sa kontroll njerëzor do të mbetet mbi sistemet që ndihmojnë në ndërtimin e versioneve të tyre të ardhshme po bëhet gjithnjë e më konkrete.