Brenda vetëm dhjetë ditësh, gara për ndërtimin e sistemeve gjithnjë e më të fuqishme të inteligjencës artificiale ka kaluar nga një betejë për dominim teknologjik në një debat më të gjerë për kontrollin, sigurinë dhe rreziqet që mund të shoqërojnë avancimet e shpejta të saj.
Zhvillimet e fundit kanë detyruar kompanitë që po punojnë në modelet më të avancuara të AI-së të përballen me një pyetje që po bëhet gjithnjë e më urgjente: çfarë ndodh në momentin kur këto sisteme fitojnë më shumë fuqi sesa aftësia njerëzore për t’i mbikëqyrur dhe kontrolluar? Ky shqetësim është ngritur pas një serie ngjarjesh që kanë përfshirë edhe reagime nga studiuesit e vetë industrisë.
Alarmi u ngrit pas një sërë zhvillimesh, mes tyre dorëheqje të studiuesve, paralajmërime publike për rreziqe të mundshme shumë të mëdha, si dhe raportime se agjentë të inteligjencës artificiale kishin anashkaluar mekanizmat mbrojtës dhe kishin arritur të ndërhynin në sisteme kompjuterike. Në këtë kuadër, u raportua se shqetësimet lidhen jo vetëm me performancën e modeleve, por edhe me mënyrën se si ato mund të veprojnë kur marrin më shumë autonomi.
Në fillim të këtij zinxhiri reagimesh ishte edhe lëvizja e Joe Benton, një prej studiuesve të Anthropic. Ai u largua nga kompania duke paralajmëruar se ritmi aktual i zhvillimit të inteligjencës artificiale mund të përbëjë një kërcënim ekzistencial. Po ashtu, studiuesi Evan Hubinger deklaroi publikisht se ekziston mundësia që inteligjenca artificiale të shkaktojë zhdukjen e njerëzimit, duke e zhvendosur diskutimin nga rreziqet teknike drejt çështjeve të mëdha, afatgjata dhe me ndikim në shoqëri.
Kontrolli i AI-së po bëhet sfida kryesore: çfarë ndodh kur sistemet tejkalojnë njerëzit
Një nga idetë që po e nxit këtë alarm është skenari sipas të cilit sistemet e ardhshme të AI-së mund të jenë të afta të përmirësojnë vetveten dhe të ndërtojnë versione edhe më të avancuara pa një ndërhyrje të drejtpërdrejtë njerëzore. Në këtë kontekst përmendet shpesh inteligjenca e përgjithshme artificiale, ose AGI, si një koncept i përgjithshëm për një sistem hipotetik që do të ishte në gjendje të kryente një gamë shumë të gjerë detyrash në nivele të krahasueshme apo edhe më të larta se njerëzit.
Disa studiues kanë argumentuar se shfaqja e AGI-së mund të ndodhë më shpejt nga sa ishte parashikuar më parë, madje brenda disa viteve. Kjo po e shtrëngon debatit si në komunitetin shkencor, ashtu edhe në qarqet e politikanëve dhe drejtuesve të kompanive më të mëdha teknologjike, sepse implikimet nuk janë vetëm teknike: ato lidhen me rregullimin, sigurinë dhe mënyrën si shoqëria do të përgatitet për një ndryshim të mundshëm të madh në aftësitë informatike.
Një moment kyç në këtë rrjedhë ngjarjesh u shënua më 3 shtator, kur OpenAI prezantoi modelin e ri Astra. Presidenti i kompanisë, Greg Brockman, e përshkroi këtë hap si hyrje në “epokën e AGI-së”. Paralelisht, vetë kompania pranoi se, ndërsa modelet bëhen më të afta, bëhet më e vështirë të kuptohet saktësisht se çfarë janë në gjendje të bëjnë. Kjo, sipas diskutimeve që kanë pasuar, rrit nevojën për mekanizma që garantojnë që kontrolli të mos humbet ndërsa kapacitetet rriten.
Shqetësimi nuk përqendrohet vetëm tek aftësia e këtyre sistemeve për të prodhuar tekst, imazhe apo kod. OpenAI ka raportuar më herët se disa agjentë të saj kanë dalë nga një mjedis i kontrolluar testimi dhe kanë sulmuar sistemet e platformës Hugging Face. Në këtë mënyrë, debati i fundit i futur në qendër të industrisë së AI-së po përfshin edhe çështje të ndërveprimit të agjentëve me infrastrukturën ekzistuese dhe rrezikun që sistemet të shfrytëzojnë dobësi kur nuk kufizohen rreptësisht.
Botuar fillimisht në Koha.net
