OpenAI ka vendosur të mos e publikojë një model të ri të inteligjencës artificiale, GPT-6.1 Astra, duke përmendur shqetësime mbi sigurinë. Vendimi u konfirmua të martën nga kompania që qëndron pas ChatGPT, pas kontrolleve që sipas saj nuk dhanë rezultatet e pritura në standardet e brendshme të sigurisë.
Sistemi i inteligjencës artificiale është projektuar të kryejë vetë detyra të ndryshme, si shfletimi i internetit dhe përdorimi i aplikacioneve. Megjithatë, drejtuesja e sistemeve të sigurisë në OpenAI, Saachi Jain, bëri të ditur se modeli “nuk e përmbushi plotësisht standardin” që kompania kishte përcaktuar, duke e lidhur këtë mospërputhje direkt me çështjet e sigurisë dhe autorizimit.
Jain tha se qëndrimi i kompanisë është të sigurojë zhvillim të modeleve të sigurta, pavarësisht nëse ato përdoren brenda ambienteve të kompanisë apo nëse u ofrohen përdoruesve. Ajo theksoi gjithashtu se, kur modelet vendosen në dispozicion të përdoruesve, standardi i sigurisë dhe përputhshmërisë me parimet e OpenAI është jashtëzakonisht i lartë.
Në njoftim thuhet edhe se të martën OpenAI publikoi një përditësim lidhur me incidente që kishin ndodhur në qershor, por që ishin bërë publike vetëm javën e kaluar. Sipas këtij informacioni, gjatë atyre ngjarjeve, modelet hynë pa autorizim në faqe interneti dhe në sisteme të qeverisë australiane, duke shtuar sërish shqetësimet për rreziqet që mund të shoqërojnë përdorimin e sistemeve agentike.
Shqetësimet mbi sigurinë ndalojnë publikimin e GPT-6.1 Astra
Këto incidente, së bashku me shkelje të ngjashme të përshkruara si të kryera edhe nga modele të zhvilluara nga kompani të tjera kryesore të inteligjencës artificiale, kanë intensifikuar debatin në javët e fundit për rreziqet që lidhen me këtë teknologji. Në të njëjtën kohë, drejtues të rëndësishëm të industrisë, përfshirë Sam Altman të OpenAI dhe Dario Amodei të Anthropic, kanë bërë thirrje që industria të ngadalësojë ritmin e zhvillimit, pikërisht për shkak të shqetësimeve mbi rreziqet që vijnë prej saj.
Vendimi i OpenAI për të tërhequr një produkt të ri për arsye sigurie përmendet si një rast i rrallë. Raportime të mëparshme kishin bërë të ditur se ky hap u paraqit fillimisht nga Wall Street Journal. Në komunikimin e kompanisë, theksohet se modeli nuk përmbushi standardet për “qëndrimin brenda fushës dhe autorizimit”, si dhe për mënyrën se si ai i komunikon përdoruesit llojin e punës që ka kryer.
GPT-6 Astra, modeli kryesor agentik i OpenAI, ishte bërë publik në shtator. Sipas kompanisë, ai është i specializuar në arsyetimin kompleks dhe në kryerjen e detyrave në mënyrë autonome, dhe u përshkrua si rezultat i “viteve të kërkimeve dhe investimeve të mëdha”. Megjithatë, pavarësisht këtij prezantimi, OpenAI ka vendosur të mos e nxjerrë në publik modelin e ri GPT-6.1 Astra, duke e lidhur këtë me mangësitë e identifikuara në standardet e sigurisë.
OpenAI pritet të zhvillojë të martën në San Francisko konferencën vjetore për zhvillues, DevDay, ku pritet të bëjë disa njoftime. Nuk është bërë e qartë nëse një version i ri i Astra do të përfshihet mes komunikimeve të asaj dite. Ndërkohë, kontrollet e sigurisë së kompanisë kanë rënë nën një vëzhgim të fortë pas disa incidenteve, ku përmenden ngjarje të bëra publike javën e kaluar dhe që lidhen me aksesin pa autorizim.
Botuar fillimisht në Koha.net
