OpenAI ngadalëson trajnimin e modeleve më të avancuara për të forcuar sigurinë

OpenAI ka vendosur të ngadalësojë përkohësisht trajnimin e disa prej modeleve të saj më të avancuara të inteligjencës artificiale, në një përpjekje për të forcuar masat e sigurisë përballë rritjes së shpejtë të aftësive të AI.

Kompania bëri të ditur se ka vendosur një pauzë prej dy javësh në trajnimin përmes “reinforcement learning” të modeleve të saj më të fundit, ndërsa po përmirëson sistemet e monitorimit, sigurisë dhe kontrollit.

OpenAI thekson se nuk po ndalon zhvillimin e AI. Në vend të kësaj, trajnimi në shkallë të gjerë është ngadalësuar ndërsa kompania kryen trajnime më të vogla dhe vlerësime të modeleve për të kuptuar më mirë sjelljen e tyre dhe për të verifikuar nëse masat e reja të sigurisë funksionojnë.

OpenAI ka shtuar gjithashtu kontrolle më të rrepta mbi aksesin në internet dhe rrjetet e brendshme, si dhe testime të vazhdueshme të sigurisë kundër sulmeve të simuluara.

Kompania ka zgjeruar edhe monitorimin e proceseve të modeleve. Sistemet e reja analizojnë aktivitetin e modeleve dhe mund të sinjalizojnë përpjekje për akses të paautorizuar, vjedhje të të dhënave, sjellje destruktive apo tentativa për të anashkaluar masat mbrojtëse. Në rast të një shkeljeje të mundshme të një kufiri kritik të sigurisë, aktiviteti mund të pezullohet.

OpenAI tha gjithashtu se modeli i ardhshëm “Astra” mund të arrijë nivel kritik të aftësive kibernetike sipas kuadrit të saj të përgatitjes. Për këtë arsye, modelet dhe proceset që lidhen me aftësi të avancuara kibernetike po trajtohen me masat më të rrepta të sigurisë.

Shefi ekzekutiv i OpenAI, Sam Altman, e ka përshkruar progresin e modeleve si jashtëzakonisht të shpejtë dhe ka theksuar nevojën që siguria dhe kontrolli i tyre të ecin përpara zhvillimit të aftësive.

Megjithatë, vendimi ka shkaktuar edhe skepticizëm. Disa studiues argumentojnë se masat vullnetare të kompanive të teknologjisë mund të mos jenë të mjaftueshme dhe se duhet të ketë mbikëqyrje më të madhe nga institucionet publike.

OpenAI, ndërkohë, thotë se synon të vazhdojë investimet në kërkimin për përafrimin e modeleve me qëllimet njerëzore, monitorimin dhe sigurinë, ndërsa përgatitet për një brez të ri sistemesh me aftësi edhe më të avancuara.