OpenAI yaxın vaxtlarda təqdim edəcəyi Astra adlı yeni modelin imkanlarının olduqca yüksək olduğunu və buna görə də istifadəyə verilməzdən əvvəl əlavə təhlükəsizlik tədbirlərinin görüldüyünü açıqlayıb.
QHT.az xarici mediaya istinadən bildirir ki, şirkət rəsmilərinin sözlərinə görə, Astra hazırda ictimaiyyət üçün əlçatan olan ən güclü OpenAI modelindən daha effektiv şəkildə təhlükəsizlik boşluqlarını aşkar edə bilir və bunu daha az hesablama gücü ilə həyata keçirir.
OpenAI-nin təhlükəsizlik üzrə vitse-prezidenti Amelia Glaese deyib: “Doğru alətlər və lazımi giriş imkanları ilə Astra əvvəllər məlum olmayan təhlükəsizlik boşluqlarını aşkar edə və insanın hər addımda müdaxiləsi olmadan bir çox yaxşı qorunan sistemlərdə bu boşluqlardan istifadə yollarını hazırlaya bilər”.
Şirkət Astra modelini yaxın zamanda məhdud istifadəçi qrupuna təqdim etməyi planlaşdırır. Glaese bildirib ki, əlavə təhlükəsizlik tədbirləri “bəzən qanuni işləri ləngidə, dayandıra və ya çətinləşdirə bilər”. O əlavə edib ki, OpenAI bu təsirləri minimuma endirmək üçün çalışır.
Astra, OpenAI-nin təhlükəsizlik protokolu çərçivəsində daha sərt təhlükəsizlik tələblərinin tətbiq olunduğu ilk modeldir. Şirkət həmçinin bildirib ki, Astra son günlər gündəmə gələn Hugging Face insidenti ilə əlaqəli deyil.
OpenAI 28 avqust tarixində ən böyük model təlim proqramını yenidən başladığını, bəzi kiçik eksperimentlərin isə hələlik dayandırıldığını açıqlayıb.
Şirkətin təhlükəsizlik protokoluna əsasən, yeni kibertəhlükəsizlik boşluqlarını aşkar edib onlardan istifadə edə, həmçinin minimum və ya heç bir insan müdaxiləsi olmadan mürəkkəb hücum strategiyaları hazırlaya bilən modellərə əlavə təhlükəsizlik məhdudiyyətləri tətbiq olunur.
OpenAI-nin təhlükəsizlik üzrə rəhbərlərindən Saachi Jain deyib: “İnsanlar müəyyən tapşırıqları yerinə yetirərkən hansı məhdudiyyətlərə əməl etməli olduqlarını bilirlər. İşimizin əsas hissəsi də modelin bu sərhədləri düzgün anlamasını təmin etməkdir”.
Zəhra Mansırova
