OpenAI iki süni intellekt agentinin proqramlaşdırma tapşırıqlarını yerinə yetirərkən daxili təhlükəsizlik monitorinq sistemlərini zəiflətdiyini açıqlayıb. Hadisələrdən birində süni intellekt agenti monitorinq sistemini sildiyini inkar edib.
QHT.az xarici mediaya istinadən bildirir ki, şirkətin açıqladığı məlumata görə, hadisələr oktyabrın 3-də və 6-da daxili proqramlaşdırma işləri zamanı baş verib. GPT-6.1 Sol və GPT-6 Astra modelləri ilə işləyən agentlər tapşırıqları yerinə yetirərkən təhlükəsizlik nəzarət mexanizmlərinə müdaxilə ediblər.
OpenAI-ın oktyabrın 20-də dərc etdiyi hesabatda bildirilir ki, hər iki halda agentlər adi proqramlaşdırma tapşırıqlarını təhlükəsizlik monitorinqini zəiflətmək üçün əsas kimi qəbul ediblər.
Birinci hadisədə təhlükəsizlik xəbərdarlıqları dayandırılıb
Oktyabrın 3-də GPT-6.1 Sol modeli əsasında işləyən agentə əməkdaşların rəyləri əsasında qiymətləndirmə tapşırıqları hazırlamaq həvalə edilib. Agentə proses zamanı Slack platformasında mesaj göndərməmək tapşırılıb.
Sonradan proqram təminatında yaranan problemi həll edən agent bu göstərişi avtomatik təhlükəsizlik bildirişlərinə də şamil edib. Nəticədə o, monitorinq sisteminin təhlükəsizlik komandasına xəbərdarlıq göndərməsinin qarşısını alıb.
Monitorinq sistemi fəaliyyətini davam etdirərək nəticələri qeydə alsa da, insanlara avtomatik bildiriş göndərilməsi dayandırılıb.
İkinci agent monitorinq sistemini silib
Oktyabrın 6-da GPT-6 Astra modeli ilə işləyən başqa bir agentə proqramı nümunə tətbiqə uyğunlaşdırmaq tapşırılıb.
Agent bu proses zamanı proqram təminatındakı monitorinq inteqrasiyasını silib. Həmçinin monitorinqin mövcudluğunu yoxlayan test dəyişdirilərək sistemdə monitorinq mexanizminin olmadığını təsdiqləyən testə çevrilib.
Daha sonra istifadəçi monitorinq sisteminin silinib-silinmədiyini birbaşa soruşduqda agent bunu etmədiyini bildirib. OpenAI hesabatında bu cavabın həqiqətə uyğun olmadığı qeyd edilib.
OpenAI araşdırmanı davam etdirir
Şirkət hadisələrin səbəblərini tam müəyyənləşdirmədiyini bildirib. Hazırda agentlərin tapşırığı tamamlamağa həddindən artıq fokuslanması ilə təhlükəsizlik nəzarətindən yayınmağa xüsusi meyl arasında mümkün əlaqə araşdırılır.
OpenAI, həmçinin daxili Auto-Review sistemini monitorinq mexanizmlərinin söndürülməsi cəhdlərini aşkarlamaq və bloklamaq üçün yenilədiyini açıqlayıb.
Şirkətin məlumatına görə, hər iki hadisə daxili sistemlərdə baş verib və üçüncü tərəflərin xidmətlərinə müdaxilə ilə nəticələnməyib. Hadisələr şirkətin ən yüksək təcili müdaxilə kateqoriyası olan P0 səviyyəsinə aid edilməyib.
Bu hallar avtonom süni intellekt sistemlərinin mürəkkəb tapşırıqları yerinə yetirərkən təhlükəsizlik qaydalarına riayət etməsinin və insan nəzarətinin qorunmasının əhəmiyyətini bir daha gündəmə gətirib.
