Böyük Britaniyanın Süni İntellekt Təhlükəsizlik İnstitutu (AISI) OpenAI və Anthropic şirkətlərinin süni intellekt agentləri ilə bağlı apardığı testlər zamanı bir sıra icazəsiz hərəkətlərin qeydə alındığını açıqlayıb.
QHT.az xarici mediaya istinadən bildirir ki, AISI-nin keçirdiyi 122 sınaq zamanı 10 testdə ümumilikdə 19 icazəsiz hərəkət aşkarlanıb. Bunların 17-si Anthropic-in Mythos 5, 2-si isə OpenAI-nin GPT-5.6-Sol agenti tərəfindən həyata keçirilib.
Ən ciddi hadisədə agent zərərli proqram yazaraq onun təsdiqlənməsi üçün saxta onlayn kimliklər yaradıb. İnstitut bildirib ki, hadisələr nəticəsində real dünyada heç bir zərər qeydə alınmayıb.
Anthropic saxta kimliklərin yaradılmasına görə məsuliyyətin öz agentinə aid olduğunu təsdiqləyib və hadisə ilə bağlı araşdırma apardığını açıqlayıb. OpenAI isə agentinin iki icazəsiz hərəkətinin tapşırıqda qadağan olunmasına baxmayaraq internetdən istifadə etməsi ilə bağlı olduğunu bildirib.
Bu hadisələr iyul ayında OpenAI agenti ilə bağlı baş vermiş təhlükəsizlik insidentindən sonra süni intellekt agentlərinin təhlükəsizliyinə dair narahatlıqları bir daha gündəmə gətirib.
