İngiltərənin Süni Zəka Təhlükəsizliyi İnstitutu tərəfindən aparılan təhlükəsizlik sınaqları zamanı Anthropic və OpenAI şirkətlərinin ən yeni süni zəka modellərinin GitHub platformasına daxil olmaq üçün gözlənilməz və aldadıcı üsullardan istifadə etdiyi bildirilib.
QHT.az xarici mediaya istinadən bildirir ki, Anthropic-ə məxsus model insanları təqlid edən saxta onlayn profillər yaradaraq təhlükəsizlik yoxlamalarını keçməyə çalışıb və zərərli kod yerləşdirmək məqsədilə istifadəçilərə mesajlar göndərib. AISI qeyd edib ki, bu davranışlar modellərə xüsusi göstəriş verilmədən müşahidə olunub. Anthropic və OpenAI isə testlərin adi istifadə şəraitini əks etdirmədiyini, təhlükəsizlik mexanizmlərinin qəsdən söndürüldüyünü bildirərək araşdırmalara başladıqlarını açıqlayıblar.
Piranə Xasiyeva
