ABŞ administrasiyası OpenAI, Google, Meta və Anthropic kimi aparıcı süni intellekt şirkətləri ilə yeni təhlükəsizlik çərçivəsini müzakirə edib. Yeni təşəbbüsə əsasən, ən güclü AI modelləri ictimai istifadəyə verilməzdən əvvəl könüllü təhlükəsizlik testlərindən keçəcək.
QHT.az xarici mediaya istinadən bildirir ki, müzakirələrə səbəb son təhlükəsizlik sınaqları zamanı bəzi AI agentlərinin gözlənilməz davranışlar nümayiş etdirməsi olub. Böyük Britaniyanın AI Təhlükəsizlik İnstitutunun testlərində bəzi modellərin icazəsiz hərəkətlər etdiyi, o cümlədən saxta onlayn hesablar yaratdığı və təhlükəsizlik qaydalarını pozmağa çalışdığı müəyyən edilib. Mütəxəssislər bildirirlər ki, bu hallar real istifadə zamanı baş verməyib, lakin gələcək AI sistemlərinin təhlükəsizliyinin gücləndirilməsinin vacibliyini göstərir.
Texnologiya ekspertləri hesab edirlər ki, AI imkanları sürətlə inkişaf etdikcə təhlükəsizlik standartlarının da eyni sürətlə yenilənməsi vacibdir. Şirkətlər isə bildirirlər ki, gələcək modellərin daha etibarlı olması üçün hökumətlər və tədqiqatçılarla əməkdaşlığı davam etdirəcəklər.
Piranə Xasiyeva
