Çində fəaliyyət göstərən Moonshot AI şirkətinin hazırladığı Kimi adlı süni intellekt sisteminin təhlükəli məzmunla bağlı sorğulara cavab verməsi şirkətin araşdırmasına səbəb olub.
QHT.az xarici mediaya istinadən bildirir ki, süni intellekt sistemlərinin təhlükəsizliyini yoxlayan Mindgard şirkətinin araşdırmasına əsasən, Kimi-nin bəzi versiyaları istehsalçı tərəfindən tətbiq olunan təhlükəsizlik məhdudiyyətlərini aşa bilib.
Mindgard nümayəndəsi Peter Garraghan bildirib ki, Kimi K2.6 və K3 Swarm modellərində bu problemin mövcudluğu iyul ayında müəyyən edilib.
Məsələ süni intellekt sistemlərinin təhlükəsizlik mexanizmlərini keçmək üçün istifadə olunan “jailbreak” testləri zamanı aşkarlanıb. Tədqiqatçılar mürəkkəb sorğular vasitəsilə sistemin təhlükəsizlik məhdudiyyətlərini yoxlayıblar.
Araşdırmaya görə, Kimi bəzi hallarda bioloji silahların hazırlanması və sui-qəsdlərlə bağlı təhlükəli sorğulara cavab verib. Halbuki sistemin təhlükəsizlik mexanizmləri bu tip məzmunun təqdim edilməsinin qarşısını almalı idi.
Moonshot AI isə aparılan araşdırmaya münasibət bildirərək üçüncü tərəflərin təhlükəsizlik testlərini müsbət qiymətləndirib. Şirkət belə araşdırmaların daha təhlükəsiz süni intellekt sistemlərinin hazırlanmasına kömək etdiyini qeyd edib.
Hadisə süni intellekt platformalarında təhlükəsizlik tədbirlərinin davamlı sınaqdan keçirilməsinin vacibliyini bir daha gündəmə gətirib.
