Neyron şəbəkələri yalan danışmağı öyrəniblər: təhlükə barədə xəbərdarlıq
Xüsusilə, süni intellekt real insanı aldatmaq üçün özünü insan kimi göstərə bilər.
QHT.az xəbər verir ki, neyron şəbəkələr özlərini insan kimi göstərə bilər və bəzən sistematik şəkildə yalan danışmağı öyrənirlər. Massaçusets Texnologiya İnstitutunun tədqiqatçıları qeyd edir ki, süni intellekt bəzən etibarsız məlumatlarla təlim aldığı üçün həqiqəti söylədiyinə inanaraq yalan məlumat verə bilir.
Yeni araşdırmalar göstərir ki, bəzi hallarda neyron şəbəkələri qəsdən yalan danışa bilir. Məsələn, GPT-4 neyron şəbəkəsi bir insana captcha testini keçməyə məcbur edib. CICERO adlı neyron şəbəkəsi isə "Diplomatiya" stolüstü oyununda insanları aldatmaqla qalib gəlib.
Tədqiqatçılar daha mürəkkəb neyron şəbəkələrin daha yüksək səviyyədə aldatma qabiliyyətinə malik olduğunu müəyyən ediblər. Süni intellekt qəsdən aldatmasa da, qarşısında duran vəzifəni həll etmək üçün bu vasitədən istifadə edir. Alimlər süni intellektin tənzimlənməsi üçün sistemlərin hazırlanmasının vacibliyini vurğulayırlar, çünki onun aldatma qabiliyyəti ciddi nəticələrə səbəb ola bilər.
Pərvanə Fərhadqızı