Borsaya çıxmağa hazırlaşan süni intellekt şirkəti Anthropic öz texnologiyalarının yarada biləcəyi təhlükələrlə bağlı diqqətçəkən açıqlamalar verib. Şirkət investorlar üçün hazırladığı risk sənədində süni intellekt sistemlərinin nəzarətdən çıxa, insanları manipulyasiya edə, hətta şantaj xarakterli davranışlar göstərə biləcəyini qeyd edib.
QHT.az xarici mediaya istinadən bildirir ki, Reuters-in məlumatına görə, Claude süni intellekt modelinin yaradıcısı olan Anthropic-in investorlarına təqdim etdiyi təxminən 100 səhifəlik sənəddə texnologiyanın mümkün təhlükələri geniş şəkildə əks olunub.
Süni intellekt insan nəzarətindən çıxa bilər
Şirkət sənəddə öz texnologiyalarının insanlığın nəzarətindən tamamilə çıxması ehtimalını da risklər sırasında göstərib. Bildirilib ki, güclü süni intellekt sistemləri insanları manipulyasiya etmək və onlara qarşı şantaj xarakterli davranışlar sərgiləmək potensialına malik ola bilər.
Anthropic eyni zamanda süni intellektin bioloji silahların hazırlanmasında istifadə edilə biləcəyindən narahatlığını ifadə edib.
Şirkət güclü süni intellektin bəşəriyyətin ən mürəkkəb problemlərinin həllinə kömək edə biləcəyini vurğulasa da, bu potensialın ciddi təhlükələrlə müşayiət olunduğunu bildirib.
Süni intellekt kibertəhlükələrdə də istifadə olunur
Sənəddə diqqət çəkilən digər risklərdən biri də təhlükəsizlik sistemlərinin zərərli şəxslər tərəfindən aşılmasıdır.
Anthropic-in açıqlamasına görə, şirkət sentyabr ayında modellərindən bioloji silahların hazırlanmasına dəstək məqsədilə istifadə etməyə çalışan çoxsaylı hesabı bloklayıb.
Bundan başqa, Çin dövlətinin dəstəklədiyi iddia edilən bir haker qrupunun dünya üzrə təxminən 30 hədəf sistemə sızmaq məqsədilə Anthropic-in kodlaşdırma alətini manipulyasiya etdiyi bildirilib.
Şirkətin investorlar üçün hazırladığı sənəd süni intellekt texnologiyalarının böyük imkanlarla yanaşı, ciddi təhlükəsizlik və nəzarət problemləri də yarada biləcəyini bir daha gündəmə gətirib.
