ChatGPT mətnlərinə görünməz su nişanları əlavə ediləcək

OpenAI Avropa İttifaqının süni intellekt qanunvericiliyinin tələblərinə uyğun olaraq ChatGPT və Codex vasitəsilə yaradılan mətnlərə görünməz statistik işarələr əlavə etməyə hazırlaşır.

QHT.az xarici mediaya istinadən bildirir ki, Süni intellekt şirkəti OpenAI Avropa İttifaqının (Aİ) Süni İntellekt Aktının şəffaflıq tələblərinə uyğunlaşmaq məqsədilə yeni texnologiyanı tətbiq etməyə başlayacaq. Şirkətin bu addımı daha əvvəl oxşar texnologiyadan istifadə etməyə başlayan Anthropic-in təşəbbüsündən sonra gəlir.

OpenAI-nin açıqlamasına görə, yaxın həftələrdə Aİ ərazisində ChatGPT və Codex istifadəçilərinə təqdim olunan mətnlərə “textGrain” adlı görünməz statistik işarələr əlavə ediləcək. Qlobal miqyasda API müştəriləri isə müəyyən modellər üçün bu funksiyanı könüllü şəkildə aktivləşdirə biləcəklər. Funksiya API-də standart olaraq söndürülmüş vəziyyətdə qalacaq.

Mətnlərdəki dəyişikliklər aşkarlanmanı çətinləşdirir

“textGrain” texnologiyası modelin söz seçimlərinə insan gözü ilə seçilməyən statistik siqnallar yerləşdirir. Bununla belə, mətnə edilən dəyişikliklər sistemin aşkarlama imkanlarını zəiflədə bilər.

Şirkətin açıqladığı test nəticələrinə əsasən, yanlış müsbət nəticələrin 1 faiz səviyyəsində saxlanılması hədəfi ilə aparılan sınaqlarda psixologiya kimi söz seçiminin daha geniş olduğu sahələrdə 400 tokenlik mətnlər üçün aşkarlama göstəricisi 95 faizə çatıb. Mətnin uzunluğu 200 token olduqda isə bu göstərici təxminən 80 faizə enib.

Riyaziyyat kimi söz seçimlərinin məhdud olduğu sahələrdə aşkarlama nəticələrinin daha aşağı olduğu bildirilib.

Mətnin redaktə edilməsi də texnologiyanın effektivliyinə təsir göstərir. Belə ki, 400 tokenlik mətndə sözlərin 10 faizi sinonimləri ilə əvəz edildikdə aşkarlama göstəricisi 92 faizdən 66 faizə düşüb. Dəyişdirilən sözlərin payı 25 faizə çatdıqda isə bu göstərici 17 faizə qədər azalıb.

Aşkarlama aləti hələlik ictimaiyyətə açılmayacaq

OpenAI yanlış müsbət və yanlış mənfi nəticələrin yaranması ehtimalını, eləcə də texnologiyanın mövcud məhdudiyyətlərini nəzərə alaraq aşkarlama alətini birbaşa ictimaiyyətə təqdim etməyəcəyini açıqlayıb.

İlkin mərhələdə alətdən istifadə imkanı yalnız təsdiqlənmiş tədqiqatçılara və mütəxəssis təşkilatlara müraciət əsasında veriləcək. Bu yanaşmanın məqsədi texnologiyanı qiymətləndirmək və onun imkanlarını təkmilləşdirməkdir.

İstəsən, başlığı daha qısa və diqqətçəkən formada da hazırlaya bilərəm.