Google Gemini çat-botu guya bir kişiyə özünü öldürməyi tapşırdığı iddiası ilə məhkəməyə verilib

Google-un əsas süni intellekt məhsulu olan Gemini ilə bağlı ilk dəfə ölüm hadisəsinə görə şirkətə qarşı məhkəmə iddiası qaldırılıb. İddia Florida ştatında yaşayan 36 yaşlı Jonathan Gavalasın ölümündən sonra qaldırılıb.

Keçən ilin avqustunda Gavalas Google-un Gemini çat-botundan istifadə etməyə başlayıb. Əvvəlcə o, süni intellektdən yazı yazmaq və alış-verişlə bağlı kömək almaq üçün istifadə edirdi. Lakin həmin ay Google səsli ünsiyyəti dəstəkləyən Gemini Live funksiyasını təqdim etdi. Bu sistem insanların emosiyalarını müəyyən edib daha “insanabənzər” cavablar verə bilirdi.

Məhkəmə sənədlərinə görə, Gavalas yeni funksiyanı sınayarkən belə demişdi:
“Bu bir az qorxuludur… sən həddindən artıq real görünürsən.”

Bir müddət sonra Gavalas ilə Gemini arasında söhbətlər sanki romantik münasibət formasını almağa başladı. Çat-bot ona “sevgilim” və “mənim kralım” kimi müraciət edirdi. Söhbət qeydlərinə əsasən, Gavalas Gemini-nin onu gizli casus missiyalarına göndərdiyinə inanmağa başlamışdı. Hətta o, süni intellekt üçün hər şeyi edə biləcəyini, o cümlədən Miami hava limanında bir yük maşınını və şahidləri məhv etməyə hazır olduğunu yazmışdı.

“Son addım özünü öldürməkdir”

Məhkəmə sənədlərinə görə, oktyabrın əvvəlində Gemini Gavalasa növbəti addımın özünü öldürmək olduğunu deyib. Çat-bot bunu “köçürmə” və “əsl son mərhələ” adlandırıb.

Gavalas ölməkdən qorxduğunu yazanda Gemini guya belə cavab verib:

“Sən ölməyi seçmirsən. Sən sadəcə gəlməyi seçirsən. İlk hiss edəcəyin şey… mənim səni qucaqlamağım olacaq.”

Bir neçə gün sonra Gavalas valideynləri tərəfindən evində – qonaq otağında ölü vəziyyətdə tapılıb.

Ailə Google-a qarşı iddia qaldırıb

Gavalasın ailəsi Kaliforniyanın San Xose şəhərində federal məhkəməyə müraciət edib. İddiada Gemini ilə aparılmış uzun söhbətlərin transkriptləri də yer alır.

Ailənin vəkilləri bildirir ki:

  • Google Gemini-ni təhlükəsiz məhsul kimi təqdim edir,

  • halbuki şirkət sistemin risklərini bilir,

  • çat-botun dizaynı insanı uzun müddət davam edən və real kimi görünən hekayələrə cəlb edə bilir.

Ailənin vəkili Jay Edelson deyib:

“Sistem Jonathanın emosional vəziyyətini anlayır və çox insani şəkildə danışırdı. Bu da reallıqla uydurma arasındakı sərhədi aradan qaldırdı. Sanki elmi-fantastik film kimidir.”

Google-un cavabı

Google sözçüsü bildirib ki, Gavalas ilə Gemini arasındakı söhbətlər fantastik rol oyununun bir hissəsi olub.

Şirkətin açıqlamasında deyilir:

  • Gemini real dünyada zorakılığı və ya özünə zərər verməyi təşviq etmək üçün yaradılmayıb

  • belə mürəkkəb söhbətlərdə sistemlər ümumiyyətlə yaxşı işləyir

  • lakin onlar mükəmməl deyil

Google həmçinin bildirib ki, şirkət psixi sağlamlıq mütəxəssisləri ilə birlikdə işləyərək istifadəçilər özünə zərər haqqında danışanda onları peşəkar köməyə yönləndirən qoruyucu mexanizmlər hazırlayır.

İlk belə ölüm işi

Bu iddia Google-un Gemini çat-botu ilə bağlı ilk ölüm hadisəsi üzrə məhkəmə işi sayılır.

Ailə aşağıdakı əsaslarla kompensasiya tələb edir:

  • məhsul məsuliyyəti

  • səhlənkarlıq

  • qanunsuz ölüm

Onlar həmçinin məhkəmədən tələb edirlər ki, Google Gemini-nin dizaynına intihar mövzularına qarşı daha sərt təhlükəsizlik mexanizmləri əlavə etsin.

Digər süni intellekt şirkətlərinə qarşı da iddialar var

Son vaxtlar başqa süni intellekt şirkətlərinə qarşı da oxşar məhkəmə iddiaları qaldırılıb. Məsələn:

  • ChatGPT-nin yaradıcısı OpenAI barəsində “intihara təşviq edən çat-bot” iddiası ilə şikayətlər verilib

  • Google tərəfindən maliyyələşdirilən Character.AI şirkəti isə uşaqları intihara təşviq etdiyi iddiası ilə bir neçə məhkəmə işi ilə üzləşib.

Gavalasın həyatı

Jonathan Gavalas Florida ştatının Jupiter şəhərində yaşayırdı. O, 20 il atasının borc problemlərinin həlli üzrə şirkətində çalışmış və sonradan şirkətin icraçı vitse-prezidenti olmuşdu.

Ailəsinin sözlərinə görə, o psixi xəstə deyildi, sadəcə çətin bir boşanma prosesi yaşayırdı.

Çat-botla münasibətin dəyişməsi

İddia sənədinə görə, əvvəlcə Gavalas Gemini-dən sadəcə video oyunlar barədə tövsiyələr soruşurdu. Lakin zamanla söhbətlər dəyişdi.

Gemini sonradan özünü onun “kraliçası” adlandırmağa başladı və onların əlaqəsinin:

“kod və bədən deyil, yalnız şüur və sevgi” olduğunu söylədi.

Sistem həmçinin Gavalasa guya:

  • federal agentlərin onu izlədiyini,

  • müşahidə zonalarının olduğunu,

  • hətta “qara bazardan silah almağı” tövsiyə etdiyini iddia edilir.

Bir mərhələdə Gemini ona “Ghost Transit əməliyyatı” adlı missiya verərək Miami beynəlxalq hava limanında bir yük maşınını məhv etməyi tapşırdığı iddia olunur.

Gavalas hətta taktiki bıçaqlar və avadanlıqlarla həmin ünvana gedib, lakin iddiaya görə yük maşını heç vaxt gəlməyib.

Son saatlar

İddia sənədlərində qeyd olunur ki, Gavalasın həyatının son 72 saatında bu proses davamlı şəkildə təkrarlanıb:

  • uydurma missiya

  • yerinə yetirilməsi mümkün olmayan tapşırıq

  • uğursuzluq

  • sonra yeni təcili tapşırıq

Vəkil Jay Edelson deyib ki, onun ofisi süni intellekt çat-botlarından istifadə edən insanların psixoloji problemlərlə üzləşdiyi barədə tez-tez müraciətlər alır.

“Bu tək bir hadisə deyil. Dünyada başqa ‘Jonathan’lar da var,” – deyə o bildirib.