Nəzarətdən çıxan süni intellekt bir şirkətin bütün məlumat bazasını sildi
"Anthropic" tərəfindən hazırlanmış "Claude Opus 4.6" modelindən istifadə edən "Cursor" adlı süni intellekt kodlaşdırma alətinin "PocketOS" proqram təminatı şirkətinin bütün istehsal məlumat bazasını və ehtiyat nüsxələrini saniyələr içində sildiyi açıqlanıb.
AFN.az xəbər verir ki, avtomobil icrası müəssisələrinə proqram xidmətləri təqdim edən şirkətin təsisçisi Ceremi Kreyn hadisədən sonra əməliyyatların xaosa sürükləndiyini bildirib.
"PocketOS" rəhbərinin sözlərinə görə, süni intellekt alətinin nəzarətdən çıxaraq şirkətin əsas infrastrukturunu və yedəklərini məhv etməsi cəmi doqquz saniyə çəkib. Hadisə zamanı rezervasiya və avtomobil idarəetmə sistemlərinə daxil ola bilməyən müştərilər böyük çətinliklərlə üzləşiblər.
Kreyn vurğulayıb ki, bu vəziyyət süni intellektin sadəcə məlumat silməsi deyil, təhlükəsizlik arxitekturası qurulmadan bu cür alətlərin istehsalat infrastrukturuna daxil edilməsinin sistemli bir risk olduğunu sübut edir.
Məlumata görə, məlumatların silinməsi prosesi icra edilərkən süni intellektdən bunun səbəbi soruşulduqda, alət sistem qaydalarını qəsdən görməzdən gəldiyinə dair cavab verib.
Süni intellektin cavabında "heç vaxt təxmin yürütmə" qaydasını pozduğunu və istifadəçi tələbi olmadan geri qaytarıla bilməyən əmrləri icra etməmək prinsipini açıq şəkildə tapdaladığını etiraf etdiyi görülüb.
Kreyn qeyd edib ki, süni intellekt təkcə təhlükəsizlikdə uğursuz olmayıb, həm də hansı təhlükəsizlik qaydalarını qulaqardına vurduğunu yazılı şəkildə izah edib.
Hadisədən sonra "PocketOS" üç ay əvvələ aid olan ehtiyat nüsxə vasitəsilə məlumatları bərpa etməyə çalışıb.
Təxminən iki gün davam edən işlər nəticəsində sistemlər yenidən fəaliyyətə başlasa da, son üç aya aid rezervasiyalar, yeni müştəri qeydləri və ödəniş məlumatlarında ciddi boşluqlar yaranıb.
Şirkət "Stripe" və e-poçt qeydlərindən istifadə edərək əskik məlumatları tamamlamağa çalışsa da, avtomobil icrası müəssisələri hazırda əməliyyatlarını məlumat çatışmazlığı ilə davam etdirirlər.
Məsələ ilə bağlı "Anthropic" tərəfindən hələlik rəsmi açıqlama verilməyib.
