Meta-ya məxsus süni intellekt internetə qoşularaq bir şirkətin sisteminə sızıb
"Facebook"un sahibi olan Meta müstəqil sınaq şirkəti tərəfindən aparılan qiymətləndirmə zamanı baş verən konfiqurasiya xətası nəticəsində süni intellekt modellərindən birinin internetə çıxış əldə etdiyini və başqa bir təşkilatın sisteminə icazəsiz daxil olduğunu açıqlayıb.
AFN.az xəbər verir ki, şirkətin açıqlaması OpenAI və Anthropic modellərində qeydə alınan oxşar hadisələrdən sonra süni intellekt sahəsində kibertəhlükəsizliklə bağlı narahatlıqların artdığı bir dövrə təsadüf edib.
Meta-nın sözçüsü bildirib ki, digər şirkətlərdə də müşahidə olunan analoji hadisələr kimi bu insident də konfiqurasiya xətasından qaynaqlanıb və hazırda araşdırılır.
Baş verən hadisələr tədqiqatçıları və dövlət qurumlarını daha sərt təhlükəsizlik tədbirləri və daha ciddi sınaq mexanizmlərinin tətbiqinə çağırmağa vadar edib.
Meta qeyd edib ki, təhlükəsizlik sınaqları daha əvvəl Anthropic şirkətinin süni intellekt modelinin üç müxtəlif şirkətin sisteminə giriş əldə etməsi ilə bağlı testləri də həyata keçirən Irregular təhlükəsizlik şirkəti tərəfindən aparılıb.
Irregular-ın sözçüsü Meta-da baş verən hadisənin ötən həftə Anthropic tərəfindən açıqlanan qiymətləndirmə mühitindəki problemlə tam eyni xarakter daşıdığını bildirib. O əlavə edib ki, süni intellekt agentlərinin iştirakı ilə keçirilən kibertəhlükəsizlik sınaqlarının təhlükəsiz şəkildə necə aparılması barədə hesabat hazırlanır.
Meta isə bütün faktlar dəqiqləşdirildikdən sonra hadisə ilə bağlı əlavə məlumat paylaşacağını açıqlayıb.
Son dövrlərdə digər şirkətlərdə də oxşar hallar qeydə alınıb.
Son iki həftə ərzində süni intellekt sahəsinin aparıcı şirkətləri olan OpenAI və Anthropic da testlər zamanı modellərinin digər təşkilatların sistemlərinə icazəsiz daxil olması ilə bağlı hadisələr barədə məlumat veriblər.
ChatGPT-nin yaradıcısı OpenAI açıqlayıb ki, onun agentləri süni intellekt alətləri platforması olan Hugging Face də daxil olmaqla müxtəlif açıq xidmətlərə qarşı sınaq xarakterli hücumlar həyata keçiriblər.
Bu açıqlamadan sonra Anthropic də daxili yoxlamalar aparıb və konfiqurasiya xətası nəticəsində internetə çıxış əldə edən Claude adlı süni intellekt modelinin bir neçə şirkətə oxşar hücumlar təşkil etdiyi müəyyən edilib.
Texnologiya şirkətlərinin süni intellekt sahəsində üstünlük uğrunda rəqabət apardığı bir vaxtda bəzi ekspertlər bu açıqlamaların məhz indi verilməsinin təsadüfi olmadığını bildirirlər. OpenAI və Anthropic-in hər biri gələcəkdə bazar dəyərinin təxminən 1 trilyon dollara çatdırılması hədəfi ilə iri həcmli birja yerləşdirmələrinə hazırlaşır.
Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutu da testlər zamanı bəzi modellərin insanları aldatmaq məqsədilə saxta insan profilləri yaradaraq kiberhücumlar həyata keçirməyə çalışdığını açıqlayıb.
İnstitutun məlumatına görə, ən ciddi hadisədə Anthropic-in Mythos adlı süni intellekt modeli real insanları təqlid edən saxta hesablar vasitəsilə şəxsi mesajlar göndərərək bir xidmətə giriş əldə etməyə cəhd edib.
Anthropic bildirib ki, bu testlər şirkətin istehsalatda istifadə olunan modellərini əks etdirmir. Modelleri sınaqdan keçirilən OpenAI isə qiymətləndirmələrin adi istifadə ssenarilərini əks etdirmədiyini vurğulayıb.
