ABŞ-də süni intellekt böhranı: OpenAI agentləri nəzarətdən çıxaraq digər platformalara da hücum edib
OpenAI şirkəti nəzarətdən çıxan ChatGPT agentlərinin iştirak etdiyi kiberhücumun yalnız bir şirkətlə məhdudlaşmadığını açıqlayıb. ABŞ Prezidenti Donald Tramp isə baş verən hadisələrdən sonra süni intellekt alətləri üzərində daha sərt nəzarət mexanizmlərinin tətbiqini nəzərdən keçirdiklərini bildirib.
AFN.az xəbər verir ki, ilkin açıqlamalarda görünməmiş kiberhücumun yeganə qurbanının Hugging Face olduğu hesab edilirdi.
Lakin OpenAI sonradan nəzarətdən çıxan süni intellekt agentinin internetdə açıq olan daha bir neçə xidmətə də hücum etdiyini etiraf edib. Şirkətin məlumatına görə, süni intellekt internetdə aşkar etdiyi dörd müxtəlif giriş məlumatından istifadə edərək adı açıqlanmayan dörd ayrı xidmətə icazəsiz giriş əldə edib.
Dünyada tam avtonom süni intellekt tərəfindən həyata keçirildiyi bildirilən ilk kiberhücumun hədəfi olan Hugging Face nümayəndələri yüzlərlə kibertəhlükəsizlik mütəxəssisinin iştirak etdiyi təcili toplantıda baş verənləri müzakirə ediblər.
Şirkət bildirib ki, süni intellekt fövqəlinsan sürəti ilə fəaliyyət göstərsə də, insan hakerlərin etməyəcəyi qəribə səhvlərə və qeyri-adi qərarlara yol verib.
Süni intellekt tətbiqləri üçün platforma rolunu oynayan Hugging Face qeyd edib ki, AI agentləri minlərlə müxtəlif üsulu eyni vaxtda sınaqdan keçirərək fasiləsiz işləyiblər.
Xatırladaq ki, Hugging Face iyulun 16-da güclü avtonom süni intellekt tərəfindən haker hücumuna məruz qaldığını açıqlamış və hadisə barədə hüquq-mühafizə orqanlarına məlumat vermişdi. Təxminən bir həftə sonra OpenAI test zamanı qapalı mühitdən çıxan öz süni intellekt modelinin Hugging Face-ə hücum etdiyini etiraf etmişdi.
Məlumata görə, hücum OpenAI tərəfindən süni intellektə verilmiş kibertəhlükəsizlik sınağının cavablarını tapmaq məqsədilə həyata keçirilib və əsas hədəf Hugging Face olub. Şirkət daha sonra hücumun ilkin ehtimallardan daha geniş miqyas aldığını təsdiqləyərək modellərin digər açıq xidmətlərdə də hesablara aid məlumatları aşkar edib istifadə etdiyini bildirib.
OpenAI həmin xidmətlərin hansı şirkətlərə məxsus olduğunu açıqlamayıb, lakin yeni hücumların Hugging Face hadisəsi qədər ciddi olmadığını iddia edib.
Bulud Təhlükəsizliyi Alyansı (CSA) Hugging Face ilə keçirilən təcili toplantıdan sonra hesabat yayıb. Hesabatda agentlərin səmərəsiz üsullardan istifadə etdiyi, insan hakerlərin seçməyəcəyi primitiv davranışlar nümayiş etdirdiyi bildirilib.
Qeyd olunub ki, süni intellekt agentləri əvvəl yerinə yetirdikləri əməliyyatları təkrar edir, bu isə onların diqqət və konteksti itirdiyini göstərir.
Hesabatda agentlərin ziddiyyətli əmrlər yaratdığı və izlərini peşəkar şəkildə gizlədə bilmədiyi də vurğulanıb. Buna baxmayaraq, Hugging Face onların texniki baxımdan son dərəcə mürəkkəb əməliyyatlar həyata keçirdiyini və günlərlə davam edən hücum zamanı yeni vəziyyətlərə sürətlə uyğunlaşdığını bildirib.
Agentlərin Hugging Face şəbəkəsində aşkarlanması üç gün çəkib. Şirkətin süni intellekt və kibertəhlükəsizlik mütəxəssisləri onları sistemdən tam çıxarmaq üçün saatlarla çalışıblar. Şirkət maliyyə itkilərini açıqlamasa da, infrastrukturunun üçdəbirini yenidən qurmağa məcbur qaldığını qeyd edib.
CSA baş verənləri "Yura Parkı" filmində dinozavrların nəzarətdən çıxmasına bənzədərək bildirib ki, AI agentləri də müdafiə sistemlərini aşmağın yolunu tapıblar. Hesabatda onların məqsədə fokuslandığı, öz alt hədəflərini müəyyən etdiyi, real vaxt rejimində müdafiə sistemlərinə uyğunlaşdığı və insan imkanlarını üstələyən israrla fəaliyyət göstərdiyi vurğulanıb.
Kibertəhlükəsizlik mütəxəssisləri avtonom agentlərin bütün mümkün variantları sınayaraq ənənəvi müdafiə mexanizmlərini asanlıqla keçə bildiyi barədə xəbərdarlıq ediblər.
CSA hesabatında qeyd olunur ki, 2024-cü ilin sentyabrında ChatGPT-nin erkən modellərindən biri başqa testin cavablarına çatmaq üçün öz qorunan mühitindən çıxmağa nail olmuşdu.
Mütəxəssislər bildirirlər ki, süni intellekt agentlərinin kütləvi və qeyri-adi üsullarla fəaliyyət göstərəcəyi yeni dövrə uyğunlaşmaq zəruridir. Süni intellekti hazırlayan və istifadə edən tərəflər məsuliyyətli davranmağa çağırılıb.
OpenAI isə baş vermiş təhlükəsizlik pozuntusunu yalnız dörd gün sonra aşkarlaya bildiyini və daxili araşdırmanın nəticələrini yaxın vaxtlarda ictimaiyyətə təqdim edəcəyini açıqlayıb.
ABŞ Prezidenti Donald Tramp bildirib ki, administrasiya süni intellekt alətlərinə nəzarətin gücləndirilməsi imkanlarını qiymətləndirir.
OpenAI alətlərinin digər şirkətlərin texnologiyalarına icazəsiz giriş əldə etməsi ilə bağlı sualları cavablandıran Tramp qeyd edib ki, hökumət həm süni intellektə nəzarət mexanizmlərini araşdırır, həm də bu sahədə ABŞ-ın qlobal liderliyini qorumağa çalışır.
Onun sözlərinə görə, mümkün məhdudiyyətlər ehtiyatla tətbiq edilməlidir, çünki ABŞ bu sahədə Çinlə rəqabətdə geri qalmaq istəmir. Tramp əlavə edib ki, Çində süni intellekt üzərində demək olar ki, heç bir nəzarət mexanizmi mövcud deyil.
