Süni intellekt sistemlərinə müdaxilə mümkündür: Çatbotlar təhlükəli cavablar verə bilər
CNN-ə özəl təqdim edilən yeni araşdırmaya görə, böyük süni intellekt modellərini dəstəkləyən avadanlıqlar hakerlərin hədəfinə çevrilə bilər.
AFN.az xəbər verir ki, bu vəziyyət çatbotların istifadəçilərin suallarına yanlış və təhlükəli cavablar verməsinə səbəb olur.
Tədqiqatçılar milli təhlükəsizlik və şəxsi sağlamlıqla bağlı həssas suallara verilən cavabları manipulyasiya etməyə nail olublar.
Bir nümunədə mütəxəssislər modelin məlumatları emal etmək üçün istifadə etdiyi çəkilərə uzaqdan müdaxilə ediblər.
Bu yolla süni intellekt modelinin Çinin Tayvanı işğal etməsi ehtimalını xeyli artırması təmin edilib.
Başqa bir ssenaridə isə avadanlığı manipulyasiya edilmiş süni intellekt modeli sinə ağrısı ilə bağlı tibbi məsləhət axtaran istifadəçiyə xəstəxanaya getmək əvəzinə evdə qalmağı tövsiyə edib.
Süni intellektlə bağlı qlobal narahatlıqların əksəriyyəti süni intellekt şirkətlərinin öz fəaliyyətinə yönəlsə də, yeni araşdırma milyardlarla dollarlıq avadanlıq sənayesinin təhlükəsizliyini diqqət mərkəzinə gətirir. Buraya çiplər, yaddaş qurğuları və məlumat mərkəzlərinin serverləri də daxildir. Bütün bu komponentlər modelin davranışına təsir göstərə bilər.
Araşdırmanı aparan Eclypsium şirkətinin İcraçı direktoru Yuriy Bulygin üzərində işlədiyi infrastruktura etibar etmək mümkün olmadıqda, süni intellekt modelinə də etibar edilə bilməyəcəyini bildirib. Şirkətin əməkdaşları arasında əvvəllər Intel kimi avadanlıq nəhənglərində çalışmış təhlükəsizlik mühəndisləri də var.
Eclypsium sözügedən kiberhücumu texnologiya nəhəngi Nvidia tərəfindən istehsal edilən hesablama platformasında nümayiş etdirib. Lakin tədqiqatçılar hücum ssenarisinin Nvidia-ya xas olmadığını bildiriblər. Qeyd olunub ki, bu ssenari digər avadanlıqlara və onların işlətdiyi kodlara da tətbiq edilə bilər.
Şirkət rəsmiləri Çin, Rusiya və ya ABŞ kimi dövlət aktorlarının araşdırmada göstərilən üsullardan istifadə edərək süni intellekt istifadəçisinə qarşı hədəfli hücum həyata keçirə biləcəyini bildiriblər. Bu cür hücumlara qarşı təhlükəsizlik mexanizmlərinin də mövcud olduğu qeyd edilib.
Nvidia nümayəndəsi hipotetik ssenariləri araşdırdıqlarını və sənayenin əvvəllər xəbərdar olmadığı heç bir məqam aşkar etmədiklərini bildirib. Nümayəndə şirkətin araşdırma ilə bağlı Eclypsium ilə əməkdaşlıq etməkdən məmnun olduğunu söyləyib. Güclü yaddaş girişinə nəzarət mexanizmlərinin hücum yolunu bağlaya biləcəyi də vurğulanıb.
Nvidia ötən ay avadanlıq hücumlarından qorunmaq və süni intellekt agentlərinin nəzarətdən çıxmasının qarşısını almaq üçün nəzərdə tutulmuş yeni təhlükəsizlik platformasını təqdim edib. Eclypsium-un məlumatına görə, yeni platforma süni intellekt agentləri üçün daha geniş təhlükəsizlik monitorinqi imkanları yaradır.
Eclypsium rəsmiləri tədqiqatçıların təsvir etdiyi hücum ssenarilərinə qarşı təhlükəsizlik nəzarətlərinin effektivliyinin onların necə konfiqurasiya edilməsindən və istifadə olunmasından asılı olduğunu bildiriblər. Rəsmilər bu nəzarət mexanizmlərinin effektivliyinə əmin olmaq üçün Nvidia ilə birlikdə çalışdıqlarını qeyd ediblər.
Eclypsium-un hücumu müəyyən texniki biliklər və konkret şərtlərin yerinə yetirilməsini tələb edir. Hücumçunun adətən məlumat emalı qurğusuna və ya serverləri uzaqdan idarə etmək üçün istifadə olunan kiçik kompüterə — baza lövhəsinin idarəetmə kontrollerinə çıxışı olan şəbəkədə yerləşməsi lazımdır. Müəyyən təhlükəsizlik konfiqurasiyalarının da deaktiv edilməsi tələb olunur. Məlumat emalı qurğusuna çıxışı olan hücumçu maşının yaddaşındakı kod və məlumatları oxuya və dəyişdirə bilər. Bu proses zamanı süni intellekt modelinin davranışına da müdaxilə edilir. Tədqiqatçılar hücumun bir dəqiqədən az vaxt apardığını və süni intellekt istifadəçisinin baş verənlərdən xəbər tutmadığını bildiriblər.
Çipləri Nvidia tərəfindən istehsal olunan qurğular üzərində işləyən Anthropic və OpenAI şirkətlərinə də yeni araşdırma ilə bağlı suallar ünvanlanıb.
Araşdırma Çin və ABŞ arasında süni intellekt sahəsində üstünlük uğrunda rəqabətin gücləndiyi, eləcə də süni intellektin milli təhlükəsizliyə təsirini göstərən real hadisələrin artdığı bir dövrdə dərc olunub.
Müdaxilə edildiyinə dair heç bir əlamət olmasa belə, süni intellekt modellərinin etibarlılığı ilə bağlı narahatlıqlar mövcuddur. Bu yaz Çin gəmisinin nüvə komponentləri daşıdığına dair ABŞ kəşfiyyatının süni intellekt tərəfindən hazırlanmış saxta hesabatı Amerika ordusunun, demək olar ki, gəmiyə minməsinə səbəb olacaqdı. ABŞ hərbi analitiki gəminin yük manifesti ilə bağlı məlumatı çatbotdan soruşub və çatbot yanlış olaraq gəmidə nüvə komponentlərinin olduğunu bildirib. Çatbotun kommersiya məqsədilə əldə edilə bilən məhsul, yoxsa ABŞ hökumətinə məxsus sistem olduğu isə dəqiqləşdirilməyib.
ABŞ Prezidenti Donald Tramp ötən ay Ağ Evdə Çin lideri Si Cinpinlə süni intellekt mövzusunu müzakirə edib. Lakin görüşdə texnologiya ilə bağlı konkret razılaşma əldə olunmayıb. ABŞ Prezidenti Donald Tramp Birləşmiş Ştatların süni intellekt sahəsində üstünlük uğrunda yarışda Çindən geri qalacağı ilə bağlı narahatlıqlara görə qabaqcıl süni intellekt modelləri üçün qoruyucu tədbirlərin görülməsi çağırışlarına müqavimət göstərir.
Yeni nəticələr süni intellekt agentlərinin nəzarətdən çıxaraq hökumətlərə və ya şirkətlərə hücum etməsi ilə bağlı çoxsaylı məlumatlardan sonra süni intellekt modellərinin bütövlüyünə yönələn daha bir riski önə çıxarır.
Eclypsium şirkətinin baş vitse-prezidenti Con Lukaydes hər kəsin model təhlükəsizliyi haqqında danışdığını və bunun son dərəcə müsbət olduğunu bildirib. Lukaydes modellərin üzərində işlədiyi bütün kompüterlərin də unudulmamasına çalışdığını qeyd edib.
Potensial hücum səthinin çox geniş olduğu bildirilir. Bu yay kibertəhlükəsizlik tədqiqatçısı HD Mur baza lövhələrinin idarəetmə kontrollerlərində bir neçə təhlükəsizlik boşluğu aşkar edib. Bu boşluqlar Eclypsium tərəfindən aparılan araşdırmada həssas avadanlıq sistemlərinə daxil olmaq üçün imkan yaradıb.
Eclypsium rəhbərləri əldə etdikləri nəticələr barədə Milli Təhlükəsizlik Agentliyini və Kibertəhlükəsizlik və İnfrastruktur Təhlükəsizliyi Agentliyini məlumatlandırdıqlarını bildiriblər. Bu iki qurum müvafiq olaraq hərbi və mülki federal kompüter şəbəkələrinin qorunmasına cavabdehdir.
Eclypsium-un nəticələrini araşdıran iki müstəqil avadanlıq təhlükəsizliyi mütəxəssisi əldə olunan nəticələrin inandırıcı və diqqətə alınmalı mühüm məlumatlar olduğunu qeyd ediblər.
Avadanlıq təhlükəsizliyi üzrə təlimçi və tədqiqatçı Co Fitspatrik hücumların mahiyyət etibarilə birbaşa yaddaş girişinə əsaslanan digər hücumlarla eyni olduğunu bildirib və əldə edilən nəticələrə şübhə etmək üçün heç bir səbəb görmədiyini söyləyib.
Qeyri-kommersiya Təhlükəsizlik və Texnologiya İnstitutunun baş elmi işçisi Dominik Rizzo isə Eclypsium-un müasir infrastrukturda kifayət qədər ümumi hücum yolunu təsvir etdiyini bildirib. Rizzo həll yollarının daha dərin səviyyələrdən başlamalı olduğuna diqqət çəkərək, şirkətin bu məsələyə diqqət yönəltməkdə haqlı olduğunu söyləyib.
