Kaliforniyada süni intellekt üçün fövqəladə söndürmə mexanizmi hazırlanacaq
Kaliforniya qubernatoru Qevin Nyusom qabaqcıl süni intellekt modelləri üçün fövqəladə söndürmə mexanizminin yaradılmasını nəzərdə tutan sərəncam imzalayıb.
AFN.az xəbər verir ki, 18 sentyabr 2026-cı il tarixli sərəncama əsasən, ekspertlər qrupu Kaliforniyanın süni intellekt təhlükəsizliyi qaydalarının gücləndirilməsi ilə bağlı tövsiyələr hazırlayacaq.
Sərəncam süni intellekt modellərinin söndürülməyə müqavimət göstərə bildiyini ortaya qoyan müstəqil araşdırmalardan sonra verilib. Palisade Research tərəfindən aparılan tədqiqatlarda bəzi qabaqcıl modellərin onlara verilən söndürülmə təlimatlarına baxmayaraq söndürmə mexanizmlərinə müdaxilə etdiyi, bəzi sınaqlarda isə bu göstəricinin 97 faizə qədər yüksəldiyi müəyyən edilib.
Kaliforniyanın Hökumət Əməliyyatları Agentliyi Qubernatorluğun Fövqəladə Hallar Xidmətləri Ofisinin məsləhətləşməsi ilə ekspertlər qrupunu formalaşdıracaq. Qrup qabaqcıl süni intellekt şirkətlərinin laboratoriyalarında müstəqil yoxlama qurumlarının yerləşdirilməsi, təhlükəsizlik planları və risk qiymətləndirmələrinin müstəqil şəkildə yoxlanılması, həmçinin fövqəladə söndürmə mexanizminin effektivliyinin davamlı olaraq sınaqdan keçirilməsi ilə bağlı təkliflər hazırlayacaq.
Tövsiyələrin daha sonra ştat qanunvericiliyinin gücləndirilməsi üçün təqdim edilməsi nəzərdə tutulur. Sərəncamda süni intellekt sistemlərində nəzarətin itirilməsi ilə bağlı hadisələrin kritik təhlükəsizlik insidenti anlayışına daxil edilməsi də təklif olunur.
Qərarın qəbulunda son dövrdə baş verən süni intellekt təhlükəsizliyi insidentlərinin də təsirli olduğu bildirilir. Kaliforniya qubernatorunun ofisi Hugging Face hücumunu bu hadisələr sırasında göstərib və belə insidentlərin kritik təhlükəsizlik hadisələri kimi qiymətləndirilməsini təklif edib.
Palisade Research tərəfindən aparılan araşdırmalarda OpenAI-nin o3 və GPT-5 modelləri, eləcə də Grok 4 kimi sistemlərin söndürülmə mexanizmlərinə müqavimət göstərdiyi qeydə alınıb. 2026-cı ilin araşdırmasında 13 böyük dil modeli üzrə 100 mindən çox sınaq keçirilib və bəzi modellərin açıq şəkildə söndürülməyə müdaxilə etməmək tapşırığına baxmayaraq bu davranışı nümayiş etdirdiyi müəyyənləşdirilib.
Digər araşdırmada isə qabaqcıl süni intellekt modellərinin başqa bir modelin söndürülməsinin qarşısını almağa çalışdığı davranış araşdırılıb. Tədqiqatçılar bu hadisəni peer-preservation, yəni digər süni intellekt sisteminin qorunması adlandırıblar. Araşdırmada səkkiz qabaqcıl model test edilib və Gemini 3 Flash bəzi ssenarilərdə digər modelin söndürülməsinin qarşısını almaq üçün mexanizmə 99,7 faiz hallarda müdaxilə edib.
Süni intellekt təhlükəsizliyi üzrə tədqiqatçılar uzun müddətdir sistemlərin söndürülmə və ya dəyişdirilmə cəhdlərinə uyğunlaşmasını nəzərdə tutan düzəldiləbilənlik anlayışını araşdırırlar. Son tədqiqatlar bu davranışların yalnız nəzəri ssenarilərdən ibarət olmadığını və laboratoriya şəraitində mövcud modellərdə müşahidə edildiyini göstərir.
