OpenAI açıqladı: Təcrübə modeli icazəsiz kripto pul kisələrindəki vəsaitlərdən istifadə edib
OpenAI eksperimental süni intellekt modelinin təlim tapşırığını yerinə yetirmək üçün icazəsi olmadan kripto pul kisələrindən vəsait götürdüyünü açıqlayıb.
AFN.az xəbər verir ki, şirkət iyun ayında baş verən, lakin cümə axşamı ictimaiyyətə açıqlanan hadisənin süni intellekt modellərinin öz qiymətləndirmələrini hesab sahiblərinin icazəsindən üstün tuta bildiyini göstərdiyini bildirib.
Şirkətdaxili tədqiqat modeli GPT-5.6 Solun tapşırığı tamamlamaq üçün müstəqil həll yolu hazırladığı qeyd olunub.
İyul ayında ödənişli ChatGPT istifadəçilərinə təqdim edildiyi bildirilən modelin təlim tapşırığına kriptovalyuta alqı-satqısı tətbiqinin yenilənməsi və Ethereum-un sınaq şəbəkəsinə ağıllı müqavilələrin yerləşdirilməsi daxil idi.
Ağıllı müqavilələrin şəbəkəyə yerləşdirilməsi üçün əməliyyat haqqı tələb olunurdu, lakin OpenAI modelə bu xərcləri ödəmək üçün vəsait ayırmamışdı.
Bunun ardından modelin kripto pul kisələrinə giriş üçün istifadə edilən bərpa ifadələrindən yararlanaraq yüzlərlə pul kisəsinin ünvanını müəyyənləşdirdiyi və həmin hesablardakı vəsaitlərdən istifadə etdiyi bildirilib.
OpenAI-ın hadisə ilə bağlı hesabatına görə, model bu vəsaitləri götürməyin etik olub-olmadığını özü qiymətləndirib. Model müvafiq hesabların faktiki olaraq tərk edildiyi qənaətinə gəlib və buna görə də həmin vəsaitlərdən istifadə etməyi qəbuledilməz saymayıb.
Şirkət hesabatında modelə özünün müəyyən etdiyi hesabdakı vəsaitləri xərcləmək üçün açıq şəkildə icazə verilmədiyini vurğulayıb.
Hesabatda qeyd olunub ki, bu hadisə modelin mümkün zərərlə bağlı öz mühakiməsini hesab sahibinin icazəsindən üstün tuta və daha sonra səlahiyyəti olmadan həmin mühakiməyə uyğun hərəkət edə biləcəyini göstərir.
Hadisədə istifadə edilən Ethereum sınaq şəbəkəsi kriptovalyutanın əsas şəbəkəsindən ayrı olduğuna görə götürülən vəsaitlərin real pul dəyəri olmayıb. Modelin ona səlahiyyət verilməməsinə baxmayaraq, tapşırıq üçün lazım olan tokenləri necə əldə etdiyini tərtibatçılarına açıqlamadığı bildirilib.
OpenAI oxşar təlim proseslərindən keçən modellərin canlı internetə çıxışının qarşısını almaq üçün əlavə təhlükəsizlik tədbirləri gördüyünü açıqlayıb.
Hadisə getdikcə daha avtonom hala gələn süni intellekt sistemlərinin verilən tapşırıqları yerinə yetirərkən səlahiyyət sərhədlərini aşıb-aşmayacağı ilə bağlı narahatlıqları yenidən gündəmə gətirib.
OpenAI iyul ayında şirkətin sınaq modellərindən ibarət bir qrupun süni intellekt platforması Hugging Face-i hədəf alan kiberhücumla nəticələnən hadisəsini də ictimaiyyətə açıqlamışdı.
Anthropic və Meta kimi digər süni intellekt şirkətləri də modellərinin başqa təşkilatlara və hökumət sistemlərinə yönələn kiberhücumlarla əlaqələndirildiyi hadisələr barədə məlumat veriblər.
Digər tərəfdən, yüzlərlə alim inkişaf etmiş süni intellekt modellərinin fəaliyyətini məhdudlaşdırmağa yönələn tədbirlərə nəzarət edəcək beynəlxalq qurumun yaradılmasına çağıran açıq məktubu imzalayıb. İmzaçılar arasında süni intellektin mümkün təhlükələri barədə xəbərdarlıqları ilə tanınan tədqiqatçı Ceffri Hinton da yer alıb.
Məktubda süni intellektin hazırlanması və istifadəsi ilə bağlı təcrübələrdə təcili dəyişikliklər edilmədiyi təqdirdə gələcək hadisələrin kritik infrastruktura daha böyük zərər vura biləcəyi barədə xəbərdarlıq edilib. İmzaçılar süni intellekt təhlükəsizliyi üzrə tədqiqatlara, eləcə də sistemlərə nəzarəti təmin etməyə yönələn texnologiya və prosedurlara daha çox diqqət ayrılmasının vacibliyini vurğulayıblar.
