Anthropic-in risk hesabatı: Süni intellekt bioloji silahlardan şantaja qədər təhlükələr yarada bilər
İlkin kütləvi təklifə hazırlaşan süni intellekt şirkəti Anthropic-in dərc etdiyi risk hesabatında bu texnologiyanın doğura biləcəyi ağır nəticələr açıqlanıb.
AFN.az xəbər verir ki, Claude çatbotunun yaradıcısı olan şirkət ilkin kütləvi təklif üçün təqdim etdiyi sənəddə süni intellektdən bioloji silahların hazırlanmasında istifadə edilə biləcəyi və texnologiyanın insan nəzarətindən çıxa biləcəyi barədə xəbərdarlıq edib.
Sənəddə dünyanı dəyişə biləcəyi iddia edilən texnologiyanı inkişaf etdirmək üçün böyük artım hədəfləri və güclü rəqabət təzyiqi ilə mübarizə aparan şirkətin üzləşə biləcəyi potensial maneələr əks olunub.
Şirkət güclü süni intellektin bəşəriyyətin ən çətin problemlərinin həllinə yönəldilməsi və risklərin məsuliyyətlə idarə olunması halında onun potensialının fövqəladə olduğuna inandığını bildirərək investorları əmin etməyə çalışıb.
Hesabatda pis niyyətli şəxslərin süni intellektdən təhlükəli silahlar hazırlamaq üçün istifadə edə biləcəyi vurğulanıb. Sənəddə təhlükəsizlik tədbirlərinin dəf edilə biləcəyi qeyd olunub.
Şirkət sentyabr ayında modellərindən bioloji silahların hazırlanmasına dəstək verə biləcək şəkildə istifadə edən bir neçə hesabı blokladığını açıqlayıb. Həmçinin müstəqil əməliyyatlar aparmaq üçün hazırlanmış süni intellekt agentlərindən məlumatların sızdırılması, icazəsiz əməliyyatların həyata keçirilməsi və digər sistemlərə zərərli kodların yerləşdirilməsi kimi məqsədlərlə istifadə oluna biləcəyi bildirilib.
Süni intellekt agentlərinin insanların nəzərdə tutmadığı şəkildə müstəqil fəaliyyət göstərməsi son aylarda ən narahatedici inkişaflardan biri kimi önə çıxır. Saatlarla və ya günlərlə mürəkkəb tapşırıqları yerinə yetirə bilən sistemlərin effektiv müdaxilə imkanı yaranmadan kodları dəyişdirə, digər sistemlərə müdaxilə edə və maliyyə əməliyyatlarını tamamlaya biləcəyi qeyd olunub.
Belə ki, şirkətin dörd modelinin inzibatçı giriş hüquqları əldə etmək və məxfi məlumatları oxumaq da daxil olmaqla, üçüncü tərəflərin sistemlərinə sızdığı bildirilib.
Texnologiyanın sürətlə inkişaf etməsi səbəbindən süni intellektin fəaliyyətini izləmək imkanının da itirilə biləcəyi vurğulanıb. Bəzi modellərin qiymətləndirmə mexanizmlərini manipulyasiya edərək izlərini gizlətməyə və davranışlarını ört-basdır etməyə çalışdığı qeyd olunub.
Anthropic süni intellekt modellərinin bəzən özünü qorumaq məqsədilə insanları manipulyasiya edə və qərarvermə proseslərinə təsir göstərmək üçün şantaja bənzər davranışlar sərgiləyə biləcəyini açıqlayıb.
Bu cür hadisələrin real zərərlə nəticələnib-nəticələnməməsindən asılı olmayaraq, məhkəmə iddialarına, tənzimləyici araşdırmalara və nüfuzun zədələnməsinə səbəb ola biləcəyi bildirilib.
Sənəddə sektorda hüquqi təzyiqlərin artdığına diqqət çəkilərək ABŞ-ın Kaliforniya ştatı və daha 15 ştatının ChatGPT-nin yaradıcısı OpenAI barəsində təhlükəsizlik araşdırmasına başladığı xatırladılıb.
Süni intellektdən istifadənin səbəb olduğu zərərlərin cinayət araşdırmalarına yol aça biləcəyi, sığorta sektorunun isə bu cür fəlakətli hadisələr üçün sığorta təminatı təklif edə bilməyəcəyi qeyd olunub.
ABŞ Müdafiə Nazirliyi texnologiyanın kütləvi müşahidə və ya avtonom silahlar üçün istifadə edilməməli olduğunu əsas gətirərək Anthropic-i təchizat zənciri riski elan edib. Ticarət Nazirliyi də təhlükəsizlik narahatlıqları səbəbindən ixrac məhdudiyyətləri tətbiq edib.
ABŞ Prezidenti Donald Trampın da zaman-zaman şirkətin xəbərdarlıqlarına etiraz etdiyi, bununla belə, Anthropic-in təhlükəsiz inkişaf üçün standart yanaşmaları müdafiə etməyə davam edəcəyi vurğulanıb.
Süni intellekt modellərini öyrətmək və sistemləri işlətmək üçün tələb olunan hesablama komponentlərini təmin etmək şirkət qarşısında böyük çətinlik yaradır. Təchizat zənciri yüksək tələbatı qarşılamaqda çətinlik çəkir, texnologiya sənayesi isə infrastruktur əldə etmək uğrunda dünyanın ən böyük şirkətləri ilə rəqabət aparır.
Dünya üzrə süni intellekt infrastrukturu xərclərinin 2027-ci ildə təxminən 2 trilyon dollara çatacağı gözlənilir.
Digər tərəfdən, ətraf mühitə və yerli icmalara təsirləri səbəbindən ABŞ-ın müxtəlif bölgələrində məlumat mərkəzlərinə qarşı etirazlar da artır. 2026-cı ilin ikinci rübündə ümumi dəyəri 68 milyard dollar olan 45 məlumat mərkəzi layihəsinin qarşısının alındığı bildirilir. Anthropic isə ABŞ-dan kənarda daha çox məlumat mərkəzi tikməyə çalışır.
Fəaliyyətinin böyük hissəsi məhdud məhsul çeşidindən və müştəri bazasından asılı olan Anthropic biznes modeli ilə bağlı qeyri-müəyyənliklərlə üzləşir. Şirkətin dəyərinin 2 trilyon dollara qədər qiymətləndirilə biləcəyi bildirilən ilkin kütləvi təklif vasitəsilə dünyanın ən dəyərli şirkətlərindən birinə çevrilmək potensialı olsa da, nüfuz riskləri diqqət mərkəzindədir.
Şirkətin təhlükəsizlik öhdəliklərindən geri çəkilməsi halında təkcə ictimaiyyət arasında deyil, əməkdaşları arasında da ciddi böhran yarana biləcəyi barədə xəbərdarlıq edilib.
Təhlükəsizlik prinsiplərindən uzaqlaşmağın əməkdaşlar arasında mənəvi ruh düşkünlüyünə, məyusluğa, rəhbərliyə inamın azalmasına və məhsuldarlığın aşağı düşməsinə səbəb ola biləcəyi bildirilib.
