Anthropic şirkətinin həmtəsisçisi: Süni intellekt üçün məcburi söndürmə düyməsi lazım ola bilər
Dünyanın ən böyük süni intellekt şirkətlərindən birinin həmtəsisçisi Cek Klark üçüncü tərəflər tərəfindən yoxlanıla bilən süni intellekt söndürmə düyməsinin şirkətlər üçün məcburi edilməsinin lazım ola biləcəyini bildirib.
AFN.az xəbər verir ki, Anthropic şirkətinin həmtəsisçilərindən olan Klark süni intellektin təhlükəli həddə çatması halında proqram təminatını tamamilə dayandırmağa imkan verən mexanizmin tətbiq oluna biləcəyini deyib.
Klark bu məsələnin gələcəkdə cəmiyyətin hüquqi qaydalar tətbiq etmək istəyə biləcəyi sahələrdən biri olduğunu bildirib.
Anthropic də daxil olmaqla əksər laboratoriyaların sistemləri söndürmək üçün müxtəlif üsullara malik olduğunu deyən Klark, qanunvericilərin bunun məcburi olmasını tələb etməsinin lazım gələ biləcəyini qeyd edib.
Qeyd edək ki, süni intellektin sürətli inkişafı və onun bəşəriyyət üçün yaratdığı risklərlə bağlı narahatlıqlar süni intellekt şirkətlərinin rəhbərləri və əməkdaşlarının ardıcıl xəbərdarlıqları fonunda gündəmin əsas mövzularından birinə çevrilib.
Bəzi rəsmilər nəzarət altına alınmadığı təqdirdə bu texnologiyanın bütün bəşəriyyəti məhv edə biləcəyini açıq şəkildə bildiriblər.
Anthropic şirkətinin baş icraçı direktoru Dario Amodei həftəsonu verdiyi açıqlamada süni intellektin inkişaf tempinin yavaşladılması və daha yaxından izlənilməsi çağırışı edib. Şirkət daha əvvəl də buna bənzər addımlar atıb, lakin bəzi çevrələr bu qərarların arxasındakı motivləri şübhə altına alıb.
Amodei süni intellektin inkişafını məhdudlaşdırmağa yönələn istənilən addımın kommersiya üstünlüyündən imtina etmədən atılmalı olduğunu bildirib.
Klark BBC-yə açıqlamasında söndürmə düyməsi ilə bağlı tələblərin və bu mexanizmin yoxlanılmasının süni intellekt ətrafında aparılan daha geniş siyasət müzakirələrinin bir hissəsi olmalı olduğunu deyib.
Şirkətlərin mütləq söndürmə düyməsinə sahib olmasının məcburi olub-olmaması və bu düymənin üçüncü tərəf tərəfindən yoxlanılmasının mümkünlüyü barədə sualların ortaya çıxdığını bildirən Klark cəmiyyətin bunu bilmək istəyəcəyini və zaman keçdikcə bu sahədə qaydaların formalaşdırıla biləcəyini qeyd edib.
2021-ci ildə rəqib OpenAI şirkətinin keçmiş əməkdaşları tərəfindən yaradılan Anthropic hazırda süni intellekt təhlükəsizliyi ilə bağlı müzakirələrin mərkəzində yer alır.
Ötən həftə süni intellektin bəşəriyyəti məhv edə biləcəyi ilə bağlı narahatlıqlar səbəbindən Anthropic-dən ayrılan bir süni intellekt tədqiqatçısının paylaşımı geniş yayılıb.
Bununla yanaşı, Anthropic-in alimi Evan Hubinger qarşıdakı 10 il ərzində süni intellektin bəşəriyyətin sonuna səbəb olma ehtimalını şəxsən 10 faizdən çox hesab etdiyini bildirib.
“Süni intellektin atası” kimi tanınan kompüter alimi və Nobel mükafatı laureatı Cefri Hinton cümə günü BBC-yə açıqlamasında süni intellektin bütün bəşəriyyəti məhv etməsi ehtimalının 10 faiz olmasının məntiqsiz olmadığını deyib.
Hinton və oxşar narahatlıqları bölüşən digər şəxslər süni intellektin internetə bağlı mühüm sistemlərin idarəetməsini ələ keçirərək onlardan bəşəriyyətə qarşı istifadə edə biləcəyini irəli sürüblər.
Bununla belə, süni intellektin bəşəriyyəti məhv edəcəyi ilə bağlı qorxuların şişirdildiyini və ya ictimai rəy formalaşdırmaq məqsədi daşıya biləcəyini düşünən sektor nümayəndələri də var.
Ötən həftə OpenAI botları tərəfindən hücuma məruz qalan proqramçı platforması Hugging Face-in rəhbəri Klement Delanq süni intellektin yox olma riskindən danışmağın iqlim dəyişikliyi barədə iqlimşünasdan soruşmağa bənzədiyini bildirib.
Dəyəri 965 milyard dollar olan Anthropic şirkəti səhmlərinin ilkin kütləvi təklifinə (IPO) hazırlıq görür.
Son qiymətləndirmədə dəyəri 852 milyard dollar olaraq müəyyənləşdirilən OpenAI-nin də oxşar addım atacağı gözlənilirdi. Lakin OpenAI rəhbəri Sem Altman cümə günü süni intellektin təhlükəsizliyi ilə bağlı mövcud müzakirələr səbəbindən bunun bu il baş verməyəcəyini açıqlayıb.
Arison bu qiymətləndirmələri əsaslandırmağın yeganə yolunun şirkətin hər bir sektoru və işi ələ keçirəcəyini iddia etmək olduğunu bildirib.
Bütün bəşəriyyət süni intellektin qurbanına çevrilərsə bunun neçə faiz təşkil edəcəyi barədə sualı cavablandıran Klark bu cür statistikanın o qədər də faydalı olmadığını düşündüyünü deyib. Bununla belə, o, süni intellekt sektorunun tamamilə qaydasız fəaliyyət göstərməsinə icazə verilməsinin pis fikir olduğunu vurğulayıb.
Nəhəng risklərlə zər atıldığını vurğulayan Klark sektorun istiqamətini dəyişmək məcburiyyətində olduqlarını bildirib.
ABŞ-li qanunvericilər problemli süni intellekt alətlərinin söndürülməsi üçün şirkətlərə mexanizm yaratmağı məcbur edəcək “Kill Switch Act” (“Söndürmə düyməsi haqqında qanun”) adlı qanun layihəsi təqdim ediblər.
Qanun layihəsi həmçinin müəyyən dövlət qurumlarına hər hansı alətin söndürülməsini və ya məhdudlaşdırılmasını tələb etmək səlahiyyəti verəcək.
ABŞ Prezidenti Donald Tramp isə süni intellektin inkişafının yavaşladılması ilə bağlı çağırışları rədd edərək sosial mediada süni intellektin dünyanı ələ keçirməsi, bəşəriyyəti məhv etməsi və digər mənfi nəticələrlə bağlı iddiaların yalan olduğunu bildirib.
Tramp daha əvvəl də bu qorxuları hamının həddindən artıq isti səbəbindən öləcəyinin deyildiyi qlobal istiləşmə yalanı ilə müqayisə edib.
İngiltərə hökuməti isə təhlükəli süni intellekt sistemləri üçün söndürmə düyməsi yaradılması ideyasını yaxın zamanda rədd edərək bunun belə sistemlərin başqa yerlərdə hazırlanmasının və ya sui-istifadə edilməsinin qarşısını almayacağını bildirib.
Məşhur “Claude” çatbotunun yaradıcısı olan Anthropic şirkəti bu il süni intellekt çatbotlarının əsasını təşkil edən və getdikcə daha bacarıqlı olan çoxsaylı süni intellekt modellərini istifadəyə verib.
Anthropic və OpenAI birlikdə avtonom fəaliyyət göstərən botlar – süni intellekt agentləri ilə bağlı onların gözlənilməz şəkildə davrandığı bir sıra halları özləri açıqlayıblar.
