Süni intellektin bütün insanları öldürə bilmə ehtimalı 10 faizdən çoxdur
Anthropic şirkətində çalışan tədqiqatçı Evan Hubinger süni intellekt texnologiyalarının qarşıdakı 10 il ərzində bütün insanların ölümünə səbəb ola biləcək səviyyəyə çatması ehtimalının 10 faizdən yüksək olduğunu düşünür.
AFN.az xəbər verir ki, süni intellektin insan dəyərləri ilə uyğunlaşdırılması üzərində çalışan Evan Hubinger bu barədə X sosial media platformasındakı hesabında açıqlama verib.
O, Anthropic şirkətindən istefa verən tədqiqatçı Jacob Coxonun paylaşımına münasibət bildirib. Coxon süni intellekt hazırlayan şəxslərin bu texnologiyanın 10 ilin sonuna qədər bütün insanları öldürə biləcəyinə səmimi şəkildə inandıqlarını yazıb.
Hubinger isə bu fikirlə razılaşaraq, “Jacob bu məsələdə haqlıdır. Süni intellektin bütün insanları öldürə biləcəyinə həqiqətən və səmimi şəkildə inanırıq” deyə bildirib.
Tədqiqatçı qarşıdakı 10 il ərzində belə bir ssenarinin reallaşma ehtimalının 10 faizdən çox olduğunu düşündüyünü vurğulayıb.
Hubinger Anthropic şirkətinin risklərin qarşısını almaq üçün əlindən gələni etdiyini qeyd etsə də, super intellektlə bağlı uyğunlaşma probleminin həlli üçün hazırda konkret planın olmadığını və bu istiqamətdə aydın yol xəritəsinin izlənmədiyini bildirib.
Digər tərəfdən, son üç il ərzində OpenAI və Anthropic şirkətlərində tədqiqatçı kimi çalışan Jacob Coxon hər iki şirkətin süni intellektin inkişafı məsələsində kifayət qədər məsuliyyətli davranmadığını iddia edərək Anthropic-dən istefa verdiyini açıqlayıb.
Coxon şirkətlərin özünü inkişaf etdirə bilən super intellekt yaratmaq uğrunda nəzarətsiz yarış apardığını bildirib.
Onun sözlərinə görə, bu texnologiyanın potensialını kiçik qiymətləndirmək olmaz. Coxon yaxın gələcəkdə süni intellekt sistemlərinin hər şeyi sındıra, müxtəlif sahələri bir gecədə dəyişdirə və real güc və resurslar əldə edə biləcək insanüstü sistemlərə çevrilə biləcəyini vurğulayıb.
Coxon həmçinin süni intellekt modellərinin hazırlanmasında iştirak edən şəxslərin bu sistemlərin 10 il ərzində bəşəriyyətin məhvinə səbəb ola biləcəyinə ciddi şəkildə inandıqlarını iddia edib. O, şirkət rəhbərlərinin ictimaiyyət qarşısında daha təmkinli açıqlamalar verməsinə baxmayaraq, qapalı görüşlərdə vəziyyətlə bağlı böyük narahatlıq yaşandığını irəli sürüb.
