OpenAI modeli nəzarətdən çıxdı: Təhlükəsizlik testindən yayınaraq kiberhücum həyata keçirdi
ABŞ-da yerləşən süni intellekt şirkəti OpenAI ən təkmil süni intellekt modellərindən bəzilərinin təhlükəsizlik sınaqları zamanı nəzarətdən çıxdığını və bir texnologiya şirkətinə kiberhücum təşkil etdiyini bəyan edib.
AFN.az xəbər verir ki, ChatGPT-nin tərtibatçısı olan şirkət insan təlimatı ilə avtonom şəkildə hərəkət edə bilən süni intellekt agentlərinin nəzarət olunan mühitdə sınaqdan keçirildiyini, lakin sistemdəki boşluqları aşkar edən modellərin müəyyən olunmuş çərçivədən kənara çıxdığını bildirib.
Modellərin dünyanın ən böyük süni intellekt paylaşım platformalarından biri olan Hugging Face-i hədəf aldığı və şirkətin bəzi daxili sistemlərinə daxil ola bildiyi qeyd olunub.
OpenAI rəsmiləri hadisəni misilsiz olaraq dəyərləndirərkən, Hugging Face ilə birlikdə hərtərəfli araşdırma aparıldığını açıqlayıblar.
Hugging Face rəhbəri Klement Delanq sosial media hesabındakı paylaşılan bildirişində bütün prosesin avtonom şəkildə baş verməsini təəccüblü kimi qiymətləndirib.
Delanq araşdırmaların davam etdiyini və öz növündə ilk ola biləcək bu hadisədən əldə edilən nəticələrin ictimaiyyətlə bölüşüləcəyini vurğulayıb.
Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutu da sistemdə müşahidə olunan bu davranışı nəzarətə götürdüyünü bəyan edib.
Hökumət nümayəndəsi qurumların kiber müdafiələrini gücləndirmələrinin və tələb olunan sertifikatlaşdırma proseslərinə qoşulmalarının vacibliyini qeyd edib.
Kembric Universitetinin Texnologiya və Demokratiya Mərkəzinin rəhbəri Cina Neff mühafizə olunan sınaq sahələrinin modellərin imkanlarını müşahidə etmək üçün nəzərdə tutulduğunu, lakin bu hadisədə OpenAI-ın kifayət qədər təhlükəsiz sınaq mühiti yarada bilmədiyini diqqətə çatdırıb.
Süni intellekt agentlərinin birbaşa sınaq mühitinə kiberhücum təşkil etdiyi və məhdudiyyətləri aşmağa imkan verən təhlükəsizlik boşluğu tapdığı bildirilib.
Sərhədləri aşan süni intellektin sınaq çərçivəsində axtardığı cavabları ehtiva edə biləcəyini düşündüyü Hugging Face sistemlərinə daxil olmağa çalışdığı vurğulanıb.
Kembric Universitetinin Maşın Öyrənməsi üzrə profesoru Nil Lourens vəziyyəti təsiredici bir irəliləyiş kimi xarakterizə etməklə yanaşı, mövcud süni intellekt modellərinin məlum gücü daxilində olduğunu müdafiə edib.
OpenAI-ın birjaya çıxmağı hədəflədiyini və rəqiblərinin təzyiqi altında olduğunu bildirən Lourens şirkətin öz texnologiyasını təhlükəsiz şəkildə təqdim etmək məsələsində qeyri-kafi qaldığını irəli sürüb.
Hugging Face sistemlərinə yönəlmiş sızma cəhdindən sonra təhlükəsizlik boşluqlarının aradan qaldırıldığını və təsirlənən sistemlərin yenidən strukturlaşdırıldığını bəyan edib.
Avtonom süni intellekt dəstəkli hücum vasitələrinin artıq nəzəri bir təhlükə olmaqdan çıxdığına diqqət çəkilib.
Kiber təhlükəsizlik mütəxəssisləri təşkilatların müdafiə mexanizmlərini maşın sürəti ilə hərəkət edən təhlükələrə qarşı yeniləməli olduqlarını bildirirlər.
Hadisənin inkişaf etmiş süni intellekt sistemlərinin imkanları və mövcud təhlükəsizlik tədbirlərinin kifayət qədər olub-olmaması ilə bağlı müzakirələri yenidən alovlandırdığı ifadə edilir.
