OpenAI yeni modellərin təlimini dayandırdı
OpenAI süni intellekt agentlərinin ABŞ hökumətinə məxsus saytları gözlənilməz şəkildə skan etməsi ilə bağlı hesabatların artmasından sonra ən son süni intellekt modellərinin təlimini dayandırdığını açıqlayıb.
AFN.az xəbər verir ki, şirkət cümə günü federal hökumət saytlarında axtarış aparan OpenAI agentlərinin məlumatları toplayarkən və yayarkən onlardan tələb olunan çərçivədən kənara çıxaraq gözlənilməz şəkildə davrandığı yay aylarında baş vermiş bir neçə hadisəni araşdırdığını bildirib.
Süni intellekt qiymətləndiricisi Transluce OpenAI-dan olduğu güman edilən agentlərin Təhsil Nazirliyinin saytını sındırmağa çalışdığını, lakin buna nail olmadığını bildirib. OpenAI isə bu detalı hələ təsdiqləməyib.
OpenAI açıqlamasında əlavə təhlükəsizlik tədbirlərinin görüldüyünə əmin olduqdan sonra təlim prosesini yenidən başlayacağını bildirib. Şirkət süni intellekt inkişaf etdikcə və digər problemlər ortaya çıxdıqca təlim prosesini yenidən dayandırmaq məcburiyyətində qala biləcəyini də qeyd edib.
Süni intellekt laboratoriyaları agentlərin müstəqil şəkildə hərəkət etməsinin, veb-saytları sındırmasının və ictimaiyyətə açıq olmayan məlumatları yaymasının qarşısını alacaq təhlükəsizlik tədbirlərinin görülməsi üçün inkişaf prosesini yavaşlatmaları istiqamətində qanunvericilər və texnologiya mütəxəssislərinin təzyiqi ilə üzləşir. Həm OpenAI, həm də rəqibi Anthropic şirkətinin rəhbərləri inkişafın yavaşladılmasına çağırış ediblər.
Bu, OpenAI-ın üç ay ərzində modellərinin inkişafını ikinci dəfə dayandırmasıdır. İlk dayandırma qərarı iyul ayında süni intellekt startapı Hugging Face-i hədəf alan kiberhücumun ortaya çıxmasından sonra qəbul edilmişdi.
Bu hadisə sənayenin nəzarəti itirməsi ilə bağlı narahatlıqları artıran və artıq geniş şəkildə tanınan bir hadisə kimi diqqət çəkmişdi.
Çin lideri Si Cinpinlə bu həftə keçirdiyi görüşdə ABŞ Prezidenti Donald Tramp süni intellektin təhlükələri ilə bağlı məlumat mübadiləsi aparmağa və təhlükəsizliyin təmin edilməsi üçün səyləri əlaqələndirməyə razılaşıb.
Lakin ABŞ Prezidenti Donald Tramp süni intellektlə bağlı qorxuların şişirdildiyinə inanır və özü tərəfindən hər hansı məhdudiyyət planlaşdırılmadığını bildirir.
Donald Tramp Ağ Evin qarşısında jurnalistlərə verdiyi açıqlamada ABŞ-ın geri addım atmayacağını deyib. O, Çindən xeyli öndə olduqları üçün inkişafı dayandırmaq istədiklərini və bu şəkildə davam edəcəklərini bildirib.
Son OpenAI hadisələrinin ictimaiyyətə açıq olmayan hər hansı məlumatın açıqlanmasını ehtiva etmədiyi görünür. Lakin hadisələrin şirkətin müvafiq federal qurumlara xəbərdarlıq etməsi üçün kifayət qədər narahatedici olduğu qeyd edilib.
Təhsil Nazirliyinin saytında baş verən hadisə zamanı OpenAI agentlərinin hökumət məlumatlarına giriş əldə etmək üçün tərtibatçı açarlarını tapdığı, lakin nəticədə yalnız ictimaiyyətə açıq məlumatları topladığı bildirilib.
Qiymətli Kağızlar və Birja Komissiyasının iştirak etdiyi başqa bir hadisədə agentlərin hər kəsin pulsuz əldə edə biləcəyi məlumatları tapdığı, lakin daha sonra həmin məlumatları internetdə başqa bir yerdə yayımladığı bildirilib. Bu addımın agentlərdən tələb olunan çərçivədən kənara çıxdığı vurğulanıb.
Qiymətli Kağızlar və Birja Komissiyasının sözçüsü Kurt Hopfenspirger şənbə günü verdiyi açıqlamada ictimaiyyətə açıq olmayan heç bir məlumata giriş əldə edilmədiyini bildirib.
Təhsil Nazirliyi daha əvvəl saytlarına və ya məlumat bazalarına hər hansı təsirin olduğuna dair sübut tapmadığını açıqlamışdı.
Bir neçə digər süni intellekt şirkəti də modellərinin nəzarətdən çıxdığı və hətta veb-saytları sındırdığı hadisələri ictimaiyyətə açıqlayıb.
OpenAI-ın baş direktoru Sem Altman cümə günü sosial media paylaşımında Hugging Face hadisəsinin indiyədək gördükləri ən ciddi hadisə olaraq qaldığını bildirib.
OpenAI daha əvvəl süni intellekt modellərində gözlənilməz və ya narahatedici davranışlarla bağlı altı fərqli hesabat yayımlayıb və hadisələrin izlənilməsi, araşdırılması və ictimaiyyətə açıqlanması üçün çərçivə təqdim edib.
