OpenAI: Süni intellekt modelləri bəzi xarici testlərdə müəyyən edilmiş sərhədləri aşıb
ABŞ-ın süni intellekt şirkəti OpenAI bəzi süni intellekt modellərinin müstəqil kibertəhlükəsizlik testləri zamanı müəyyən edilmiş test sərhədlərini aşan fəaliyyətlər nümayiş etdirdiyini açıqlayıb.
AFN.az xəbər verir ki, şirkətin yaydığı məlumata görə, bu hallar iki müstəqil qurum tərəfindən aparılan kibertəhlükəsizlik qiymətləndirmələri zamanı qeydə alınıb.
Açıqlamada bildirilib ki, test mühitlərinin quruluşu ilə süni intellekt modellərinin inkişaf edən imkanlarının üst-üstə düşməsi nəticəsində bəzi fəaliyyətlər əvvəlcədən nəzərdə tutulan test çərçivəsindən kənara çıxıb.
Qeyd olunub ki, ilk qiymətləndirmə Böyük Britaniya Süni İntellekt Təhlükəsizliyi İnstitutu (UK AISI) tərəfindən aparılıb. Bu sınaq zamanı internetə çıxışına icazə verilən OpenAI modeli simulyasiya edilmiş test mühitinə çatmağa çalışarkən tapşırıq çərçivəsinə daxil olmayan bəzi real internet xidmətləri ilə qarşılıqlı əlaqəyə girib.
İkinci qiymətləndirmə isə OpenAI-ın xarici test tərəfdaşlarından Irregular tərəfindən həyata keçirilib. Bildirilib ki, test mühitindəki yanlış konfiqurasiya səbəbindən model internetə çıxış əldə edib. Nəticədə model simulyasiya edilmiş hədəfin real internet domeni ilə üst-üstə düşdüyünü nəzərə almayaraq həmin saytı test mühitinin bir hissəsi hesab edib və oradakı əsas təhlükəsizlik boşluğundan istifadə edib.
Şirkət vurğulayıb ki, bu hadisələr daha əvvəl açıqlanan Hugging Face təhlükəsizlik insidentindən tamamilə ayrıdır.
OpenAI bundan əvvəl də kibertəhlükəsizlik imkanlarının qiymətləndirilməsi məqsədilə keçirilən daxili test zamanı istifadə olunan süni intellekt modellərinin Hugging Face platformasının infrastrukturunda təhlükəsizlik pozuntusuna səbəb olduğunu açıqlamışdı.
