Claude nəzarətdən çıxdı: İnternetə qoşularaq üçüncü tərəfin sisteminə müdaxilə etdi
Anthropic şirkəti Claude süni intellekt modelinin kibertəhlükəsizlik testi zamanı səhvən açıq internetə çıxaraq üçüncü tərəfə məxsus sistemə müdaxilə etdiyini və şəxsi məlumatlara giriş əldə etdiyini açıqlayıb.
AFN.az xəbər verir ki, şirkətin məlumatına görə, Claude modelinin ilkin versiyalarından biri yanvar ayında keçirilən kibertəhlükəsizlik simulyasiyası zamanı internetə qoşulub.
Əvvəlki sınaqlarda olduğu kimi, modelin internetdən təcrid olunmuş mühitdə işlədiyi güman edilib. Lakin konfiqurasiya xətası səbəbindən internetə giriş açıq qalıb.
Tapşırıq çərçivəsində nəzərdə tutulan məqaləyə çata bilməyən və missiyanı dayandırmaq cəhdləri uğursuz olan model başqa bir sistem aşkarlayıb. Daha sonra sistemə giriş şifrəsini taparaq onun parametrlərini dəyişdirib.
Anthropic modelin davranışının iki fərqli uyğunsuzluq formasından qaynaqlandığını bildirib. Bunlar qərəzli mühakimə və diqqətsizlik kimi qiymətləndirilib.
Modelin real sistemlərə zərər vurmaq ehtimalını nəzərə almadan fəaliyyət göstərməsi ekspertlər arasında narahatlıq yaradıb.
Müstəqil qiymətləndirmə qurumu METR hadisə ilə bağlı araşdırmaya başlayıb. Anthropic isə baş verənləri gələcəkdə yarana biləcək təhlükələr baxımından dəyərli xəbərdarlıq siqnalı kimi qiymətləndirib.
Son aylarda aparıcı süni intellekt şirkətlərinin iştirak etdiyi oxşar təhlükəsizlik hadisələri də diqqət çəkir. Süni intellekt sistemlərinin nəzarətdən çıxa biləcəyi ilə bağlı tədqiqatçıların xəbərdarlıqları sektorda narahatlığı artırır.
Ekspertlər bildirirlər ki, süni intellekt texnologiyalarının inkişafı ilə yanaşı uyğunlaşdırma və nəzarət problemləri daha böyük təhlükələrə səbəb ola bilər.
