Anthropic süni intellekt modelinin bioloji silah hazırlanmasında istifadəsinin qarşısını aldı
Anthropic şirkəti süni intellekt modelindən bioloji və adi silahların hazırlanmasına dəstək verə biləcək zərərli məqsədlərlə istifadə cəhdlərini aşkarladığını və qarşısını aldığını açıqlayıb.
AFN.az xəbər verir ki, bu barədə şirkətin yayımladığı son təhdid kəşfiyyatı hesabatında məlumat verilib.
Hesabatda şirkətin “Claude” adlı süni intellekt modelindən Rusiya ilə əlaqəli kiber casusluq kampaniyasında və İranda fəaliyyət göstərən təbliğat qurumu tərəfindən istifadə edildiyi də qeyd olunub.
Son səkkiz ay ərzində müəyyən edilən narahatedici hallar saxta tanışlıq tətbiqləri və otel Wi-Fi şəbəkələri ilə bağlı dələduzluqlardan tutmuş, müxalif şəxslərin müəyyənləşdirilməsi məqsədilə yaradılan müşahidə sistemlərinə qədər geniş spektri əhatə edib.
Şirkət xidmətlərindən zərərli məqsədlərlə istifadə olunması hallarını ictimaiyyətə açıqlamaq məsuliyyəti daşıdığına inandığı üçün son təhdid kəşfiyyatı hesabatını cümə axşamı yayımlayıb.
Hesabatda dövlət tərəfindən dəstəkləndiyindən şübhələnilən qrupların, cinayətkarların, casus proqram təminatı satıcılarının, dövlət təbliğat qurumlarının və siyasi motivli şəxslərin Anthropic texnologiyasından necə sui-istifadə etdiyi barədə məlumatlar təqdim olunub.
Bildirilir ki, Claude Haiku, Claude Sonnet və Claude Opus modellərindən zərərli məqsədlərlə istifadə halları 2025-ci ilin dekabrından 2026-cı ilin avqustuna qədər olan dövrdə aşkarlanaraq bloklanıb.
Şirkət modelin silahların hazırlanmasına dəstək verə biləcək şəkildə istifadəsinin qarşısını almaqla yanaşı, alimlərin süni intellektdən bioloji silahların hazırlanmasına kömək edə biləcək məqsədlərlə istifadəsi cəhdlərini də əngəlləyib.
Hesabatda müxtəlif şəxslərin modellərdən bioloji silahların hazırlanmasına dəstək verə biləcək şəkildə istifadə etdiyi beş hadisə ilə bağlı araşdırmaya diqqət çəkilib.
Bioloji məqsədlərlə zərərli istifadə hallarının sərhəd imkanlara malik süni intellekt modelləri üçün ən ciddi risklərdən biri olduğu bildirilib.
Hesabatda həmçinin “Claude” modelinin odlu silahlar, raketlər, silahlı dronlar, bombalar və digər sursatlarla yanaşı, bu vasitələrin işlədilməsi üçün istifadə olunan hədəfləmə və idarəetmə sistemləri də daxil olmaqla, adi silahlar üçün proqram təminatının hazırlanmasında istifadə edildiyi altı halın qeydə alındığı vurğulanıb.
