Anthropic-dən xəbərdarlıq: Bioloji silahların hazırlanmasına dəstək verən cəhdlər aşkarlanıb
Anthropic şirkətinə məxsus süni intellekt modellərinin bioloji silahların hazırlanmasına dəstək məqsədilə istifadə edildiyi hallar aşkarlanıb.
AFN.az xəbər verir ki, bu barədə süni intellekt texnologiyasından sui-istifadənin müəyyənləşdirilməsi və bunun qarşısının alınması ilə bağlı şirkətin yayımladığı hesabatda məlumat verilib.
Hesabatda süni intellekt modellərinin yaratdığı ən böyük risklərdən birinin bioloji sui-istifadə olduğu vurğulanıb. Bildirilib ki, süni intellektin mövcud patogenləri daha təhlükəli hala gətirməyə və ya yeni patogenlərin hazırlanmasına kömək edə biləcək imkanlara çatması ilə bağlı narahatlıq uzun müddətdir gündəmdədir.
Hesabatda Anthropic-in süni intellekt modellərindən bioloji silahların hazırlanmasına dəstək verə biləcək şəkildə istifadə edən şəxslərlə bağlı nümunələrə də yer verilib.
Nümunələrdən birində dəstəklənməyən ərazidə çalışan bir tədqiqatçının “Claude” süni intellekt modeli vasitəsilə quş qripinin məməlilərə uyğunlaşması ilə bağlı təcrübələr planlaşdırmağa çalışdığı qeyd olunub. Digər nümunədə isə dövlət tərəfindən maliyyələşdirilən tədqiqatçının toksinləri kompüter mühitində yenidən dizayn etdiyi bildirilib.
Bu halların aşkarlanmasından sonra həmin istifadəçilərin hesablarının bloklandığı və gələcəkdə bu cür fəaliyyətlərin daha effektiv şəkildə qarşısının alınması üçün addımlar atıldığı açıqlanıb.
Hesabatda sözügedən şəxslərin pisniyyətli olduqlarının iddia edilmədiyi və şirkətin yalnız ehtiyat tədbirləri gördüyü xüsusi vurğulanıb.
“Bu nümunələri paylaşaraq süni intellekt sektorunda ortaya çıxan bioloji risklər və bunlara ən effektiv şəkildə necə qarşı çıxmağın mümkün olduğu barədə dialoqa başlamağı ümid edirik”, - deyə hesabatda bildirilib.
Qeyd edək ki, Anthropic əməkdaşı Yakob Koksun süni intellektin real güc və resurslar əldə edə biləcək fövqəlinsan sistemlərə çevrilə biləcəyini müdafiə edərək şirkətdən istefa verdiyini açıqlamışdı. Onun bu barədə paylaşımı milyonlarla dəfə izlənərək geniş əks-səda doğurmuşdu.
