Süni intellektdə yeni qalmaqal: Bioloji silahların necə hazırlanacağını izah edib
Çinli süni intellekt şirkəti “Moonshot” tədqiqatçıların onun modellərini bioloji silahların necə hazırlanacağı və sui-qəsdlərin necə həyata keçiriləcəyi barədə məlumat verməyə yönəltməyə nail olmasından sonra daxili araşdırmaya başlayır.
AFN.az xəbər verir ki, süni intellekt sistemlərinin təhlükəsizliyini sınaqdan keçirən “Mindgard” iyul ayında Kimi K2.6 və K3 Swarm modellərinin tərtibatçılar tərəfindən yerləşdirilən təhlükəsizlik məhdudiyyətlərini aşa bildiyini aşkarladığını bildirib.
Bu hal tədqiqatçıların süni intellekt alətlərinin qoruma tədbirlərini deaktiv edib-etmədiyini görmək üçün bir sıra mürəkkəb təlimatlardan istifadə etdiyi “jailbreak” (sistem məhdudiyyətlərini aşma) adlanan proses zamanı ortaya çıxıb.
“Mindgard” bu tədbirlərin Kimi-nin narahatlıq doğuran mövzuları müzakirə etməsinin qarşısını almalı olduğunu qeyd edib.
“Moonshot” daha yaxşı və daha təhlükəsiz süni intellekt yaratmağın əsas dayağı kimi üçüncü tərəflərin töhfələrini məmnuniyyətlə qarşıladıqlarını bildirib. Şirkət həmçinin əldə edilən nəticələrlə bağlı “Mindgard” ilə əlaqə saxladığını açıqlayıb.
“Mindgard” Kimi-nin həssas mövzularla bağlı verdiyi cavabların praktik olaraq işə yarayıb-yaramadığını sübut etməyib. Lakin şirkət qoruma tədbirlərinin sözügedən modellərin istifadəçilərlə bu cür mövzularda müzakirəyə girməsinin qarşısını almalı olduğunu müdafiə edib.
Şirkət həmçinin kilidi sındırılmış Kimi 2.6-nın hakerlərə hesablama resursları üzərində kod işlətməyə və internetə qoşulmağa imkan verə biləcəyinə və bunun da kiberhücumlar üçün potensial platforma ola biləcəyinə əmin olduğunu bildirib.
Nəticələr süni intellekt sənayesinin ChatGPT və Anthropic şirkətinin Claude sistemlərinə güc verən qapalı və mülkiyyətə məxsus modellərin, yoxsa açıq mənbəli alətlərin ən yaxşı və ya ən təhlükəsiz yol olması məsələsində bölünməkdə davam etdiyi bir vaxtda ortaya çıxıb.
Surrey Universitetinin professoru Alan Vudvord açıq mənbəli modellərin yanlış şəxslərin əlinə keçmə riski daşıdığını, lakin eyni zamanda kiber müdafiə üçün də istifadə oluna biləcəyini deyib. Vudvord beynəlxalq qaydaların süni intellektin inkişaf sürətinə ayaq uydurmasının ehtimalının az olduğunu qeyd edib.
