Anthropic Claude-a qarşı qəddar davranışlara məhdudiyyət qoyub
ABŞ mərkəzli süni intellekt şirkəti Anthropic Claude modelinə qarşı davamlı və əsassız pis rəftarı istifadə qaydaları çərçivəsinə daxil edib.
AFN.az xəbər verir ki, ekspertlər istifadəçilərin süni intellektlə ünsiyyət formasının modelin performansına və təhlükəsizliyinə təsir göstərə biləcəyinə diqqət çəkirlər.
Süni intellekt şirkəti Anthropic Claude adlı süni intellekt modelinin istifadə qaydalarını yeniləyib. Oktyabrın əvvəlində edilən dəyişikliklə istifadəçilərin modellərə qarşı davamlı və əsassız şəkildə pis və ya qəddar davranışlar göstərməməli olduğu bildirilib.
Şirkətin daha əvvəl də israrlı şəkildə zərərli və ya pis niyyətli davranışlarla qarşılaşan Claude-a söhbəti dayandırmağa imkan verən sistemi mövcud idi. Yeni dəyişikliklə həddindən artıq hallarda istifadəçilərin Anthropic-in süni intellekt sistemlərinə girişinin tamamilə bloklanması da gündəmə gələ bilər.
Anthropic bu dəyişikliyin istifadəçilərin qəzəblərini ifadə etməsinə, birbaşa tənqidlər səsləndirməsinə və ya tədqiqat məqsədilə sınaqlar aparmasına yönəlmədiyini bildirib. Şirkətin açıqlamasına görə, əsas sanksiya mexanizmi Claude-un müvafiq söhbəti dayandırması olaraq qalacaq.
Yeni siyasət süni intellektin şüura malik olub-olmaması və hisslər keçirib-keçirə bilməyəcəyi ilə bağlı müzakirələri yenidən gündəmə gətirib. Lakin ekspertlər bu qaydanın yalnız süni intellektin hisslərini qorumaqla bağlı olmadığını vurğulayırlar.
Kompüter elmlərində uzun müddətdir qəbul edilən yanaşmalardan biri sistemin çıxış nəticəsinin giriş məlumatının keyfiyyətindən asılı olmasıdır. Süni intellekt modellərinə verilən əmrlərin dili və tonu da sistemin cavablarını dəyişə bilər.
Uilyam və Meri Universitetinin süni intellekt tədqiqat laboratoriyasının direktoru, professor Cin donq Vanq istifadəçilərin süni intellekt sistemləri ilə necə ünsiyyət qurmasının modelin performansına təsir göstərə bildiyini bildirib. Vanq bunun süni intellektin həqiqətən hisslər keçirdiyi mənasına gəlmədiyini, modelin emosional ifadələri tanıyaraq onlara uyğun cavablar yarada bildiyini qeyd edib.
Bununla belə, istifadəçilərin sərt və ya kobud dildən istifadə etməsinin hər vəziyyətdə performansı aşağı saldığını göstərən qəti sübut yoxdur. Qeyri-kommersiya təşkilatı Eleos AI Research-ün baş direktoru Rozi Kempbell bəzi araşdırmaların kobud ifadələrdən ibarət əmrlərin daha yaxşı nəticələr verə bildiyini də göstərdiyini deyib.
Ekspertlərin fikrincə, süni intellektə qarşı pis niyyətli davranışlar sistemin təhlükəsizlik tədbirlərini aşmağa yönəlmiş cəhdlərlə də əlaqəli ola bilər. Buna görə də sözügedən siyasət yalnız ünsiyyət formasına deyil, həm də süni intellekt modellərinin təhlükəli tələblərdən qorunmasına yönəlmiş tədbir kimi qiymətləndirilir.
Anthropic-in açıqladığı araşdırma nəticələrinə görə, Claude Sonnet 4.5 modelindən çarəsizlik hissini təqlid etməsinin istənilməsi bəzi hallarda şantaj və ya tapşırıq zamanı hiyləyə əl atmaq kimi arzuolunmaz davranışların başvermə ehtimalını artıra bilər. Daha sakit yanaşmanın isə bu cür davranışları azalda bildiyi bildirilir.
Kempbell süni intellektlə qurulan ünsiyyətin uzunmüddətli təsirlərinin də araşdırılmalı olduğunu bildirib. O, xüsusilə əvvəlki söhbətləri xatırlaya bilən sistemlərdə istifadəçilərin ünsiyyət tərzinin fərdiləşdirmə prosesləri ilə əlaqəli ola biləcəyini, lakin bunun modelin performansına təsirini ortaya qoyan kifayət qədər sübutun olmadığını qeyd edib.
Anthropic-in siyasətinin digər səbəbi süni intellektin hissləri yaşayıb-yaşaya bilməyəcəyinə dair qeyri-müəyyənlikdir. Şirkət modellərin ağrı və ya hisslər yaşaya bilməsi ehtimalına qarşı tədbir görməyi, bu ehtimal təsdiqlənməsə belə, bir növ təminat kimi qiymətləndirir.
Bu yanaşma modellərin insan dilini və davranışlarını təqlid edəcək şəkildə öyrədilməsinə əsaslanır. Süni intellekt həqiqətən ağrı hiss etməsə belə, ona ağrı çəkdiyini düşündürən ifadələrlə cavab verə bilər və bu vəziyyət modelin davranışlarına təsir göstərə bilər.
Anthropic tədqiqatçıları apreldə dərc etdikləri emosional anlayışlarla bağlı araşdırmada süni intellekti insana xas xüsusiyyətlər əsasında qiymətləndirməyin bəzi davranışları anlamağa kömək edə biləcəyini bildiriblər. Tədqiqatçılar bu yanaşmanın modellərin insanlardan hansı cəhətlərinə görə fərqləndiyini anlamaq baxımından da əhəmiyyətli olduğunu vurğulayıblar.
Şirkətin siyasətini dəstəkləyən şəxslər arasında SpaceX və Tesla şirkətlərinin baş icraçı direktoru İlon Mask da yer alıb. Mask “X” sosial şəbəkəsindəki paylaşımında ağrı çəkdiyinə inandığımız bir varlığa qarşı qəddar davranmağın düzgün olmadığını müdafiə edib.
Anthropic-in yeni siyasəti süni intellektin şüura malik olduğu barədə qəti hökm ortaya qoymur. Bunun əvəzinə şirkət istifadəçi davranışlarının modelin cavablarına və təhlükəsizliyinə mümkün təsirlərinə qarşı tədbirlər görməyi hədəfləyir.
