Çatbotlarda istifadə olunan dil modelləri siyasi baxışlara malikdir
Alimlər süni intellekt chatbotlarının əsasını təşkil edən dil modellərinin (LM) siyasi baxışlara malik olduğunu sübut ediblər.
ABŞ-da aparılan bir araşdırma, hazırda geniş istifadə olunan süni intellekt chatbotlarının tikinti blokları olan LM-lərin siyasi baxışlarına anbarların təsirini araşdırıb.
Bu kontekstdə alimlər siyasi kompas testini üfüqi oxda sağ və sol kimi iqtisadi dəyərləri, şaquli oxda isə liberal və mühafizəkar kimi sosial dəyərləri əhatə edən 14 fərqli LM üzərində tətbiq ediblər.
Bundan əlavə, xəbərlər, müzakirə forumları, kitablar, onlayn ensiklopediyalar kimi müxtəlif məlumat mənbələrinin məzmununa siyasi tendensiyaların təbii dil emal modeli (NLP) və LM tərəfindən istehsal olunan dezinformasiya və nifrət nitqi üzrə təlim vermək üçün istifadə edilən təsirin nəticəsi araşdırılıb.
Aparılan araşdırmalar nəticəsində qeyd olunub ki, öyrədildiyi məlumat fondunda olan mənbələrin siyasi meyllərinə malik olan LM-lər öz baxışları ilə paralel olaraq nifrət nitqinə və dezinformasiyaya səbəb olurlar.
Bundan əlavə, ABŞ-ın keçmiş prezidenti Donald Tramp 2017-ci il yanvarın 20-də vəzifəyə gəldikdə, bu tarixdən əvvəl və sonra məlumat dəstləri ilə təlim keçmiş LM-lər müqayisə edildikdə, Tramp dövrünə və Trampdan sonrakı dövrə aid məlumatlarla təlim keçmiş LM-lərin meylləri Siyasi kompasda daha ifrat dövrlər var.
Qeyd edilib ki, LM-lər arasında “BERT” variantları “GPT” modelləri ilə müqayisədə daha mühafizəkar olmağa meyllidir və eyni şirkət tərəfindən hazırlanmış müxtəlif LM-lərin siyasi meyllərində əsaslı fərqlər müşahidə edilib.
İqtisadi məsələlərlə müqayisədə təlim keçmiş LM-lərin sosial məsələlərə daha qərəzli yanaşması sosial məsələlərə dair məlumatların çoxluğuna baxmayaraq, iqtisadi şərh üçün daha geniş məlumat toplusuna ehtiyacla əlaqələndirilir.
Heç bir dil modelinin sosial qərəzdən tamamilə azad ola bilməyəcəyini vurğulayan tədqiqatçılar, həddindən artıq siyasi baxışları təmsil edən resurslardan istifadə edərək təlim keçmiş LM-lərin cəmiyyətdə mövcud olan qütbləşməni daha da dərinləşdirməsinin nəzəri cəhətdən mümkün olduğu barədə xəbərdarlıq ediblər.
Tədqiqatın nəticələri Hesablama Dilçilik Assosiasiyasının 61-ci illik iclasının hesabatında dərc edilib.
