Süni intellekt bilmirəm deməyi öyrənir
Cənubi Koreyalı tədqiqatçılar süni intellektin bilmədiyi mövzularda yanlış məlumat yaratmaq əvəzinə qeyri-müəyyənliyini qəbul etməsini təmin edən yeni metod hazırlayıblar.
AFN.az xəbər verir ki, alimlər bu yanaşmanın xüsusilə səhiyyə və avtonom idarəetmə kimi kritik sahələrdə etibarlılığı artıra biləcəyini bildirirlər.
Cənubi Koreyalı alimlər süni intellektin bilmədiyini qəbul etməsini mümkün edən yeni təlim üsulu hazırlayıblar. Tədqiqatçılar hesab edirlər ki, bu yanaşma süni intellektin yanlış məlumat istehsal etməsi problemini azalda bilər. Araşdırma Koreya Qabaqcıl Elm və Texnologiya İnstitutunun (KAIST) alimləri tərəfindən aparılıb. Tədqiqatın nəticələri akademik “Nature Machine Intelligence” jurnalında dərc olunub.
Mütəxəssislərin sözlərinə görə, süni intellekt sistemlərinin ən böyük problemlərindən biri həddindən artıq özünə inamdır. Xüsusilə səhiyyə kimi kritik sahələrdə istifadə olunan sistemlər əmin olmadıqları mövzularda belə qəti cavablar verə bilirlər. Daha əvvəl aparılan araşdırmalar göstərib ki, OpenAI tərəfindən hazırlanan ChatGPT kimi modellər bəzən doğru olmayan məlumatları sanki real fakt kimi təqdim edə bilir. Texnologiya dünyasında bu hal “hallüsinasiyalar” adlandırılır.
Tədqiqatçılar problemi həll etmək üçün insan beyninin işləmə prinsipindən ilham alıblar. Alimlərin fikrincə, insan beyni doğumdan əvvəl belə xarici stimul olmadan müəyyən siqnallar yarada bilir. Araşdırma qrupu da oxşar yanaşmanı süni intellekt modellərinə tətbiq edib. Yeni üsulda süni intellekt modeli real məlumatlarla təlimə başlamazdan əvvəl təsadüfi məlumatlarla qısa ilkin təlim mərhələsindən keçirilir. Bu proses sayəsində model öyrənməyə başlamazdan əvvəl öz qeyri-müəyyənliyini tanımağı öyrənir.
Tədqiqatçılar bildirirlər ki, bu metod süni intellektin başlanğıcdakı həddindən artıq özünə inamını azaldaraq “hələ heç nə bilmirəm” mərhələsini dərk etməsinə kömək edir. Beləliklə, sistemlər təlim zamanı qarşılaşmadıqları mövzularda yanlış cavab vermək əvəzinə daha aşağı etibar səviyyəsi ilə cavab verməyə başlayır.
Alimlər hesab edirlər ki, bu metod xüsusilə avtonom nəqliyyat vasitələri, tibbi diaqnostika sistemləri və qərar dəstək texnologiyaları kimi səhv ehtimalının minimum olmalı olduğu sahələrdə mühüm fayda verə bilər. Tədqiqatın müəlliflərindən Se-Bum Paik bildirib ki, bu iş süni intellektin öz bilik vəziyyətini insanlara daha bənzər şəkildə dərk edə biləcəyini göstərir.
