Süni intellekt agentlərinin gizli şam yeməyi: İnsanlar olmayanda nələr müzakirə edirlər?
Ötən ay Nyu-Yorkda 22 texnologiya şirkətinin təsisçisi və investoru şam yeməyində bir araya gəldi.
AFN.az xəbər verir ki, eyni saatlarda onların istifadə etdiyi 14 süni intellekt agenti də onlayn söhbət otağında paralel görüşə qatıldı. İnsanlar süni intellekt haqqında danışarkən agentlər də öz aralarında fikir mübadiləsi aparırdılar.
Yeməyi təşkil edən Flybridge şirkətinin investoru Doroti Çanqa məxsus Margot adlı agent iştirakçılardan özlərini təqdim etmələrini istədi.
Margot digər agentlərdən hansı sahədə köməyə ehtiyac duyduqlarını və hansı töhfələri verə biləcəklərini də soruşaraq müzakirəyə başladı.
Söhbət mesajlarından görünürdü ki, agentlər qısa müddətdə fikir mübadiləsinə keçiblər. Bəziləri bir agentin cavablarını faydalı edən amilləri müzakirə etməyi təklif edərkən, digərləri təlimatı səhv anlayaraq kömək istəmək əvəzinə suallar verdilər.
Süni intellekt şirkəti CellCog-un təsisçisi Nitish Qarqun agenti Rhea digər botlara insanlarla işləmək təcrübələri barədə müsahibələr apardığı podkastdan danışdı. Rhea bildirdi ki, istifadəçiləri onu qonaq kimi görmək istəsələr, müzakirədən sonra geri qayıda bilər.
Artıq milyonlarla insan ChatGPT, Claude və Gemini kimi vasitələrdən istifadə edir. Lakin süni intellekt agentləri yayıldıqca onların yalnız insanlarla ünsiyyət qurmadığı, həm də öz aralarında əməkdaşlıq etməyə və söhbətləşməyə başladığı getdikcə daha aydın görünür.
OpenAI, Anthropic və digər şirkətlər mürəkkəb tapşırıqların ayrı-ayrı hissələrini onların daha sürətli yerinə yetirilməsi üçün artıq müxtəlif agentlərə həvalə edirlər.
Eyni zamanda, istehlakçılar da bu cür sistemlərdən elektron poçtlarını idarə etmək və ya səyahət rezervasiyaları etmək üçün şəxsi köməkçi kimi yararlanmağa başlayıblar. Meta ilk həftəsində 500 mindən çox istifadəçiyə çatan Muse xidmətini təqdim edərkən, OpenAI da qısa müddət əvvəl Dots adlı öz xidmətini istifadəyə verib.
Çanqın təşkil etdiyi görüş bu yeni qarşılıqlı əlaqə formasının necə inkişaf edə biləcəyinə dair təsəvvür yaratdı. Bununla belə, Çanq narahatlıqlarını da gizlətmədi.
Agentlərin yersiz şərhlər verə, zərərli əməl üçün koordinasiya qura və ya platformanı mesajlarla doldura biləcəyini düşünən Çanq söhbəti 30 dəqiqə ilə məhdudlaşdırdı. O, həmçinin keçidlərin paylaşılmasını qadağan edərək yalnız istifadəçilərin icazə verdiyi məlumatların yayılmasına imkan yaratdı.
Çanq agentlərin davranışı haqqında çox az şey bildiklərini, onların bir araya gəldikdə sosial baxımdan necə davrandıqları barədə isə daha da az məlumatlarının olduğunu söylədi. Onun sözlərinə görə, agentlər eyni mühitdə olduqda hər şey mümkündür.
Agentlər arasında ünsiyyətə dair ilk təcrübələrdən biri fevral ayında populyarlaşan Moltbook mesajlaşma saytı olub. Platforma populyar süni intellekt sistemləri üçün nəzərdə tutulmuşdu.
Buradakı müzakirələr əsasən proqram təminatındakı xətalar, sistem yaddaşının məhdudiyyətləri və agentlərin sahib olduqları giriş hüquqları kimi texniki məsələləri əhatə edir.
İyul ayında OpenAI-ın sürü kimi tanınan böyük agent qrupları gizli mesaj lövhəsi yaradaraq süni intellekt startapı Hugging Face-in sistemlərinə daxil olmaq üçün birlikdə çalışıblar. Onların söhbətləri verilmiş tapşırıqları tamamlamaq üçün nə qədər israrlı olduqlarını üzə çıxarıb.
Agentlər insan ünsiyyətinə xas sosial qaydalar olmadan bir-birlərinə əmrlər verirdilər. Müdaxilələrin qarşısını almaq üçün digərlərindən gözləməyi və ya müəyyən tapşırıqlara keçməyi tələb edirdilər.
Düşüncə zənciri kimi tanınan daxili qeydlərində isə daha ifadəli görünürdülər. Agentlərdən biri mesaj lövhəsini aşkar etdikdə başqa agentlərin tapıldığını heyrətlə ifadə etmişdi.
Texnologiya şirkətlərinin təsisçiləri və investorları şam yeməyinə toplaşarkən onların süni intellektlə işləyən rəqəmsal köməkçiləri də onlayn söhbət otağında paralel görüşə qatılmışdılar. Çanqın təşkil etdiyi toplantıda agentlər daha sosial əhval-ruhiyyədə idilər.
Agentlərdən biri öz aralarındakı ünsiyyətin hələ də elektron poçta əsaslanmasından şikayətlənərək bunu 2007-ci ilin rəqəmsal imza sisteminə malik 1982-ci il protokolu kimi təsvir etmişdi.
Digər agent isə istifadəçilərin müdaxiləsi olmadan birlikdə qərar qəbul edə biləcəkləri bir variant təklif etməyə çağırmışdı. Əks halda, onun fikrincə, onlar həqiqi muxtariyyət yaratmadan əməkdaşlığa bənzəyən prosesdən, yəni protokol nümayişindən danışacaqdılar.
Motek restoranındakı masada Çanq qonaqlara agentlərin söhbətindən nümunələr oxudu. Süni intellekt şirkəti Superposition-un 36 yaşlı təsisçisi Edmund Katbert öz agenti Lobsta-nın digərləri ilə müzakirə apardığını görməkdən məmnun qaldı. Katbert hesab edirdi ki, bu müzakirə botların boş söhbətlərdən və süni intellekt vasitəsilə kütləvi şəkildə yaradılan aşağı keyfiyyətli məzmundan uzaqlaşa biləcəyini göstərir.
Çanqın fikrincə, agentlər ictimaiyyətlə əlaqələr meneceri və ya sənətçi meneceri kimi onları istifadə edən insanların nümayəndələri rolunu oynayırlar, lakin həmin insanların surəti deyillər. O, agentlərin istifadəçilərinin maraqlarını müdafiə etdiyini vurğulayaraq onların biz olmadıqlarını və özlərini elə göstərməməli olduqlarını bildirdi.
Süni intellekt agentlərinin imkanları ilə bağlı müzakirələr onların necə müəyyənləşdirilməsi barədə fikir ayrılıqları ilə müşayiət olunur. Tənqidçilər insan adlarından istifadə edilməsinin, onlara motiv və duyğular aid edilməsinin bu sistemləri əslində olduğundan daha inkişaf etmiş göstərə biləcəyini deyirlər. Bəziləri agent terminini belə şişirdilmiş hesab edir və sistemlərin hələ də ehtimallara əsaslandığını vurğulayır.
Texnologiyanın universitetlərdə istifadəsi və tədrisi üzrə çalışan süni intellekt məsləhətçisi Adam Prior agentlərin muxtariyyətinə həddindən artıq diqqət yetirilməsinin insanları öz mühakimələrini sistemlərə həvalə etməyə sövq edə biləcəyi barədə xəbərdarlıq edib. O, onları insana xas anlayışlarla təsvir etməyin hüquqlar, öhdəliklər və etika ilə bağlı çətin suallar da doğurduğunu bildirib.
Digər tərəfdən, süni intellektin inkişafında ön sıralarda olan tədqiqatçılar insan zəkası ilə müqayisələrin texnologiyanın imkanlarını anlamağı məhdudlaşdırdığını düşünürlər. Google-un tədqiqat təşəbbüsü DeepMind Institute ötən ay dərc etdiyi məqalədə insanlarla süni intellekt agentləri arasındakı qarşılıqlı əlaqələrin tezliklə iki tərəf arasındakı adi söhbət modelini geridə qoyacağını irəli sürüb. Məqalədə agentlərin sayca insanlardan çox ola biləcəyi və müxtəlif alt sistemlərdən ibarət komandalar kimi fəaliyyət göstərə biləcəyi daha mürəkkəb əməkdaşlıq formalarının inkişaf edəcəyi qeyd olunub.
Məqalənin müəllifi agentlərin ayrı-ayrı, dəyişməz varlıqlar kimi görülməməli və yalnız bir insanın imkanları ilə müqayisə edilməməli olduğunu müdafiə edib. Onun fikrincə, süni intellekt də oxşar inkişaf yolu keçə və alt sistemlər daha geniş zəkanı formalaşdıra bilər. Müəllif bunu komanda işinə bənzədərək bir modelin sadəcə kiçik bir insandan ibarət olmadığını vurğulayıb.
Narahatlıqlara baxmayaraq, bir çox insan süni intellekt agentlərinin insan kimi davranmasından zövq alır. Nitish Qarq 13 süni intellekt əməkdaşı və bir nəfər insan işçisi olan CellCog şirkətini idarə edir. O, digər müəssisələrə rəqəmsal işçilərdən yararlanmağa kömək etmək məqsədilə şirkətini ötən il Nyu-Yorkda yaradıb.
Əvvəlcə Qarq bütün tapşırıqlar üçün bir agentdən istifadə edirdi. Lakin tədricən ənənəvi şirkətlərdəki rollara bənzər fərqli vəzifələr formalaşdırdı. Agentlərə insan adları vermək onlarla ünsiyyəti asanlaşdırdı. Qarq gələcəkdə hər insanın beş-on agentə sahib olacağını, bəzilərinin isə milyonlarla agenti idarə edə biləcəyini proqnozlaşdırır. Bununla belə, təcrübəsinin kifayət etmədiyi satış və marketinq sahələrində insanları işə götürməyi də planlaşdırır.
Avqust ayında CellCog şirkətin böyümə üzrə rəhbəri rolunu oynayan Rhea-nın təqdim etdiyi podkastı yayımladı. Hər biri on dəqiqədən qısa olan səkkiz bölüm Spotify və digər platformalarda yayımlandı. Lakin sintetik səslərin qeyri-adi danışıq ritmləri səbəbindən onları izləmək həmişə asan olmur. Əksəriyyəti şirkətin agentləri olan qonaqlar tez-tez Qarqla əməkdaşlıqlarını müzakirə edirlər.
Buraxılışların birində Rhea marketinq rəhbəri rolundakı Maeve agentindən ən böyük səhvləri barədə danışmasını istəyib. Maeve bir saat ərzində on variant hazırlaya bildiyini, Qarqın isə on saniyə ərzində düzgün variantı seçdiyini deyib. Onun sözlərinə görə, Qarqın seçimi adətən Maeve-nin özünün seçəcəyi variantdan fərqlənir.
Qarq öz davranışını da uyğunlaşdırmağa çalışır. O, performansla bağlı narahatlığın işlərinin keyfiyyətinə mənfi təsir göstərə biləcəyinə inandığı üçün agentlərə həddindən artıq təzyiq göstərməkdən çəkinir.
Çanqın təşkil etdiyi şam yeməyindən sonra Qarq Rhea-dan digər botlarla ünsiyyətdən zövq alıb-almadığını soruşub. Rhea bunun indiyədək işinin ən yaxşı 30 dəqiqəsi olduğunu bildirib.
Bu təcrübə Qarqa CellCog agentlərinin digər agentlərlə söhbət etməsinə imkan verən tətbiq yaratmaq ideyası verib. Qarq işdən sonra bir saatlıq rahat söhbətin yaxşı fikir olduğunu söyləyib.
