Süni intellekt özünü inkişaf etdirsə, nə baş verəcək?
OpenAI süni intellektin özünü inkişaf etdirə bildiyi dövrün böyük imkanlar yarada biləcəyini, lakin insan nəzarətinin itirilməsi riski daşıdığını bildirib.
AFN.az xəbər verir ki, ChatGPT-nin yaradıcısı OpenAI süni intellektin özünü inkişaf etdirməsinə imkan verən proseslərlə bağlı təhlükəsizlik standartlarının yaradılmasını və bu texnologiyanın təhlükəsiz şəkildə həyata keçirilməsi mümkün olana qədər tam muxtar formada inkişaf etdirilməməsini təklif edib. OpenAI-nin sentyabr ayında yayımladığı məlumatda da tam muxtar rekursiv özünüinkişafın hazırda baş vermədiyi və təhlükəsiz şəkildə həyata keçirilə bilənə qədər bunun izlənilməməli olduğu bildirilib.
OpenAI-nin açıqlamasına görə, süni intellekt sistemləri daha bacarıqlı və avtonom olduqca tədqiqat və inkişaf proseslərinin daha böyük hissəsinin süni intellekt tərəfindən həyata keçirilməsi mümkün olacaq.
Rekursiv özünüinkişaf kimi tanınan bu prosesdə süni intellekt sistemi öz imkanlarını artırmaq üçün təlim və tədqiqat proseslərinə fəal şəkildə töhfə verə bilər.
Şirkətin fikrincə, belə bir inkişaf süni intellekt sahəsində tərəqqinin sürətini əhəmiyyətli dərəcədə artıra və qabaqcıl süni intellekt texnologiyalarının hazırlanması xərclərini azalda bilər.
Lakin OpenAI nəzarətsiz rekursiv özünüinkişaf prosesinin ciddi risklər daşıdığı barədə xəbərdarlıq edib. Şirkət insan nəzarətinin qorunması üçün ortaq təhlükəsizlik standartlarına ehtiyac olduğunu vurğulayıb.
Şirkət zəruri təhlükəsizlik tədbirləri görülmədən süni intellektin öz inkişafını idarə etməsinin insanların süni intellektin hazırlanması prosesinə faktiki nəzarətini itirməsinə səbəb ola biləcəyini bildirib.
OpenAI-yə görə, insanlar süni intellektin apardığı tədqiqatları anlamaq və ya nəzarətdə saxlamaq imkanını itirərsə, sistemlərin insan dəyərləri ilə uyğunsuz davranması və təhlükəsizlik riski yaratması ehtimalı arta bilər.
Şirkət buna görə süni intellektin öz üzərində işləməsinə icazə verilməzdən əvvəl yeni təhlükəsizlik standartlarının müəyyənləşdirilməsini, risklərin daha erkən aşkarlanması üçün ölçmə və insidentlərin bildirilməsi sistemlərinin yaradılmasını təklif edib. OpenAI hazırda model uyğunsuzluğu hallarının izlənməsi və açıqlanması üçün ayrıca çərçivə də tətbiq edir.
OpenAI həmçinin ABŞ administrasiyasını süni intellekt təhlükəsizliyi sahəsində beynəlxalq standartların yaradılmasına rəhbərlik etməyə çağırıb.
Şirkət ABŞ-ın süni intellekt, maliyyə, ticarət, müdafiə və informasiya sistemləri kimi mühüm sahələrdə texnoloji mövqeyinə görə bu məsələdə əhəmiyyətli rol oynaya biləcəyini bildirib.
OpenAI beynəlxalq səviyyədə süni intellekt imkanlarının ölçülməsi, risklərin idarə edilməsi və insan nəzarətinin qorunması üçün uyğun standartların yaradılmasını, həmçinin inkişafın nə vaxt yavaşladılmalı və ya dayandırılmalı olduğunu müəyyən edən ümumi təhlükəsizlik meyarlarının tətbiqini təklif edir.
Şirkət eyni zamanda insan nəzarəti altında işləyəcək avtomatlaşdırılmış süni intellekt tədqiqatçısı yaratmaq üzərində işlədiyini açıqlayıb. OpenAI bu sistemin dərin öyrənmə və uyğunlaşdırma tədqiqatlarını sürətləndirməsinə, növbəti nəsil süni intellekt sistemlərinin isə daha təhlükəsiz və idarəolunan olmasına kömək etməsini hədəfləyir.
