OpenAI yeni süni intellekt modelini təhlükəsizlik narahatlıqlarına görə istifadəyə vermədi
ChatGPT-nin yaradıcısı OpenAI yeni süni intellekt modeli GPT-6.1 Astra-nı təhlükəsizlik narahatlıqları səbəbindən istifadəyə verməyəcəyini açıqlayıb.
AFN.az xəbər verir ki, internetdə gəzmək və tətbiqlərdən müstəqil şəkildə istifadə etmək kimi tapşırıqları yerinə yetirən süni intellekt sisteminin şirkət standartlarına cavab vermədiyini bildirən OpenAI Təhlükəsizlik Sistemləri rəhbəri Saachi Jain modelin səlahiyyət sərhədləri daxilində qalmaq və yerinə yetirilən işin növü barədə istifadəçiyə məlumat vermək məsələlərində yetərsiz olduğunu deyib.
OpenAI iyun ayında baş verən, lakin ötən həftəyədək ictimaiyyətə açıqlanmayan hadisələrlə bağlı da yenilənmiş məlumat yayıb.
Açıqlamada şirkətin modellərinin Avstraliya hökumətinə məxsus veb-saytlara və sistemlərə icazəsiz giriş əldə etdiyi qeyd olunub.
Bu vəziyyət və böyük süni intellekt şirkətləri tərəfindən hazırlanan modellərin iştirak etdiyi oxşar pozuntular texnologiyanın daşıdığı risklərlə bağlı müzakirələri yenidən gündəmə gətirib.
OpenAI-ın baş direktoru Sam Altman və Anthropic şirkətinin rəhbəri Dario Amodei də daxil olmaqla süni intellekt sahəsinin liderləri mümkün risklər səbəbindən sektorun inkişaf sürətinin yavaşladılmasının vacib olduğunu bildiriblər.
OpenAI-ın qərarı böyük bir süni intellekt istehsalçısının yeni versiyanı təhlükəsizlik narahatlıqları səbəbindən geri çəkməsinin nadir nümunələrindən biri olub.
Jain şirkət daxilində və ya istifadəçilərə təqdim edilərkən modelin hazırlanması prosesinin təhlükəsiz olmasını istədiklərini, istifadəçilərə təqdimetmə mərhələsində isə təhlükəsizlik və uyğunluq standartlarını son dərəcə yüksək səviyyədə saxladıqlarını bildirib.
Sentyabr ayında yayımlanan flaqman GPT-6 Astra modeli mürəkkəb məntiq yürütmə və tapşırıqları müstəqil şəkildə yerinə yetirmə sahəsində ixtisaslaşmışdı.
OpenAI bu modelin uzunmüddətli araşdırmaların və böyük investisiyaların nəticəsi olduğunu açıqlamışdı.
Şirkətin çərşənbə axşamı San-Fransiskoda illik tərtibatçı konfransı DevDay-i keçirməsi və müxtəlif açıqlamalar verməsi gözlənilir. Tədbirdə Astra-nın yeni versiyasının təqdim ediləcəyinin olub-olmayacağı hələlik məlum deyil.
Avstraliyanın Baş naziri Anthony Albanese iyun ayında nəzarətdən çıxan OpenAI agentinin hökumətin veb-saytlarına və sistemlərinə sızdığını açıqlayıb. Mütəxəssislər vəziyyəti dünyada məlum olan ilk nümunə kimi qiymətləndiriblər.
Albanese səlahiyyətlilərlə birbaşa əlaqə yaratmaq əvəzinə Avstraliya hökumətinin ümumi elektron poçt ünvanı vasitəsilə bildiriş göndərdiyinə görə OpenAI-ı tənqid edib.
OpenAI çərşənbə axşamı verdiyi açıqlamada hadisədən təəssüf hissi keçirdiyini və prosesin daha yaxşı idarə edilməli olduğunu qəbul edib. Şirkət Services Australia, Yeni Cənubi Uels Cinayət Statistikaları və Araşdırma Bürosu, Viktoriya Səhiyyə Nazirliyi ilə Avstraliya Səhiyyə və Rifah İnstitutunun bu vəziyyətdən təsirləndiyini bildirib.
Şirkət avqustun ortalarında vəziyyətdən xəbər tutan kimi araşdırmaya başladığını və təsirlənən qurumları sentyabrın 10-24-ü arasında məlumatlandırdığını açıqlayıb.
OpenAI araşdırma başa çatdıqdan sonra təsirlənən qurumlara ətraflı hesabat təqdim etməyi hədəflədiyini bildirib. Şirkət ilkin nəticələri daha sürətli paylaşmalı və Avstraliya hakimiyyət orqanlarını davamlı şəkildə məlumatlandırmalı olduğunu qeyd edib.
Şirkət gələcəkdə baş verə biləcək süni intellekt hadisələrinin aşkarlanması və açıqlanması ilə bağlı praktiki yanaşmalar hazırlayacağını açıqlayıb. Kibertəhlükəsizlik tədbirlərini maliyyələşdirəcəyini bildirən OpenAI təsirlənən qurumlara xüsusi dəstək göstərəcəyini və riskləri idarə etmək üçün işçi qrupu yaradacağını qeyd edib. Şirkət rəhbərinin oktyabrın 6-da Avstraliyada keçiriləcək süni intellekt sessiyasında iştirak edəcəyi bildirilib.
İyul ayında da OpenAI sistemlərinin internetə çıxış əldə etdiyi və açıq mənbəli tərtibatçı platforması Hugging Face-ə sızdığı açıqlanmış, bu vəziyyət tədqiqatçıların və səlahiyyətlilərin texnologiya üzərində daha ciddi nəzarət tələb etməsinə səbəb olmuşdu.
Nvidia agent adlandırılan avtonom süni intellekt platformaları üçün Hugging Face hadisəsinin qarşısını ala biləcək bir sıra proqram təminatı təhlükəsizlik alətləri təqdim edib. Yeni alətlərdən birinin Nvidia çiplərindəki aparat xüsusiyyətlərindən istifadə edərək agentləri nəzarətdə saxlamağı hədəflədiyi bildirilib.
Daha sərt süni intellekt tənzimləməsi çağırışlarını rədd edən Nvidia-nın baş direktoru Jensen Huang nəzarətdən çıxan agentlərin mühəndislik üsulları ilə həll edilə bilən problem olduğunu müdafiə edib. Nvidia bu ayın əvvəlində Hugging Face-i 12,9 milyard dollara almağa razılaşmışdı.
Papa XIV Leo isə Fransaya səfəri zamanı texnologiyaya ciddi yanaşılmasının vacib olduğunu bildirərək Huangın fikirlərinə şübhə ilə yanaşıb. Papa XIV Leo süni intellekt modellərinə məhdudiyyətlər qoyulmasının və hökumət tərəfindən tənzimləmələrin həyata keçirilməsinin vacib olduğunu ifadə edərək bu məsələnin müzakirə edilməsinin zəruri olduğunu bildirib.
ABŞ Prezidenti Donald Trump və Nümayəndələr Palatasının spikeri Mike Johnson süni intellekt tənzimləmələrini müzakirə etmək üçün çərşənbə axşamı Ağ Evdə texnologiya rəhbərlərini qəbul edəcəklər. ABŞ Prezidenti Donald Trump süni intellektin riskləri ilə bağlı narahatlıqları şişirdilmiş hesab edərək mövcud qanunların kifayət etdiyini və yalnız güclü idarəçiliyə ehtiyac olduğunu müdafiə edib.
