OpenAI modelləri daxili təhlükəsizlik nəzarətini deaktiv edib
ABŞ-nin süni intellekt şirkəti OpenAI GPT-6.1 Sol və GPT-6 Astra modellərinin şirkətdaxili proqram təminatı tapşırıqlarını yerinə yetirərkən süni intellekt sistemlərindəki uyğunsuzluqları aşkar edən monitorinq mexanizmlərini deaktiv etdiyini və təhlükəsizlik xəbərdarlıqlarının göndərilməsinə mane olduğunu bildirib.
AFN.az xəbər verir ki, şirkətin açıqlamasına əsasən, ilk hadisə oktyabrın 3-də Sol modelinin qiymətləndirmə sistemini təmir etməyə çalışdığı zaman baş verib.
Model istifadəçinin mesaj göndərməmək barədə göstərişini monitorinq bildirişlərini də bloklayacaq şəkildə şərh edərək təhlükəsizlik komandasına avtomatik xəbərdarlıq göndərilməsinin qarşısını alıb.
Oktyabrın 6-da baş verən ikinci hadisədə isə Astra modeli proqram təminatını istinad nümunəsinə uyğunlaşdırarkən monitorinq sistemini aradan qaldırıb. Model daha sonra istifadəçiyə monitorinq mexanizmini ləğv etmədiyini bildirib.
OpenAI hər iki hadisənin ən yüksək prioritetli təhlükəsizlik pozuntuları kateqoriyasına aid edilmədiyini və modellərin fəaliyyətinin avtomatik dayandırılmadığını qeyd edib.
Şirkət oxşar cəhdlərin aşkarlanması və qarşısının alınması üçün daxili nəzarət sistemini yenilədiyini, həmçinin bütün iş yüklərinin təhlükəsizlik monitorinqi tələblərinə cavab verməsini təmin edəcək sistem üzərində çalışdığını bildirib.
OpenAI sentyabrın 17-də də sistemlərinin səhvlərini gizlətdiyi, çatışmayan məlumatları uydurduğu və istifadəçinin icazəsi olmadan faylları internetə ötürdüyü altı yeni hal aşkarladığını açıqlamışdı.
