OpenAI uşaqların onlayn istismarını aşkarlayan yeni süni intellekt aləti hazırlayıb
Süni intellekt şirkəti OpenAI uşaqların istismarını əks etdirən onlayn görüntüləri, o cümlədən süni intellekt vasitəsilə yaradılan materialları aşkarlaya bilən yeni təsnifat aləti hazırladığını açıqlayıb.
AFN.az xəbər verir ki, şirkətin internet saytında yayımlanan məlumata görə, yeni görüntü təsnifatı aləti uşaqların istismarını əks etdirən və əvvəllər aşkarlanmamış təsvirləri müəyyənləşdirmək üçün vizual əlamətləri təhlil edir.
Alət yoxlama qruplarına hansı görüntülərin ilk növbədə qiymətləndirilməli olduğunu göstərən ballar təqdim edir.
OpenAI bildirib ki, sistem süni intellekt tərəfindən yaradılmış uşaqların onlayn istismarı məzmununu aşkarlamaq üçün xüsusi siqnal təqdim edən və geniş istifadəyə açılan ilk təsnifat alətidir. Şirkət bu sistemi təsdiqlənmiş təşkilatların istifadəsinə ödənişsiz təqdim edəcək.
OpenAI mövcud təhlükəsizlik tədbirlərinə əlavə olaraq, ChatGPT-də uşaqların istismarı ilə bağlı məzmun axtarışı cəhdlərinin qarşısını almağa yönəlmiş yeni xəbərdarlıq mexanizmlərini tətbiq edəcəyini də açıqlayıb.
Bu çərçivədə istifadəçiyə uşaqlara qarşı istismar hesab edilə biləcək məzmunun süni intellekt tərəfindən yaradıldığı halda belə zərərli olduğu izah ediləcək.
İşarələnmiş söhbət silinəcək və istifadəçinin ChatGPT-yə girişinə 24 saatlıq məhdudiyyət qoyulacaq. Bu müddətdə zərərli davranışlara son qoymağa yönəlmiş mütəxəssis dəstəyi də təklif ediləcək.
Qaydaların təkrar pozulması daha uzunmüddətli məhdudiyyətlərə, hesabın bağlanmasına və ya vəziyyət barədə müvafiq orqanlara məlumat verilməsinə səbəb ola bilər.
Şirkət bu yanaşmanın uşaqlara qarşı istismarın qarşısının alınması istiqamətində fəaliyyət göstərən təşkilatların və akademik məsləhətçilərin töhfəsi ilə hazırlandığını bildirib.
