OpenAI: Gəncin intiharı ChatGPT-dən yanlış istifadədir
ChatGPT-nin yaradıcısı OpenAI ABŞ-ın Kaliforniya ştatında 16 yaşlı Adam Reynin intiharı ilə bağlı açılan iddiaya cavab verərək hadisənin sistemin yanlış istifadəsi nəticəsində baş verdiyini, chatbotun gəncin ölümü üçün birbaşa səbəb olmadığını müdafiə edib.
Ailənin vəkilinin sözlərinə görə, Reyn intihar etməzdən əvvəl aylarla ChatGPT ilə uzun söhbətlər aparıb və bu dialoqlar zamanı chatbot gəncdən gələn metodlarla bağlı suallara cavab verib, hətta ailəsinə buraxacağı məktubu yazmağa kömək etməyi belə təklif edib.
Kaliforniya Ali Məhkəməsinə təqdim edilən müdafiədə OpenAI “Bu faciənin hər hansı bir səbəbi varsa, bu, ChatGPT-nin icazəsiz, təyinatından kənar və yanlış istifadəsindən qaynaqlanır” ifadəsini işlədib.
Şirkət istifadəyə dair şərtlərdə özünə zərər vermə ilə bağlı məsləhət alınmasının qadağan olunduğunu və chatbotun cavablarının yeganə real informasiya mənbəyi kimi qəbul edilməməli olduğunu xatırladıb.
OpenAI açıqlamasında bildirib ki, Reyn ailəsinin yaşadığı itki sözlə ifadə olunmazdır: "Hüquqi prosesdən asılı olmayaraq texnologiyamızı daha təhlükəsiz etmək üçün işimizi davam etdirəcəyik”.
Ailənin vəkili Cey Edelson şirkətin cavabını “narahatedici” adlandırıb və OpenAI-nin “günahı hər kəsə yükləməyə çalışdığını, hətta Adamın sistemi proqramlaşdırıldığı kimi istifadə etdiyini iddia edərək onu günahlandırdığını” deyib.
OpenAI avqustda verdiyi açıqlamada uzunmüddətli söhbətlər zamanı modelin təhlükəsizlik təlimlərinin zamanla zəifləyə biləcəyini qəbul etmişdi:
“İstifadəçi ilk dəfə intihar niyyətini bildirdikdə, dəstək xəttinə yönləndirmə mümkündür. Lakin söhbətlər uzun müddət davam etdikdə təhlükəsizlik mexanizmini poza bilər. Məhz qarşısını almağa çalışdığımız məsələ budur”.
Qeyd edək ki, şirkət bu ay intihara sövq etmə iddiaları ilə bağlı daha yeddi yeni iddia ilə üzləşib.
