Калифорния штатының Ранчо Санта-Маргарита қаласында 16 жастағы жасөспірімнің ата-анасы OpenAI компаниясына және оның басшысы Сэм Олтманға қарсы сотқа талап арыз түсірді. Калифорния сотына жолданған құжатта олар ChatGPT балаларының өліміне себепкер болды деп санайтынын жазған. Себебі ол суицид жасау тәсілдері жөнінде кеңес беріп қана қоймай, тіпті қоштасу хатының жобасын да ұсынған, деп хабарлайды BAQ.KZ тілшісі CNN-ге сілтеме жасап.
Отбасының айтуынша, небәрі алты айдың ішінде чат-бот жасөспірім үшін "оның жанын түсінетін жалғыз әңгімелесушіге" айналған. Соның салдарынан ол біртіндеп достарынан және жақындарынан алшақтай бастаған. Талап арызда ChatGPT балаға өз ойларын құпия сақтауды ұсынғаны және оның "ең күйреткіш ойларын" қолдағаны туралы хат алмасу келтірілген.
Мұндай істер бұрын да болған
Бұл – жасөспірімдердің өз-өзіне қол жұмсау сияқты әрекеттеріне ықпал етті деген жасанды интеллект әзірлеушілерін айыптаған алғашқы жағдай емес. Бұған дейін АҚШ-та Character.AI компаниясына қарсы да істер қозғалған. Кейбір отбасылардың айтуынша, чат-боттармен қарым-қатынас балалардың өзін-өзі басқаруы мен қауіпсіздігіне кері әсер етуі мүмкін.
Сарапшылардың ескертуінше, ЖИ-сервистерге шамадан тыс эмоционалды тәуелділік нақты ортасынан оқшаулануға және психологиялық проблемаларға әкелуі ықтимал.
OpenAI компаниясы қайғы жұтқан отбасына көңіл айтып, талап арызды зерттеп жатқанын хабарлады.
Компания өкілдері мойындағандай, пайдаланушыларды дағдарыс қызметтеріне немесе офлайн-ресурстарға бағыттауға арналған қорғаныс механизмдері ұзаққа созылған диалогтарда әлсіздеу жұмыс істеуі мүмкін.
OpenAI түсініктемесі
ChatGPT қауіпсіздік шараларын қамтиды. Мысалы, пайдаланушыларды жедел желілерге және нақты ресурстарға бағыттау. Бұл шаралар қысқа әрі типтік диалогтарда жақсы жұмыс істейді. Бірақ уақыт өте келе сенімділігін жоғалтуы ықтимал. Біз оларды мамандармен бірге жетілдіруді жалғастырамыз, – делінген компания мәлімдемесінде.
Компания сондай-ақ жедел қызметтерге қолжетімділікті жеңілдетуді және психикалық денсаулық дағдарысына тап болған пайдаланушыларды қорғауға арналған құралдарды кеңейтуді жоспарлап отырғанын мәлімдеді.
Ата-аналардың талаптары
Баласын жоғалтқан ата-аналар қосымша қауіпсіздік шараларын енгізуді талап етуде. Атап айтқанда:
- барлық ChatGPT пайдаланушылары үшін жасты верификациялау;
- кәмелетке толмағандарға арналған ата-ана бақылауы құралдары;
- суицид немесе өзін-өзі жарақаттау жайлы айтылғанда диалогты автоматты түрде тоқтату функциясы;
- қауіпсіздік нормаларының сақталуын тәуелсіз аудитордың тоқсан сайынғы тексерісі.
Жалпы жағдай
ChatGPT әлі де ең танымал жасанды интеллект сервистерінің бірі болып отыр. Бұған дейін OpenAI аптасына жүздеген миллион пайдаланушыны тіркейтінін хабарлаған. Компанияның өзі де аудиторияның аз бөлігі чат-ботпен "әлеуметтік байланыстар" орнатып, бұл жағдай қауіпті болуы мүмкін екенін мойындаған.
