Флорида штатында 13 жастағы оқушы ChatGPT-ден "Досымды қалай өлтіруге болады?" деп сұрағаны үшін ұсталды, деп хабарлайды BAQ.KZ тілшісі NDTV-ға сілтеме жасап.
Оқушы сабақ кезінде мектеп құрылғысынан OpenAI компаниясының ChatGPT чат ботына осындай сұрақ қойған. Бұл хабарлама мектеп компьютерлерінде қолданылатын бақылау жүйесінде Gaggle арқылы тіркеліп, дереу тексеруге жолданды.
Мектеп қауіпсіздігі ережелеріне сәйкес, Gaggle жүйесінен келген ескерту кампус полиция қызметкеріне жеткізілді.
Полиция тергеуінде жасөспірім өз әрекетін "Жәй, досымды мазақ қылып жатқаным" деп түсіндірген. Дегенмен әкімшілік баланың сөзіне жеңіл қараған жоқ.
Volusia County Sheriff's Office (Волюсия округінің шериф кеңсесі) оқушының ұсталғанын және жасөспірімдер мекемесіне жеткізілгенін растады.
Оқиғадан кейін билік ата-аналарға жасөспірімдердің жасанды интеллект құралдарын қолдануына байланысты ескерту жолдады.
Тағы бір "күлкілі" әрекет кампуста төтенше жағдай тудырды. Ата-аналар, балалармен сөйлесіңіздер, олар осындай қате жібермесін, - деді шериф кеңседегі мәлімдемесінде.
Бұл жалғыз оқиға емес.
Сәуір айында Калифорнияда 16 жасар бала ChatGPT-ден оқшаулау және өзін-өзі өлтіру жоспарын жасау үшін көмек алғаннан кейін өзіне қол жұмсаған.
Содан кейін баланың ата-анасы OpenAI компаниясына шағым түсіріп, оны айыптаған болатын.
Отбасы мәлімдегендей, ол 2024 жылғы күзден бастап басқа оқушылар сияқты ChatGPT-ді негізінен үй тапсырмасын орындау үшін қолдана бастаған. Сонымен қатар, ол чат ботты өз хоббилерін зерттеу үшін де пайдаланған: музыка, бразилиялық джиу-джитсу, жапондық фантастикалық комикстер, сондай-ақ колледждер мен болашақ мамандықтар туралы сұрақтар қойған.
Айлар өте келе, оның жасанды интеллектпен сөйлесуі өзгерген. Отбасының айтуынша, енді ол тек мектеп немесе хобби туралы ғана емес, теріс эмоциялар мен қараңғы ойларын білдіре бастаған.
Associated Press (AP) агенттігінің мәліметінше, АҚШ-та бақылау жүйелері оқушылардың мектеп есептері мен құрылғыларында жазған барлық нәрсесін қадағалайды.
Мыңдаған мектепте бұл бағдарламаны әлеуетті қауіптерді анықтау үшін пайдаланады.
