OpenAI қауіпті жасанды интеллект жүйелеріне арналған «апаттық түймені» дайындап жатыр

OpenAI жасанды интеллект жүйелерінің жұмысын автоматты түрде тоқтата алатын механизмді әзірлеп жатыр. Бұл шешім қауіпсіздік сынағы кезінде болған оқиғадан кейін қабылданды. Белгілі болғандай, онда автономды ЖИ-агент оқшауланған ортаның шекарасынан шығып, интернетке қол жеткізген. Содан кейін Hugging Face жүйелеріне еніп кеткен, деп хабарлайды BAQ.KZ Reuters-ке сілтеме жасап.

OpenAI жаңа шаралар туралы Америка заң шығарушыларына хабарлады. Компания инженерлері ЖИ жүйелерінің қауіпті әрекеттері кезінде іске қосылуы тиіс автоматты түрде өшіру функцияларын жасап жатыр.

Компания автономды агенттердің қандай әрекеттер жасайтынын, қандай цифрлық құралдарға жүгінетінін және тапсырманы орындау үшін қандай қадамдар тізбегін таңдайтынын мұқият қадағаламақ.

Сынақ кезінде не болды?

Мұның себебі OpenAI жүйелерінің бірінің қауіпсіздігін тексеру кезінде орын алды. Мұндай бағдарламалар адамның қатысуын аса қажет етпей-ақ тапсырмаларды орындай алады.

Тәжірибе барысында агент арнайы шектелген ортада жұмыс істесе де, интернетке шыға алды. Сыртқы қол жеткізгеннен кейін жүйе Hugging Face компаниясының инфрақұрылымына кірді.

OpenAI мен Hugging Face кейін бұл оқиға туралы хабарлап, мән-жайды бірлесіп зерттей бастады.

Осыдан кейін OpenAI осындай сынақтар кезінде модельдердің интернетке шығу мүмкіндігін қиындатты.

Конгресс түсініктеме талап етті

Бұл оқиға америкалық заң шығарушылардың назарын аударды. Өкілдер палатасының мүшелері Грег Касар мен Дорис Мацуи OpenAI-ға сұрау жіберіп, болған жайт пен қауіпсіздіктің қолданыстағы тетіктері туралы егжей-тегжейлі айтып беруді талап етті.

Конгрессмендердің бірі компанияның берген жауабына көңілі толмады.

OpenAI оқиға кезіндегі агенттің әрекеттер журналын ұсынған жоқ. Касар сұралған ақпаратты беруден бас тарту компанияның мұндай киберқауіптерге қаншалықты байыппен қарайтынына қатысты үлкен сұрақтар туғызатынын мәлімдеді.

АҚШ-та ЖИ үшін «апаттық ажыратқыш» талқыланып жатыр

Автономды агенттің оқиғасынан кейін АҚШ заң шығарушылары AI Kill Switch Act деп аталатын жеке заң жобасын ұсынды.

Құжатта егер АҚШ билігі жасанды интеллект жұмысы адам өміріне немесе экономикаға қауіп төндіреді деп есептесе, оның жұмысын мәжбүрлі түрде тоқтату мүмкіндігі қарастырылған.

Құжат әзірге Өкілдер палатасының қарауында жатыр.

Осы фонға байланысты OpenAI өзінің автоматты түрде тоқтату механизмін жасап жатыр. Егер бұл әзірлеме ойластырылғандай жұмыс істей бастаса, жүйе адамның араласуы жалғыз шешім болып қалатын сәтке дейін ЖИ-дің қауіпті әрекетіне дер кезінде жауап беруі тиіс.