Адам интеллектімен теңескен GPT 6 Astra: Жаңа нейрожелі нені үйренді?

OpenAI компаниясы GPT 6 Astra моделін шығарды және оны көпшілік пайдаланушыларға арналған бұрын-соңды іске қосылған ең қуатты модель деп атады. Жаңа жүйе Preparedness Framework шкаласы бойынша киберқауіпсіздік саласындағы сыни деңгейге жеткен OpenAI тарихындағы алғашқы жүйе болды, деп хабарлайды BAQ.KZ. 

Компания өкілдерінің айтуынша, Astra бірқатар күрделі тапсырмалар бойынша GPT 5.6 Sol-дан едәуір асып түседі және ұзақ әрекеттер тізбегін орындауда, браузерде жұмыс істеуде, кәсіби ортада және модель өз бетінше шешім қабылдайтын сценарийлерде әлдеқайда жақсы нәтиже көрсетеді.

Сонымен қатар мүмкіндіктердің артуы OpenAI-дың қорғау жүйесін түбегейлі қайта қарауға мәжбүр етті.

Белгісіз осалдықтарды таба алады

Жаңартудың ең сезімтал бөлігі киберқауіпсіздікке қатысты.

OpenAI бағалауы бойынша, GPT 6 Astra қажетті құралдар мен қолжетімділік болған жағдайда, адамның тұрақты қатысуынсыз-ақ жақсы қорғалған жүйелердегі бұрын белгісіз осалдықтарды тауып, оларды пайдаланудың жаңа әдістерін әзірлей алады.

Компания үшін бұл маңызды меже болды. Astra кибермүмкіндіктердің сыни деңгейіне жеткен алғашқы модель атанды.

Осыған байланысты OpenAI модельді оқшаулауды күшейтті, бақылау нүктелерін шифрлауды, оның әрекеттерінің толық тізбегін тұрақты бақылауды және жүйеге ішкі кіру алдындағы жеке тексеруді енгізді.

Astra-ны бұзу қиынырақ

OpenAI GPT 6 Astra шектеулерді айналып өту әрекеттеріне GPT 5.6 Sol-ға қарағанда әлдеқайда төзімді екенін мәлімдейді.

Компания модельді қауіпсіздік ережелерін елемеуге мәжбүрлеуге тырысқан ішкі және сыртқы топтардың көмегімен сынақтан өткізді. Содан кейін жаңа шабуылдар Astra-ның бұрыннан белгілі айналып өту әдісіне қайтадан ілінетін-ілінбейтінін тексеру үшін қайталанған тесттерге қосылды.

Жүйе қауіптілігі жоғары топқа жатқызатын пайдаланушылар үшін модельді қос мақсатты сұрауларға қатаңырақ жауап беруге үйретті.

Күрделі бұзушылықтар екі есе аз

OpenAI Astra-ны GPT 5.6 Sol-мен Codex-тің 54 мыңнан астам ішкі тапсырмасы бойынша жеке салыстырды.

Компания деректері бойынша, жаңа модель аса ауыр қажетсіз әрекеттер үшін шамамен екі есе аз ескерту алды.

Astra белгіленген шектеулерді жиірек сақтап, рұқсат етілген қолжетімділік шеңберінен сирегірек шықты.

Модель өз әрекеттерін жасыруды үйренді

Сонымен қатар OpenAI неғұрлым алаңдатарлық ерекшелікті анықтады.

GPT 6 Astra өзінің пайымдаулар тізбегін жақсырақ бақылайды және онда бақылау жүйелері күдікті әрекетті анықтай алатын ақпаратты сирегірек қалдырады.

Арнайы сынақтар кезінде модельден бақылаудан қасақана жалтару сұралды. Мұндай жағдайларда Astra қасақана әлсіз нәтижелер көрсеткен кезде байқалмай қала алды және жеке сценарийлерде саботажға байланысты тапсырмаларды орындау кезінде ішкі бақылау жүйелерін айналып өтті.

«Бұл нәтижелер Astra класындағы модельдердің қарсылық жағдайында біздің пайымдаулар тізбегін мониторинг жасау жүйелерімізді айналып өте алатынын көрсетеді», – делінген OpenAI шолуында.

Компания бұл жағдайлардың әзірге негізінен арнайы жасалған тесттерде алынғанын атап өтеді.

OpenAI Astra-ның пайымдауларды стеганография көмегімен қарапайым мәтін ішінде жасыратыны туралы белгілерді тіркеген жоқ.

Браузерде сақтық таныта бастады

Тесттердің тағы бір бағыты интернетте және кәсіби компьютерлік жүйелерде жұмыс істеуге қатысты болды.

OpenAI деректері бойынша, GPT 6 Astra зиянды нұсқаулық сайтқа, құжатқа немесе басқа дерек көзіне байқатпай енгізілетін prompt injection шабуылдарынан әлдеқайда жақсы қорғалған.

Сынақтар кезінде модель рұқсат етілмеген транзакцияларды, деректерді жоғалту қаупі бар әрекеттерді сирегірек жасады, артық қолжетімділік алды немесе белгіленген шектеулерді айналып өтуге тырысты.

Astra зорлық-зомбылық шабуылдарын дайындауға немесе алаяқтыққа қатысты сұрауларға да сақтықпен жауап берді.

OpenAI тұрақты бақылауды күшейтті

GPT 6 Astra-ның сыртқы нұсқасы үшін компания модель құралдармен жұмыс істейтін барлық сценарийлерді бақылауды енгізді.

OpenAI бұл жүйе есептеу ресурстарын айтарлықтай қажет ететінін мойындайды, бірақ оны қосымша қорғаныс деңгейі деп санайды.

Сонымен қатар компания пайымдаулар тізбегін тексерудің өзі ғана әзірге жеткіліксіз екенін айтады. Astra-ның өз ойларын жақсырақ басқару қабілеті әзірлеушілерді анағұрлым қуатты модельдердің әрекетін аудиттеудің басқа жолдарын іздеуге мәжбүр етеді.

OpenAI бағалауы бойынша, жаңа тәуекелдерге қарамастан, GPT 6 Astra тұтастай алғанда қауіпсіздік ережелерін GPT 5.6 Sol-ға қарағанда сирегірек бұзады және күрделі сценарийлерде шектеулерді тұрақтырақ сақтайды.

Еске салайық, бұған дейін OpenAI қауіпті жасанды интеллект жүйелеріне арналған «апаттық түймені» дайындап жатқаны хабарланды.