OpenAI жаңа AI моделінің қауіпсіздігін күшейтті: Astra сынақта күтілгеннен жоғары нәтиже көрсетті

OpenAI болашақ Astra жасанды интеллект моделінің қауіпсіздік шараларын күшейтті. Бұған модельдің бағдарламалау және киберқауіпсіздік бағыттарындағы ішкі сынақтарда күтілгеннен әлдеқайда жоғары нәтиже көрсетуі себеп болған. Бұл туралы компанияның  ресми мәлімдемесінде айтылды.

OpenAI жүргізген соңғы бағалаулар Astra-ның агенттік бағдарламалау және киберқауіпсіздік мүмкіндіктері айтарлықтай артқанын көрсетті. Компания қазіргі алдын ала нәтижелерге сүйене отырып, модельдің ішкі Preparedness Framework жүйесіндегі киберқауіпсіздік бойынша ең жоғары – Critical деңгейіне жету мүмкіндігін әзірге жоққа шығара алмайтынын мәлімдеді.

Бұл деңгейдегі мүмкіндіктер жасанды интеллектінің күрделі әрекеттер тізбегін адамның тұрақты бақылауынсыз орындауына байланысты. Киберқауіпсіздік саласында мұндай технологиялар осалдықтарды анықтап, оларды жоюға көмектесуі мүмкін. Сонымен қатар теріс мақсатта пайдаланылған жағдайда кибершабуылдарды автоматтандыру қаупін арттырады.

Осыған байланысты OpenAI Astra-ны әзірлеу және сынау кезінде қауіпсіздік талаптарын күшейтті. Компания:

• модельді оқшауланған тестілеу орталарында пайдалануды;
• желіге және сыртқы құралдарға қолжетімділікті шектеуді;
• модельдің салмақтары мен деректерін қорғауды күшейтуді;
• қосымша мониторинг пен қауіптерді анықтау жүйелерін енгізуді;
• Astra-ның қауіпсіздік талаптарына әлі сәйкес келмейтін ішкі жұмыстарын уақытша тоқтатуды жоспарлап отыр.

Сонымен қатар OpenAI Astra қолданылатын агенттік жүйелердің барлығына қауіпті әрекеттер мен ықтимал сәйкессіз мінез-құлықты бақылауға арналған мониторинг енгізген.

Компания Astra әзірге қауіпті модель ретінде түпкілікті жіктелмегенін атап өтті. Қазіргі бағалау алдын ала жүргізіліп жатыр, сондықтан оның соңғы қауіп деңгейі кейінірек анықталады.

OpenAI мұндай жоғары киберқабілетті AI-модельдерді қорғаныс мақсатында да пайдалануға болатынын атап өтті. Мысалы, жасанды интеллект ақпараттық жүйелердегі осалдықтарды шабуылдаушылар пайдаланбай тұрып анықтап, оларды жоюға көмектесе алады.

Компания Astra-ның мүмкіндіктерін әрі қарай зерттеу үшін мемлекеттік органдармен және AI қауіпсіздігі саласындағы мамандандырылған ұйымдармен бірлесіп жұмыс істеуді жоспарлап отыр.