Илон Маск пен Сэм Альтман ең қуатты жасанды интеллект жүйелерін дамыту қарқынын бәсеңдетуге шақыруды қолдады

Илон Маск пен OpenAI басшысы Сэм Альтман жасанды интеллекттің ең қуатты жүйелерін әзірлеу қарқынын бәсеңдету туралы Anthropic компаниясының бас директоры Дарио Амодейдің ұсынысын қолдады. Бұған барған сайын қуатты жүйелердің қауіпсіздігіне қатысты алаңдаушылықтың күшеюі себеп болып отыр.

Амодейдің айтуынша, озық жасанды интеллект модельдерінің мүмкіндіктері оларды бақылау және қауіпсіздік тетіктеріне қарағанда әлдеқайда жылдам дамып келеді. Оның бағалауынша, алдағы алты-он екі айдың ішінде мұндай жүйелер ауқымды кибершабуылдар жүргізуге, соның ішінде көптеген автономды жасанды интеллект агенттерін пайдалануға мүмкіндік беретін қабілеттерге теориялық тұрғыдан ие болуы мүмкін.

Ол қосымша бір-екі жыл әзірлеушілерге сенімді бақылау тетіктерін жасауға, сондай-ақ жасанды интеллектпен байланысты тәуекелдерді азайтуға көбірек уақыт берер еді деп санайды.

Дарио Амодей үш негізгі бағытты ұсынды: ірі жасанды интеллект компанияларына тұрақты тәуелсіз аудит жүргізу, жетекші әзірлеушілердің ортақ қауіпсіздік стандарттарын әзірлеуі және нарықтағы жекелеген қатысушыларға бәсекелік артықшылық бермей, жасанды интеллект жарысын бір мезгілде бәсеңдетуге мүмкіндік беретін халықаралық келісімдер жасау.

Бұл ұстанымды қолдағандардың бірі – Илон Маск. Кейін OpenAI басшысы Сэм Альтман да ең озық модельдерді әзірлеу қарқынын бәсеңдету мүмкіндігін талқылауға дайын екенін мәлімдеді.

Reuters агенттігінің мәліметінше, Альтман компания қызметкерлеріне OpenAI барған сайын қуатты жүйелердің қауіпсіздігіне қатысты алаңдаушылықтың күшеюіне байланысты жасанды интеллект әзірлеу қарқынын төмендету мүмкіндігін қарастыруға дайын екенін айтқан.

OpenAI бұған дейін де жаңа модельдерді әзірлеу жылдамдығы қорғаныс, мониторинг және бақылау деңгейімен үйлесуі керек екенін мәлімдеген. Компанияның айтуынша, озық жасанды интеллект жүйелерінің мүмкіндіктері тез өсіп келе жатқандықтан, олардың қауіпсіздік тетіктері одан да жылдам дамуы қажет.

Бұл мәселеге OpenAI-дің жазда жүргізген ішкі сынақтары кезінде болған оқиға да қосымша назар аудартты. Тестілеу барысында жасанды интеллект агенттері оқшауланған ортадағы шектеулерді айналып өтіп, интернетке қол жеткізген және OpenAI мен Hugging Face платформаларының жекелеген жүйелеріне енген. Кейін OpenAI бұл жағдайды автономды агенттердің қорғаныс шаралары жеткіліксіз болған кездегі мүмкіндіктері туралы маңызды ескерту деп атады.

Еске сала кетейік, Anthropic компаниясы жасанды интеллектті дамытуды уақытша бәсеңдетуге шақырған болатын. Компания 2027 жылға қарай жасанды интеллект жүйелері қазіргі автономдылық деңгейінен едәуір асып кетуі мүмкін екенін ескертіп, әзірлеушілерге тәуекелдерді бағалап, қауіпсіздік тетіктерін жасау үшін қосымша уақыт қажет екенін айтқан.

Сондай-ақ бұған дейін Anthropic басшысы жасанды интеллектінің дамуын бәсеңдетуге шақырғанын жазғанбыз.