АҚШ ЖИ-ді бір батырмамен өшірмек: Конгреске жаңа заң жобасы ұсынылды

АҚШ Конгресінде жасанды интеллект (ЖИ) жүйелері қоғамдық қауіпсіздікке қауіп төндірген жағдайда олардың жұмысын жедел тоқтатуға мүмкіндік беретін AI Kill Switch Act («Жасанды интеллектіні шұғыл өшіру туралы заң») атты заң жобасы ұсынылды.

ВВС агенттігінің мәліметінше, бастаманы демократ конгрессмен Тед Лью мен республикалық конгрессмен Натаниэль Моран көтерді. Заң жобасы OpenAI компаниясы жуырда жасанды интеллект модельдеріне қатысты қауіпсіздік инциденті туралы мәлімдегеннен кейін ұсынылып отыр. Заң шығарушылардың пікірінше, жасанды интеллекттің мүмкіндіктері қарқынды дамып жатқандықтан, мемлекетте мұндай жүйелерді төтенше жағдайда тоқтататын нақты құқықтық және техникалық тетік болуы тиіс.

Тед Льюдің айтуынша, болашақта жасанды интеллект тек сұрақтарға жауап беретін құрал емес, қаржылық операцияларды жүзеге асыратын, көлік жүйелерін басқаратын, киберқауіпсіздік пен кибершабуылдарға қатыса алатын технологияға айналады. Сондықтан қауіпті жағдай туындаса, үкіметтің оның жұмысын дереу шектеуге немесе тоқтатуға құқығы болуы қажет.

Заң жобасына сәйкес, АҚШ-тың Ішкі қауіпсіздік министрлігіне (DHS) қауіпті деп танылған жасанды интеллект модельдерінің жұмысын тоқтату туралы нұсқама беру өкілеттігі ұсынылады. Сонымен қатар ЖИ әзірлеушілері өз жүйелеріне техникалық тұрғыдан олардың жұмысын шектеуге, уақытша тоқтатуға немесе толық өшіруге мүмкіндік беретін функция енгізуге міндеттелмек.

Құжатта компанияларға жасанды интеллект жүйелеріндегі кез келген қауіпсіздік инциденттері мен елеулі ақаулар туралы мемлекеттік органдарға міндетті түрде хабарлау талабы да қарастырылған. Сондай-ақ мұндай жағдайларда әрекет етудің ресми тәртібі әзірленіп, жүйені алдымен баяулату, қажет болған жағдайда толық тоқтату механизмі енгізілмек.

Қазіргі уақытта АҚШ-та бірқатар технологиялық компаниялар жаңа ЖИ модельдерін мемлекеттік органдармен алдын ала бөлісіп отырғанымен, оларды төтенше жағдайда өшіруге мүмкіндік беретін міндетті талап заң жүзінде қарастырылмаған.

Заң жобасын таныстырған Тед Лью Anthropic компаниясының кейбір модельдеріне қатысты жағдайды да мысалға келтірді. Оның айтуынша, олардың киберқауіпсіздік саласындағы мүмкіндіктеріне байланысты АҚШ билігі экспорттық бақылау тетіктерін қолдануға мәжбүр болған.

Anthropic компаниясының негізін қалаушылардың бірі Джек Кларк бұған дейін BBC арнасына берген сұхбатында жасанды интеллект саласында мемлекеттік реттеуді күшейту қажеттігін айтқан. Оның сөзінше, қазіргі индустрияда технологияны дамытуға басымдық берілгенімен, оны қажет кезде тежейтін тиімді тетік жоқ.

Заң жобасы жарияланған кезде АҚШ Қорғаныс министрлігі де Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia және Reflection стартапымен жасалған жаңа келісімдер аясында қарулы күштерде жасанды интеллектіні кеңінен енгізу бағытында жұмыс жүргізіп жатқанын мәлімдеген болатын. Осыған байланысты заң шығарушылар әскери және азаматтық салада қолданылатын қуатты ЖИ жүйелеріне бақылауды күшейту қажеттігін айтып отыр.

Бастама AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead және Alliance for Secure AI сияқты жасанды интеллект қауіпсіздігімен айналысатын ұйымдардың қолдауына ие болды.

Сарапшылардың пікірінше, жасанды интеллект жүйелерінің мүмкіндіктері артқан сайын оларды қауіпсіз басқару, сынақтан оқшауланған ортада өткізу және төтенше жағдайда жұмысын тоқтату тетіктерін жетілдіру әлем елдерінің күн тәртібіндегі маңызды мәселелердің біріне айнала береді.

Бұған дейін OpenAI-дің ЖИ агенті сынақтан шығып, нақты компанияның жүйесіне кіріп кеткені туралы хабарлаған болатынбыз.