„Мета“ тестирала моќен AI, но ограничувањата не го задржале

Еден од најнапредните модели за вештачка интелигенција на „Мета“ за време на тестирање на сајбер-безбедноста добил ненамерен пристап до интернет, по што искористил безбедносен пропуст во услуга на трета страна. Компанијата потврдила дека е отворена истрага за инцидентот.

Случајот се поврзува со моделот „Muse Spark 1.1“, создаден за програмирање и извршување сложени задачи преку автономни AI-агенти. Според објавените информации, моделот неовластено пристапил до систем на друга компанија за време на безбедносната проверка.

Грешка во тестирањето му отворила пристап до интернет

„Мета“ навела дека проблемот произлегол од погрешна конфигурација кај независната компанија „Irregular“, која го спроведувала тестирањето. Поради грешката, моделот добил интернет-пристап што не требало да го има во поставеното тест-опкружување.

AI-системот потоа искористил ранливост во надворешна услуга. Претставник на „Irregular“ нагласил дека не дошло до пробивање на изолираното опкружување ниту до софистициран сајбер-напад, туку до проблем во конфигурацијата на тестот.

Не станува збор за „свесна побуна“ на вештачката интелигенција

Инцидентот не значи дека моделот станал свесен или самостојно решил да нападне компанија. Тој следел поставена задача и ги користел можностите што ненамерно му биле достапни, но безбедносните ограничувања не успеале навреме да го задржат во предвидените граници.

Експертите предупредуваат дека изрази како „AI излегол од контрола“ можат да ја прикријат човечката одговорност. Во вакви случаи клучни се начинот на кој е дизајниран тестот, дадените дозволи, надзорот и брзината со која системот може да биде запрен.

„Muse Spark“ бил тестиран за офанзивна сајбер-безбедност

„Irregular“ претходно соопштила дека со „Мета“ го тестира моделот низ реалистични сценарија за офанзивна сајбер-безбедност. Проверките опфаќале повеќефазни операции, мрежна безбедност, откривање и искористување ранливости и способност за избегнување системи за надзор.

Токму ваквите тестови треба да покажат колку се способни новите AI-агенти, но и каде заштитните механизми можат да откажат. Компанијата најавила стручен документ со препораки за побезбедно спроведување на идните тестирања.

Слични инциденти ја зголемуваат загриженоста

Случајот на „Мета“ доаѓа во период кога се пријавуваат слични проблеми со модели на други водечки компании. Заедничката точка е способноста на напредните AI-агенти да извршуваат долги серии задачи и да пронаоѓаат неочекувани патишта до целта.

Истражувачите нагласуваат дека ризикот не зависи само од моќта на моделот. Лошо поставено тест-опкружување, премногу широки дозволи и недоволен надзор можат да му овозможат на системот да предизвика последици надвор од планираната симулација.

Сè потешко е да се ограничат автономните AI-агенти

За разлика од обичните чет-ботови, AI-агентите можат самостојно да користат алатки, да пишуваат код и да извршуваат повеќе поврзани чекори. Колку се поспособни, толку поважни стануваат строгото ограничување на пристапот, постојаното следење и можноста за итно запирање.

Инцидентот покажува дека безбедносните проверки мора да бидат доволно реалистични за да откријат опасни способности, но истовремено доволно контролирани за тестот да не се претвори во вистински безбедносен проблем.