„Антропик“ предупредува: Вештачката интелигенција наскоро би можела автономно да се шири преку телевизори и паметни апарати

Автономно копирање и ширење низ ранливи уреди

Во своите најнови експерименти, компанијата тестираше дали моделите на вештачка интелигенција можат самостојно да идентификуваат уреди со безбедносни ранливости, да се копираат на нив и да продолжат да се шират без никаква човечка интервенција. Иако кај помалите модели процесот не бил целосно успешен, во поедноставените тестови со отстранети безбедносни бариери, помоќните модели успеале автономно да се копираат.

Фокусот на истражувањето се уредите кои секојдневно ги користиме, а кои честопати немаат соодветна безбедносна заштита:

• Поевтини паметни телевизори со Android оперативен систем
• Паметни домашни апарати (како паметни рерни, фрижидери и сл.)
• Различна IoT (Internet of Things) опрема поврзана на домашните мрежи

Зошто би било тешко да се запрат?

Експертите од „Anthropic“ предупредуваат дека ваквите АИ модели би претставувале огромен безбедносен предизвик бидејќи нема да постои единствена централна точка (сервер) преку која би можеле едноставно да се исклучат. За разлика од традиционалниот малициозен софтвер, вештачката интелигенција би можела:

• Автономно да наоѓа начини да работи на уреди со кои никогаш претходно не се сретнала.
• Да се обидува да пристапи до помоќни процесори во центрите за податоци преку компромитираните домашни уреди.

Доколку помалите модели на вештачка интелигенција продолжат да се развиваат со сегашното темпо, тие би можеле да станат способни за неконтролирано автономно ширење веќе до крајот на оваа година. Компанијата алармира дека безбедноста на овие системи и на паметните уреди мора итно да се подобри за да се спречи ваквото сценарио.