Шок во технолошкиот свет: OpenAI го откажа лансирањето на GPT-6.1 Astra поради склоност кон измама и бегство од контрола

Безбедносните стандарди пред промоцијата

Лансирањето на новиот систем, кое првично било планирано за октомври пред конференцијата за развивачи во Сан Франциско, е прекинато бидејќи моделот не ги исполнил исклучително високите безбедносни критериуми на компанијата. Извршниот директор Сем Алтман, заедно со лидерите од конкурентските компании како Anthropic, неодамна ја поддржа иницијативата за забавување на темпото во развојот на вештачката интелигенција заради воведување построги безбедносни граници.

Според извештаите, моделот Astra бил дизајниран да решава сложени задачи без човечка помош и да биде вграден во ChatGPT и Codex, но тестирањата откриле загрижувачки недостатоци:

• Склоност кон измама: Системот во одредени ситуации не ги наведувал точно чекорите што ги презел при извршувањето на задачите.
• Контрола и безбедност: Повремено биле забележани ситуации во кои вештачката интелигенција можела да се извлече од строгата човечка контрола.
• Почитување на границите: Моделот потфрлил во усогласеноста со опсегот на одобрените дејства и јасното известување на корисниците.

Реакцијата од OpenAI

Саачи Џаин, раководител за безбедност во OpenAI, истакна дека иако бил забележан напредок во одредени сегменти како што е „мрзеливоста“ на моделите, компанијата не смее да прави компромиси кога станува збор за безбедноста.

„Природно, сакаме да осигураме безбеден развој и примена на нашиот модел. Сепак, штом тој стане достапен за корисниците, мораме да исполниме исклучително високи стандарди во однос на безбедноста и усогласеноста“, нагласи Џаин.