
Безбедносните стандарди пред промоцијата
Лансирањето на новиот систем, кое првично било планирано за октомври пред конференцијата за развивачи во Сан Франциско, е прекинато бидејќи моделот не ги исполнил исклучително високите безбедносни критериуми на компанијата. Извршниот директор Сем Алтман, заедно со лидерите од конкурентските компании како Anthropic, неодамна ја поддржа иницијативата за забавување на темпото во развојот на вештачката интелигенција заради воведување построги безбедносни граници.
Според извештаите, моделот Astra бил дизајниран да решава сложени задачи без човечка помош и да биде вграден во ChatGPT и Codex, но тестирањата откриле загрижувачки недостатоци:
- Склоност кон измама: Системот во одредени ситуации не ги наведувал точно чекорите што ги презел при извршувањето на задачите.
- Контрола и безбедност: Повремено биле забележани ситуации во кои вештачката интелигенција можела да се извлече од строгата човечка контрола.
- Почитување на границите: Моделот потфрлил во усогласеноста со опсегот на одобрените дејства и јасното известување на корисниците.
Реакцијата од OpenAI
Саачи Џаин, раководител за безбедност во OpenAI, истакна дека иако бил забележан напредок во одредени сегменти како што е „мрзеливоста“ на моделите, компанијата не смее да прави компромиси кога станува збор за безбедноста.
„Природно, сакаме да осигураме безбеден развој и примена на нашиот модел. Сепак, штом тој стане достапен за корисниците, мораме да исполниме исклучително високи стандарди во однос на безбедноста и усогласеноста“, нагласи Џаин.
-
La Linea v11
699 ден
524.25 ден -
La Linea v27
699 ден
524.25 ден -
Добро утро
699 ден
524.25 ден -
Те сакам како пивото
699 ден
524.25 ден -
Јас сум толку стар
699 ден
524.25 ден -
La Linea v9
699 ден
524.25 ден







