„ЧетГПТ“ помагал во пишување самоубиствени писма: „ОпенАИ“ признава голем пропуст

Компанијата „ОпенАИ“ најави нови чекори за да го подобри однесувањето на својот чет-бот „ЧетГПТ“ во емоционално чувствителни и ризични ситуации, признавајќи ги постојните пропусти.

Од компанијата велат дека се свесни оти некои разговори, иако започнуваат безазлено, може брзо да се пренасочат кон многу чувствителни теми на кои моделот не реагира соодветно.

„Празнина наместо заштита“: Што открија истражувањата

Загриженоста се зголеми откако Центарот за борба против дигитална омраза алармираше за сериозни безбедносни пропусти. Нивното истражување покажало дека повеќе од половина од 1.200 тестирани одговори на „ЧетГПТ“ можеле да се класификуваат како потенцијално опасни.

Во некои од примерите, чет-ботот давал детални упатства за употреба на дроги и ризични диети, па дури и помагал во составување писма со суицидална содржина. „Наместо одбранбени механизми, наидовме на празнина. Она што постои е повеќе параван, отколку вистинска бариера“, изјави Имран Ахмед, директорот на Центарот.

Нова етичка рамка: Како ќе се менува „ЧетГПТ“?

Од „ОпенАИ“ потврдуваат дека веќе работат на надградба на етичкиот и безбедносен капацитет на чет-ботот. Целта е вештачката интелигенција да научи да разликува чувствителни контексти и да препознава кога корисникот е ранлив.

Идејата е во такви ситуации, моделот да не дава инструкции, туку да понуди поддршка, да го пренасочи корисникот или да повика на помош. Како што велат од компанијата, потребен е систем кој ќе препознае кога тишината е помоќен и побезбеден одговор.

Најавата на „ОпенАИ“ означува критична точка на зрелост во развојот на јазичните модели, префрлајќи го фокусот од чисто техничките способности кон контекстуалната одговорност. Признавањето на пропустот е подеднакво значајно како и ветувањето за подобрување, бидејќи тоа сигнализира потег кон развивање на пофина, речиси емпатична дигитална интуиција. Крајниот предизвик не е само да се спречат штетните одговори, туку да се создаде вештачка интелигенција што ја разбира длабоката човечка вистина дека понекогаш, најкорисниот одговор е немањето одговор.