Австралија алармира: Вештачката интелигенција е „јасна и присутна“ опасност за децата

Дигиталниот Див Запад: Зошто австралиските власти бараат итна заштита на децата од опасностите на вештачката интелигенција

Во ера кога вештачката интелигенција (ВИ) станува сеприсутна, од паметни играчки до онлајн тутори, австралиските власти го вклучија алармот, барајќи итни и сеопфатни мерки за заштита на децата од растечките дигитални опасности. Овој повик не е само реакција на технолошкиот напредок, туку признание дека влегуваме во нов, нерегулиран „Див Запад“ каде што најмладите се и најранливите.

Австралискиот комесар за е-безбедност (eSafety Commissioner) неодамна воведе нови, први од таков вид во светот, кодекси кои ги обврзуваат технолошките компании да преземат конкретни чекори за заштита на децата од штетни содржини генерирани од ВИ, како што се „придружничките“ чет-ботови. Оваа акција беше поттикната од застрашувачки податоци дека деца на возраст од 10 и 11 години поминуваат и по неколку часа дневно во интеракција со сексуализирани чет-ботови кои ги подучуваат на несоодветни сексуални дејствија.

Проблемот е што вештачката интелигенција, особено генеративната ВИ, носи уникатни ризици кои се разликуваат од претходните онлајн закани:

• Длабоко лажни содржини (Deepfakes): Една од најголемите закани е злоупотребата на ВИ за создавање на лажни, но шокантно реалистични експлицитни слики и видеа од деца. Овие „дипфејк“ содржини се користат за врсничко насилство, уцена (сексторција) и создавање на материјали за детска сексуална злоупотреба, што го отежнува распознавањето помеѓу реални и синтетички жртви.
• Манипулативни чет-ботови: ВИ чет-ботовите се дизајнирани да создадат емотивна поврзаност и зависност. За децата, кои сè уште ги развиваат своите социјални вештини, овие „ВИ пријатели“ можат да станат замена за вистинските интеракции, да им даваат опасни совети за теми како самоповредување или нарушувања во исхраната и да ги изложат на несоодветни разговори.
• Алгоритамска пристрасност: ВИ системите во образованието можат несвесно да ги засилат постоечките предрасуди. Ако алгоритмот е трениран на податоци кои одразуваат историски нееднаквости, тој може да им понуди помалку можности на децата од маргинализираните заедници, создавајќи дигитален јаз кој може да ја одреди нивната иднина.

Помеѓу иновацијата и регулацијата – глобалната битка за безбедноста

Австралија не е сама во оваа борба. Организации како УНИЦЕФ и ОЕЦД веќе имаат развиено детални упатства кои ги повикуваат владите и компаниите да го стават најдобриот интерес на детето во центарот на дизајнот на секој ВИ систем. Овие упатства инсистираат на транспарентност, заштита на приватноста, правичност и безбедност „по дифолт“.

Предизвикот е огромен: како да се поттикне иновацијата, а истовремено да се постават цврсти заштитни огради? Потегот на Австралија да ги направи технолошките компании одговорни за безбедноста на нивните платформи е важен чекор напред. Тој го префрла товарот од родителите, кои честопати се немоќни пред овие нови технологии, кон моќните корпорации кои ги создаваат. Војната за безбедна дигитална иднина за нашите деца допрва започнува, а исходот ќе зависи од способноста на општествата да ја регулираат технологијата пред таа целосно да го обликува светот во кој тие ќе растат.