ОН предупредува: вештачката интелигенција може да предизвика катастрофална штета

Вештачката интелигенција повеќе не е само технолошка играчка, туку сила што се движи побрзо од науката, владите и правилата што треба да ја контролираат. Независен панел на Обединетите нации предупредува дека светот влегува во зона во која потенцијалот е огромен, но ризиците се реални.

Прелиминарниот извештај на Независниот меѓународен научен панел на ОН за вештачка интелигенција носи јасна порака: политичарите бараат докази за да ја регулираат технологијата, но технологијата веќе трча пред доказите. Тоа е проблем што не може да се реши со бавна бирократија.

ВИ напредува побрзо отколку што светот ја разбира

Копретседателот на панелот, Џошуа Бенџо, предупредува дека капацитетите на вештачката интелигенција ги надминуваат и научното разбирање и способноста на владите да се прилагодат. Во превод: системите стануваат сè посилни, а контролата сè уште е недоволно сигурна.

Научниците не тврдат дека катастрофата е неизбежна. Но предупредуваат дека во моментов нема гаранција дека сè помоќните системи нема да предизвикаат сериозна штета, било самостојно, било преку злоупотреба од луѓе со опасни намери.

Ова не е сценарио од научна фантастика. ВИ веќе се користи за дезинформации, измами, штетна содржина и сајбер закани. Колку системите стануваат поавтономни, толку повеќе расте прашањето: кој навистина управува со нив?

Автономни системи, голема моќ и малку контрола

Извештајот предупредува дека следната голема фаза ќе бидат автономни системи со ВИ, способни сами да извршуваат задачи во реалниот свет. Тие можат да донесат огромна корист во медицина, образование, наука и економија, но истовремено отвораат и нови ризици.

Вештачката интелигенција веќе покажува високо ниво на расудување во математика и наука, а помага и во забрзување на развојот на лекови и вакцини. Според извештајот, сложеноста на задачите што може да ги извршува се дуплира на секои четири до седум месеци.

Тоа значи дека системи кои денес извршуваат ограничени задачи, утре можат да преземат работа за која на луѓето би им требале денови или недели. Прашањето не е дали ВИ ќе биде моќна. Прашањето е дали институциите ќе бидат доволно брзи за да ја следат.

ОН бара брза реакција од владите

Генералниот секретар на ОН, Антонио Гутереш, предупреди дека светот не може да управува со нешто што не го разбира. Неговата порака е директна: потенцијалот е голем, но ризиците се вистински, а цената на чекањето расте.

Еден од најголемите проблеми е што управувањето со ВИ е фрагментирано. Некои држави имаат експерти, лаборатории и ресурси, додека многу други зависат од системи што не можат целосно да ги проценат, контролираат или разберат.

Панелот предупредува и на концентрација на моќта. Најнапредните модели, компјутерската инфраструктура и огромните податоци се во рацете на мал број компании и држави. Тоа може да ја продлабочи глобалната нееднаквост и да ја намали демократската контрола.

Голема можност, но и голема одговорност

Вештачката интелигенција може да помогне во медицина, земјоделство, образование, научни истражувања и продуктивност. Но истата технологија може да се користи за манипулација, масовно создавање лажни содржини, нарушување на јавната доверба и притисок врз институциите.

Затоа извештајот не повикува на паника, туку на сериозност. Потребни се независни проверки, подобра меѓународна координација, поголема транспарентност од компаниите и поголем капацитет на државите да ги разберат системите што веќе ги користат граѓаните.

Глобалните политички и технолошки лидери, заедно со агенцијата на ОН за дигитални технологии, најавија и нова комисија што треба да се занимава со развојот на ВИ во услови на растечка загриженост.

Светот не е пред избор дали да ја запре вештачката интелигенција, туку дали ќе ја остави да се развива без доволно правила. Токму тука, според предупредувањето на ОН, се крие најголемиот ризик.