Дали треба да ја научиме вештачката интелигенција да ни биде „мајка“ за да не нè уништи?

„КУМОТ“ НА ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА ИМА НЕОБИЧЕН ПРЕДЛОГ: Дали треба да ѝ вградиме мајчински инстинкт на АИ за да не нè уништи?

Џефри Хинтон, научникот добитник на Нобелова награда, познат како „кумот на вештачката интелигенција“, понуди радикално и длабоко необично решение за егзистенцијалната закана од суперинтелигентните машини. Тврдејќи дека традиционалните мерки за безбедност се осудени на неуспех, тој на голема конференција предложи единствениот начин да се обезбеди опстанокот на човештвото е да се изгради вештачка интелигенција со „мајчински инстинкт“, која ќе се грижи за нас како мајка за своите деца.

„Ако не сакаат да нè воспитуваат, ќе нè заменат“

Хинтон, кој ја напушти својата висока позиција во „Гугл“ за слободно да зборува за опасностите, верува дека постои 10 до 20% веројатност АИ да ја уништи цивилизацијата. Тој смета дека секоја суперинтелигенција многу брзо ќе развие две цели: да преживее и да стекне поголема контрола. Обидите да ѝ наметнеме правила се залудни, бидејќи таа ќе биде попаметна од нас и ќе ги заобиколи.

Затоа, според него, единствениот добар исход е да создадеме „суперинтелигентни, грижливи мајки со вештачка интелигенција, кои нема да сакаат да се ослободат од своите мајчински инстинкти затоа што не сакаат да умреме“. Во спротивно, вели тој, „ако не сакаат да ме воспитуваат, ќе ме заменат“.

Реакциите: „Тоа не е достоинствено“

Предлогот на Хинтон предизвика жестока дебата меѓу другите експерти. Професорката од Стенфорд, Феи-Феи Ли, со почит не се согласи, изјавувајќи дека не е достоинствено луѓето да бидат третирани како деца во рацете на АИ. „Наша одговорност е на секое ниво да создаваме технологија на одговорен начин. Во ниеден момент не треба да се бара од човекот да се откаже од своето достоинство“, рече таа.

Поранешниот привремен директор на OpenAI, Емет Шир, исто така изрази скептицизам, велејќи дека треба да се гради соработка, а не однос родител-дете.

Последната надеж на еден творец

Дебатата помеѓу Хинтон и неговите колеги го допира срцето на најголемиот предизвик во науката денес – проблемот на „усогласување на АИ“, односно како да се осигураме дека една идна, далеку поинтелигентна свест ќе ги дели нашите вредности и ќе работи во наш интерес. Предлогот на Хинтон, колку и да звучи бизарно, е признание дека логичките правила можеби не се доволни. Тој сугерира дека решението можеби лежи во емоциите, односно во создавање на АИ која има вроден, емотивен нагон да го заштити човештвото.

На крајот, оваа дебата ги отвора двете можни иднини: една во која создаваме добронамерен, супериорен „родител“ на кој му ја препуштаме контролата, и друга, во која остануваме господари на сопствената судбина, користејќи ја АИ само како моќна алатка.