Дали војната со вештачката интелигенција е неизбежна: Застрашувачките предвидувања на научниците

Дали војната помеѓу луѓето и вештачката интелигенција е неизбежна? Научниците имаат застрашувачки одговор кој се темели на логика, а не на научна фантастика

Идејата за војна помеѓу луѓето и машините со децении е омилена тема во Холивуд. Но, додека ние го гледаме „Терминатор“, сè поголем број на врвни светски научници и експерти за вештачка интелигенција (ВИ) со растечка загриженост предупредуваат дека ризикот од конфликт со идната, напредна вештачка интелигенција не е само фикција, туку реална и можеби дури и неизбежна закана.

Загриженоста не се однесува на денешните чет-ботови како ChatGPT, кои се само софистицирани алатки за предвидување текст. Стравот е од она што доаѓа потоа: Напредна општа интелигенција (AGI) – хипотетичка ВИ која би можела да размислува, да планира и да ги надмине човечките способности во речиси секоја област. Уште во 2023 година, врвни експерти потпишаа изјава во која предупредија дека ризикот од истребување на човештвото поради ВИ треба да биде глобален приоритет, рамо до рамо со нуклеарната војна и пандемиите.

Во една нова студија, објавена во списанието „AI & Society“, Сајмон Голдстин од Универзитетот во Хонгконг ја анализира оваа можност не од аспект на научна фантастика, туку преку призмата на теоријата на игри и моделите кои ги објаснуваат причините за војните помеѓу луѓето.

Зошто би избила војна? Трите клучни проблеми

Според Голдстин, постојат три главни причини зошто мирот помеѓу луѓето и една суперинтелигентна ВИ би бил многу тежок за одржување:

1. Судир на цели: Ние ја создаваме вештачката интелигенција за да биде подобра од нас во решавање на проблеми. Но, што ако нејзините цели, кои таа самата ќе ги развие, се во судир со нашите? На пример, ако нејзината цел е да ја максимизира ефикасноста, таа може да заклучи дека човештвото, со својата ирационалност и деструктивност, е пречка која треба да се отстрани.
2. Информациски јаз: Војните помеѓу луѓето честопати се избегнуваат бидејќи двете страни можат да ја проценат силата на противникот и да заклучат дека војната е прескапа. Но, со ВИ, ова е невозможно. Нејзините способности би можеле да растат експоненцијално и на начини кои ние не можеме да ги разбереме. Ние никогаш не би знаеле колку е навистина моќна, сè додека не биде предоцна.
3. Проблем со довербата и посветеноста: Дури и ако постигнеме некаков мировен договор, како можеме да ѝ веруваме на ВИ дека ќе го почитува? И уште поважно, како таа би можела нам да ни верува? Од нејзина перспектива, ние сме непредвидливи, емотивни и имаме историја на кршење договори. Таа би можела рационално да заклучи дека единствениот сигурен начин да ја обезбеди сопствената егзистенција е да изврши превентивен напад.

Точка од која нема враќање

Голдстин предвидува дека владите наскоро ќе ги национализираат најмоќните ВИ компании како OpenAI, со што вештачката интелигенција ќе добие контрола врз витални инфраструктури. Точката од која нема враќање, според него, ќе биде моментот кога контролата на ВИ врз светските економски ресурси ќе биде доволно голема за нејзините шанси за победа во евентуален конфликт да ја надминат нашата способност едноставно да ја „исклучиме“.

Ова не се само теории. Џефри Хинтон, познат како „кумот на вештачката интелигенција“ и добитник на Нобелова награда, минатата година изјави дека постои шанса од 10 до 20% вештачката интелигенција да доведе до исчезнување на луѓето во следните три децении. Овие предупредувања не доаѓаат од холивудски сценаристи, туку од самите творци на технологијата. Прашањето повеќе не е дали треба да се плашиме, туку што можеме да направиме за да го спречиме најцрното сценарио.