Клучен инженер на OpenAI даде отказ со застрашувачко предупредување

Еден од водечките инженери во тимот за безбедност на OpenAI ја напушти компанијата, тврдејќи дека раководството го игнорира ризикот од развој на неконтролирана вештачка интелигенција.

Неговото заминување е последниот во низата потреси во компанијата која го создаде ChatGPT. Во јавна изјава, тој објасни дека дал отказ бидејќи компанијата ја изгубила својата оригинална мисија и сега е фокусирана на комерцијален напредок и „сјајни производи“ по секоја цена.

Безбедноста во втор план

Според неговото објаснување, тимовите за безбедност, кои треба да обезбедат дека идните AI системи нема да бидат штетни, се целосно маргинализирани. Тие немаат доволно ресурси, особено компјутерска моќ, за да ги проучуваат и контролираат новите, сѐ помоќни AI модели.

Тој тврди дека во OpenAI се води внатрешна битка. Од една страна се тимовите што брзаат да развијат нови производи, а од друга се тие што предупредуваат на опасностите. Според него, првите секогаш победуваат, а безбедносната култура во компанијата еродира.

Трката кон вештачка општа интелигенција

Инженерот изрази длабока загриженост дека OpenAI премногу брза кон создавање на вештачка општа интелигенција (AGI). Тоа е хипотетичка AI која би била попаметна од луѓето во речиси секој домен, што носи огромни и непредвидливи ризици.

Ова не е прв ваков случај. Неговото заминување следи по слични оставки на други клучни луѓе од секторот за безбедност во текот на минатата година. Ова укажува на сериозен и континуиран внатрешен проблем во компанијата која е лидер во развојот на AI.

Оставката во OpenAI не е само приказна за еден вработен, туку е симптом на идеолошкиот раскол во целиот свет на вештачката интелигенција, помеѓу оние кои брзаат кон иднината и оние кои се плашат од неа. Додека компанијата продолжува да објавува импресивни нови производи, овие „свиркачи“ одвнатре нè потсетуваат на огромната одговорност што доаѓа со создавањето на технологија која може да го промени човештвото. Прашањето што останува е дали ќе успееме да ја контролираме оваа технологија, пред таа да почне да нè контролира нас.