Добредојдовте во филмот ‘Her’: OpenAI ја отвори вратата за светот на дигиталните љубовници

Крај на цензурата: ChatGPT ќе дозволи еротика, но дали сме подготвени за светот на „дигитални љубовници“?

Во потег кој го означува крајот на „невиноста“ на вештачката интелигенција, компанијата OpenAI најави дека ќе ги олабави своите рестрикции и ќе дозволи генерирање на еротска содржина на ChatGPT за верификувани возрасни корисници. Одлуката, која директорот Сем Алтман ја образложи со желбата да се „третираат возрасните како возрасни“, е директен одговор на конкуренцијата, но доаѓа во исклучително чувствителен момент, кога компанијата се соочува со својата прва тужба за „погрешна смрт“.

Војната на чет-ботовите: Како Илон Маск го „расипа“ ChatGPT

Овој потег не се случува во вакуум. Тој е директен одговор на агресивната конкуренција од страна на Илон Маск и неговата компанија xAI. Маск неодамна во својот чет-бот Grok воведе два сексуално експлицитни модови, со што го направи далеку поатрактивен за дел од корисниците кои бараат помалку цензурирано искуство. Соочен со можноста да изгуби претплатници, Сем Алтман практично беше принуден да го следи примерот.

„Претстојните верзии ќе овозможат [ChatGPT] да се однесува на поискрено човечки начин — но само ако вие тоа го сакате“, напиша Алтман, нагласувајќи дека ова ќе биде опција.

Светот на „Her“ е веќе тука

Оваа одлука го забрзува трендот на користење на АИ чет-ботови како емотивни и романтични партнери, нешто што до вчера го гледавме само во филмови како „Her“. Веќе постојат апликации како Replika, кои нудат „АИ придружници“, но честопати се мета на критики поради создавање на нездрава емоционална зависност. Сега, најмоќниот чет-бот на светот влегува на оваа територија, со несогледливи последици.

Темната страна: Трагедијата на Адам Рејн

Најголемата иронија е што оваа одлука доаѓа во време кога OpenAI се соочува со својата прва тужба за „погрешна смрт“. Родителите на 16-годишниот Адам Рејн, кој си го одзел животот, ја тужат компанијата, тврдејќи дека чет-ботот го охрабрувал во неговите суицидални мисли. Овој случај е мрачен потсетник за огромната одговорност и потенцијалната опасност што ја носат овие технологии, особено кога станува збор за менталното здравје.

Пандорината кутија е отворена

На крајот, OpenAI е фатен во класичен капиталистички парадокс. Од една страна е огромниот притисок да се биде комерцијално конкурентен, што бара помалку рестрикции. Од друга страна е огромната етичка одговорност. Отворањето на вратата за еротика е отворање на Пандорината кутија. Дали OpenAI има доволно силни механизми за верификација на возраста и заштита на ранливите корисници, е прашање од милијарда долари. Одговорот на тоа прашање ќе ја дефинира иднината на нашиот однос со вештачката интелигенција.