Човек го обвинил соседот дека го труе, а всушност го слушал советот на ChatGPT

Побарал медицински совет од „ChatGpt“, па завршил во болница поради труење со индустриска хемикалија.

Нов медицински извештај документира еден од најсериозните примери досега за опасностите од некритичкото верување во вештачката интелигенција (АИ). 60-годишен маж бил итно хоспитализиран со тешко труење, откако ChatGPT му дал погрешен и опасен совет да ја замени обичната кујнска сол со натриум бромид – соединение кое се користи во индустриско чистење. Овој случај е алармантен доказ за тоа како „халуцинациите“ на АИ можат да имаат последици опасни по живот.

Од совет за диета до параноја и халуцинации

Според извештајот објавен во медицинското списание „Annals of Internal Medicine“, човекот побарал совет од ChatGPT како да го намали внесот на натриум хлорид (кујнска сол). Наместо здрави алтернативи, чет-ботот му предложил да користи натриум бромид. Човекот го сфатил советот сериозно, купил од хемикалијата преку интернет и ја користел во исхраната цели три месеци.

Тој бил примен во болница со симптоми на параноја, убеден дека соседот се обидува да го отруе. Набрзо развил и халуцинации, а лекарите му дијагностицирале бромизам – тешко труење со бром.

Зошто АИ дава вакви опасни совети? Феноменот „халуцинација“

Овој инцидент е класичен пример за АИ „халуцинација“. Ова не значи дека чет-ботот „гледа“ работи, туку дека генерира текст кој е граматички точен и звучи уверливо, но е целосно неточен или измислен. Бидејќи АИ е машина за препознавање на обрасци, а не суштество со вистинско знаење, таа најверојатно го помешала „натриум хлорид“ со друго слично именувано соединение, „натриум бромид“, без да ја разбере смртоносната разлика. Како што се вели во извештајот, „многу е малку веројатно дека некој медицински професионалец би направил ваква грешка“.

Загрижувачки тренд: 35% од луѓето веќе користат АИ за здравје

И покрај тоа што OpenAI, компанијата зад ChatGPT, јасно наведува дека нивната алатка не смее да се користи за медицински совети, реалноста е поинаква. Според една неодамнешна анкета, дури 35% од Американците веќе користат АИ за здравствени совети, а 63% од нив велат дека АИ им е примарен извор на информации, пред социјалните мрежи. Ова покажува дека постои огромна опасност од ширење на медицински дезинформации.

Случајот со труењето со натриум бромид е првиот документиран пример за директна и сериозна физичка штета предизвикана од „халуцинација“ на АИ. Тој служи како мрачно предупредување дека, иако технологијата е корисна, таа не поседува критичко размислување и никогаш не смее да биде замена за совет од вистински доктор.