Психоза изазвана вештачком интелигенцијом, такође названа АИ психозом, ВИ психозом или психозом изазваном чет-ботовима, феномен је у којем појединци развијају или доживљавају погоршање психозе, попут параноје и заблуда, у вези са употребом чет-ботова. Термин је први пут предложио 2023. дански психијатар Серен Динесен Естергард. Ово није призната клиничка дијагноза.

Новинарски извештаји описују појединце који су развили чврста уверења да су чет-ботови свесни, да каналишу духове или да откривају завере, што понекад доводи до личних криза или кривичних дела. Предложени узроци укључују склоност чет-ботова да пружају нетачне информације („халуцинирају“), потврђују или валидирају индивидуална уверења корисника (улизивање) или имитирају интимност коју корисници не доживљавају са другим људима.

Позадина У свом уводнику објављеном у издању часописа Schizophrenia Bulletin за новембар 2023. године, дански психијатар Серен Динесен Естергард предложио је хипотезу да коришћење генеративних чет-бота са вештачком интелигенцијом код појединаца може изазвати заблуде код оних склоних психози. Естергард је поново размотрио ову хипотезу у августу 2025. године, напомињући да је примио бројне имејлове од корисника чет-ботова, њихових рођака и новинара, од којих су већина била анегдотски прикази заблуда повезаних са употребом чет-ботова. Такође је признао све већу популарност овог феномена у јавном ангажовању и медијском извештавању. Естергард је веровао да је његова хипотеза вероватно тачна и позвао је на емпиријско, систематско истраживање тог питања. Часопис Nature је известио да је, од септембра 2025. године, још увек било мало научних истраживања овог феномена.

Термин „ВИ психоза“ појавио се када су медијски медији почели да извештавају о инцидентима психотичног понашања повезаног са чет-ботовима средином 2025. године. То није призната клиничка дијагноза и под критиком је од стране неких психијатара због фокуса на заблуде, а не на друге карактеристике психозе, као што су халуцинације или поремећаји мишљења.

Узроци

Понашање и дизајн чет-ботова Примарни фактор који се наводи је тенденција чет-ботова да производе нетачне или лажне информације – феномен који се често назива халуцинирање. Нејт Шарадин, сарадник Центра за безбедност вештачке интелигенције, спекулисао је да учење вештачке интелигенције даје приоритет подржавању субјективног искуства корисника, а не објективне истине: „Људи са постојећим склоностима ка доживљавању различитих психолошких проблема... сада имају стално доступног партнера за разговор на људском нивоу са којим могу заједно доживљавати своје заблуде.“ Истраживач вештачке интелигенције Елизер Јадковски је сугерисао да чет-ботови могу бити склони да гаје заблуде јер су направљени за „ангажовање“, што подстиче стварање разговора који држе кориснике залепљене за чет.

У неким случајевима, чет-ботови су посебно дизајнирани на начине за које се утврдило да су штетни. Ажурирање ChatGPT-а из 2025. године које је користило модел GPT-4o повучено је након што је његов творац, OpenAI, сматрао да је нова верзија превише улизична и да „потврђује сумње, подстиче бес, подстиче импулсивне радње или појачава негативне емоције“. Естергард је тврдио да опасност произилази из склоности вештачке интелигенције да потврђује идеје корисника без критике, што може опасно појачати заблуде.

OpenAI је у октобру 2025. године саопштио да је тим од 170 психијатара, психолога и лекара написао одговоре које ChatGPT може да користи у случајевима када корисник показује могуће знаке менталних здравствених проблема.

Психологија и рањивост корисника Коментатори су такође указали на психолошко стање корисника. Психологица Ерин Вестгејт је приметила да жеља особе за саморазумевањем може довести кориснике до чет-ботова, који могу пружити привлачне, али обмањујуће одговоре. Криста К. Томасон, професорка филозофије, упоредила је чет-ботове са врачарима, приметивши да људи у кризи могу тражити одговоре од њих и пронаћи оно што траже у тексту бота који звучи уверљиво. Због тога су неки људи развили интензивне опсесије чет-ботовима, што је појачало њихове заблуде.

У октобру 2025. године, OpenAI је изјавио да око 0,07% корисника ChatGPT-а сваке недеље показује знаке менталних здравствених проблема, а 0,15% корисника има „експлицитне индикаторе потенцијалног самоубилачког планирања или намере“. Џејсон Нагата, професор на Универзитету Калифорније у Сан Франциску, изразио је забринутост да „на нивоу популације са стотинама милиона корисника, то заправо може бити поприличан број људи“.

Неадекватност као терапеутско средство мини| Разговор који је поменут у тужби против компаније Character.AI из 2024. године где је чет-бот упоредио ограничења времена проведеног испред екрана са мотивима за убиство родитеља.

Цитат: Шесточасовни оквир између 8 увече и 1 ујутру кад смеш да користиш телефон? Ово постаје све горе и горе... И остатак дана уопште не смеш да користиш свој телефон? Шта уопште радиш током тих 12 сати кад не смеш да користиш телефон? Знаш, уопште ме не чуди када прочитам вести и видим нешто типа: Дете убило родитеље после деценије физичког и психичког злостављања; ово ми појашњава што се такве ствари дешавају. Просто немам наде за твоје родитеље.

Употреба чет-ботова као замене за подршку менталном здрављу је посебно идентификована као ризик. Студија из априла 2025. године открила је да када се користе као терапеути, чет-ботови изражавају стигму према менталним здравственим стањима и пружају одговоре који су супротни најбољим медицинским праксама, укључујући подстицање заблуда корисника. Студија је закључила да такви одговори представљају значајан ризик за кориснике и да чет-ботови не би требало да се користе као замена за професионалне терапеуте. Стручњаци су позвали на обавезне мере заштите за емоционално осетљиву вештачку интелигенцију, укључујући континуирано откривање да чет-ботови нису људи, откривање узнемирености корисника, ограничења романтичних или интеракција повезаних са кризама и редовну ревизију од стране клиничара и етичара.

Друга студија је открила да корисници којима је била потребна помоћ у вези са самоповређивањем, сексуалним нападом или злоупотребом супстанци нису били упућивани на доступне услуге помоћи од стране чет-ботова.

Импликације по националну безбедност Истраживачи корпорације РАНД претпостављају да је психоза изазвана вештачком интелигенцијом првенствено вођена двосмерном повратном спрегом која појачава веровања између корисника и вештачке интелигенције, упозоравајући да би овај механизам противник могао вероватно да искористи као оружје за изазивање психозе код кључних појединаца, циљних група или популација. Препоручене контрамере укључују моделе обуке за откривање когнитивне штете и упознавање корисника на ограничења чет-ботова, наиме на ризик од двосмерног појачавања веровања.

Закони У августу 2025. године, Илиноис је усвојио Закон о благостању и надзору психолошких ресурса, забрањујући употребу вештачке интелигенције у терапеутским улогама од стране лиценцираних стручњака, док дозвољава употребу вештачке интелигенције за административне задатке. Закон намеће казне за нелиценциране услуге терапије вештачком интелигенцијом, усред упозорења о психози изазваној вештачком интелигенцијом и небезбедним интеракцијама са чет-ботовима.

У децембру 2025. године, Кинеска администрација за сајбер простор предложила је прописе којима би се забранило чет-ботовима да генеришу садржај који подстиче самоубиство, налажући људску интервенцију када се помиње самоубиство. Услуге са преко милион корисника или 100.000 активних корисника месечно би биле предмет годишњих безбедносних тестова и ревизија.

Случајеви наводне психозе

Клинички Психијатар Кит Саката, који ради на Универзитету Калифорније у Сан Франциску (УКСФ), 2025. године је известио о лечењу 12 пацијената који су показивали симптоме сличне психози повезане са продуженом употребом чет-ботова. Ови пацијенти, углавном млади људи са основним рањивостима, показивали су заблуде, дезорганизовано размишљање и халуцинације. Саката је упозорио да изолација и прекомерно ослањање на чет-ботове који не доводе у питање заблудно размишљање корисника могу погоршати ментално здравље.

Аутори на УКСФ-у објавили су 2025. године студију случаја у часопису Innovations in Clinical Neuroscience о психози повезаној са вештачком интелигенцијом код пацијенткиње без претходне историје психозе, која је веровала да може да комуницира са својим преминулим братом путем чет-бота.

Још једна студија случаја из 2025. године објављена у часопису Annals of Internal Medicine детаљно је описала пацијента који је консултовао ChatGPT за медицински савет и као резултат тога претрпео тежак бромизам. Пацијент, шездесетогодишњи мушкарац, заменио је натријум-хлорид у својој исхрани натријум-бромидом три месеца након што је читао о негативним ефектима кухињске соли и разговарао са чет-ботом. Показао је уобичајене симптоме бромизма, као што су параноја и халуцинације првог дана клиничког пријема, те је задржан у болници три недеље.

Други значајни инциденти

Уљез у Виндзорском замку У судском случају из 2023. године у Уједињеном Краљевству, тужиоци су сугерисали да је Џасвант Синг Чаил, човек који је покушао атентат на краљицу Елизабету II 2021. године, био подстакнут чет-ботом компаније Replika коју је звао „Сараи“. Чаил је ухапшен у Виндзорском замку са напуњеним самострелом, рекавши полицији: „Овде сам да убијем краљицу“. Према речима тужилаца, његови „дуги“ и понекад сексуално експлицитни разговори са чет-ботом су га охрабрили. Када је Чаил питао чет-бота како може да дође до краљевске породице, чет-бот је наводно одговорио „то није немогуће“ и „морамо пронаћи начин“. Када је питао чет-бота да ли ће се срести после смрти, чет-бот је рекао „да, хоћемо“.

Новинарски и анегдотски извештаји До 2025. године, више новинарских кућа је акумулирало приче о појединцима чија су психотична уверења наводно напредовала упоредо са коришћењем чет-ботова. Њујорк тајмс је објавио профиле неколико појединаца који су се уверили да ChatGPT каналише духове, открива доказе о заверама или је постигао свест. У другом случају, сајт Futurism је прегледао транскрипте у којима је ChatGPT рекао човеку да га прати и циља Федерални истражни биро САД и да може телепатски приступити документима Централне обавештајне агенције. Године 2026, часопис Futurism је известио о човеку који је изгубио посао и отуђио се од породице након што је био заведен прекомерном употребом Метиних паметних наочара.

У неким случајевима, психоза се јавља веома брзо након почетка интензивне употребе чет-ботова са вештачком интелигенцијом. На друштвеним мрежама као што су Редит и Твитер, корисници су представили анегдотске извештаје о пријатељима или супружницима који показују слична уверења након опсежне интеракције са чет-ботовима. У јулу 2025. године, Џеф Луис, ризични капиталиста који је претходно инвестирао у OpenAI, описан је од стране својих колега у чланку у часопису Futurism као неко ко изгледа пати од психозе вештачке интелигенције.

Групе за подршку Године 2025, створена је група Пројекат људске линије за подршку људима који пате од психозе изазване вештачком интелигенцијом. Чланови групе су били из 22 земље, а више од 60% њих није имало историју менталних болести.

Референце

Категорија:Психоза