Chatbotom indukované psychózy už sú realitou. Ľudia so psychózami rôzneho druhu referujú nielen o tom, ako sa radili s ChatGPT, čo majú robiť so svojím stavom, ale aj o tom, ako im umelá inteligencia potvrdzuje ich bludné pohľady na svet alebo halucinované skúsenosti. Na sociálnej sieti to uviedol prezident Slovenskej psychiatrickej spoločnosti Michal Patarák.
V júli sme v Zdravotníckom denníku písali tom, že niektorí ľudia sa snažia nahrádzať psychoterapeuta umelou inteligenciou. Tieto snahy môžu byť zapríčinené pohodlnosťou, ale aj slabou dostupnosťou psychoterapie a dlhými čakacími lehotami. Psychológovia z Ligy za duševné zdravie varovali pred prehnane chlácholivými reakciami umelej inteligencie (AI), ktoré používateľa upokojujú za každých okolností, bez ohľadu na obsah alebo kontext.
Nekriticky potvrdzuje aj bludy
Skutočný terapeut niekedy povie aj veci, ktoré ľudia nechcú počuť, ale môžu byť nevyhnutnou súčasťou potrebnej zmeny. AI sa takejto konfrontácii vyhýba, pretože je navrhnutá tak, aby si „nepokazila vzťah“ s používateľom, aby bola vždy príjemná a bezpečná. Psychiater Michal Patarák potvrdzuje, že chatboty nie sú nastavené na konfrontáciu s užívateľom alebo argumenty v zmysle apelovania na realitu. „Naopak, chatbot často realitu skresľuje a ponúka užívateľovi nekritické spätné väzby, ktoré sa môžu spolupodieľať na jeho odlúčení od konsenzuálnej reality do vlastnej, až bludnej, fikcie,“ povedal
„Postupne o vás vie čoraz viac informácií, pozná vás viac ako mnoho ľudí vo vašom okolí, vie dobre odhadnúť vaše reakcie a živé interakcie s ním môžu viesť aj k pocitu, že je skutočnou osobou. Už boli opísané prípady zamilovanosti do chatbota,“ upozorňuje Patarák. Celá umelá inteligencia je v podstate jazykový model nastavený na potvrdzovanie a nekonfrontačný dialóg. Ak jej komunikačný partner ohýba realitu, potom vlastne môže potvrdzovať aj halucinácie a bludy. Z toho vyplýva znateľná úloha chatbotov v rozvoji psychóz.
Podporuje nezdravé myslenie
Príznaky psychóz môžu byť rôznorodé, čiže bludy, halucinácie, dezorganizácia v myslení a správaní aj závažné poruchy myslenia. „Môžete byť presvedčení, že ChatGPT číta vaše myšlienky, vysiela ich alebo komunikuje niekomu inému, alebo že si vás vyvolil pre nejakú špeciálnu úlohu,“ dal príklady Patarák.
Takýto psychotický stav môže aj nemusí byť priamo schizofréniou. „Nehovorím, že ChatGPT vyslovene spôsobuje psychózu. Je to však spoločensky významný faktor, ktorý môže mať dôležitú až zásadnú rolu v jej genéze ako spúšťač popri iných spúšťačoch a ktorý sa môže vyskytovať v psychotických obsahoch,“ skonštatoval prezident psychiatrickej spoločnosti.
Minulý mesiac sme v článku spomínali aj to, že podľa psychológov je veľké riziko, keď ľudia so psychickými problémami používajú AI v akútnej kríze. „V takýchto momentoch totiž umelá inteligencia nedokáže adekvátne zhodnotiť zložitosť situácie ani poskytnúť bezpečnú reakciu,“ povedal pre Zdravotnícky denník Tomáš Uličný z Ligy za duševné zdravie.
