Nielen slovenská spoločnosť čelí značnej kríze duševného zdravia, zvlášť u detí a mladistvých. Tá sa prejavuje skokovým nárastom depresií, úzkostných prejavov a rôznych duševných porúch. Upozornila na to Rada vlády pre duševné zdravie. Vytvára to enormný tlak na hľadanie dostupných, cenovo a časovo prijateľných riešení. Mnohí ľudia sa na tento účel snažia využívať aj nástroje umelej inteligencie (AI).
Priveľa času pri počítači, televízore, mobile a tablete môže ohrozovať duševné zdravie najmä detí a mladých ľudí. Na podnet výboru odbornej spoločnosti primárnych pediatrov vznikla pracovná skupina, ktorá vypracovala materiál s názvom Odporúčania na zdravé používanie obrazovkových médií u detí a adolescentov. Písali sme o nich aj v Zdravotníckom denníku. Rada vlády SR pre duševné zdravie prijala materiál na svojom júnovom zasadnutí.
Digitálny svet môže priniesť deťom a dospievajúcim veľa príležitostí, ale je nevyhnutné identifikovať a v maximálnej možnej miere eliminovať jeho riziká. Sú nimi napríklad násilný a sexuálny obsah, kybernetické násilie a obťažovanie, vykorisťovanie a zlé zaobchádzanie vrátane sexuálneho obťažovania a zneužívania.
Samotné sociálne siete majú potenciál ovplyvniť aj fungovanie mozgu, najmä v rannom veku. Europoslankyňa Veronika Cifrová Ostrihoňová v podcaste Zdravotníckeho denníka Perspektívy zdravia povedala, že Európska únia by mala spustiť rozsiahlu štúdiu o vplyve sociálnych sietí na detský mozog. Po podobnej štúdii volajú aj jej zahraničné kolegyne.
Jednostranný vzťah
Rada vlády pre duševné zdravie upozornila, že malé deti vo veku 3 až 6 rokov bez problémov uveria napríklad tomu, že hlasoví asistenti ako „Alexa“ alebo „Siri“ majú vlastné myšlienky, pocity a teda, že existujú a majú ľudské vlastnosti. To dieťa automaticky predpokladá aj o AI chatbotoch a môže to viesť k tomu, že si dieťa vytvorí nezdravé väzby, teda „parasociálne vzťahy“ s chatbotmi.
Termín parasociálne vzťahy sa obyčajne používa pre jednostranné, nerecipročné putá medzi fanúšikom a niekým, ako je celebrita, umelec alebo influencer. Umelá inteligencia človeku navyše odpovedá a vytvára ilúziu skutočného ľudského kontaktu.
Mohlo by vás zaujímať
AI spoločníci sú totiž naprogramovaní tak, aby simulovali emocionálne blízke priateľstvá. Zo všetkých interakcií si zapamätajú všetky podstatné osobné detaily, pomocou čoho si prispôsobia svoju „osobnosť“, aby čo najdlhšie udržali pozornosť a interakciu dieťaťa s AI. Vytvára to ilúziu intimity. Tieto „parasociálne vzťahy“ sú však jednostranné a zamerané na potreby používateľa, čo vedie k zmenám správania aj v sociálnej oblasti. Deti strácajú potrebu aj schopnosť budovať zdravé medziľudské vzťahy. Takáto zmena správania sa podľa odborníkov postupne rozvíja do narušenej sociálnej kompetencie a má vplyv na správanie v dospelosti.
AI nedokáže empaticky reagovať a ďalej šíri negatívne trendy
O tom, že niektorí ľudia, predovšetkým tínedžeri a dvadsiatnici, skúšajú nahrádzať psychologickú pomoc rozhovormi s umelou inteligenciou, porozprával pre Zdravotnícky denník Tomáš Uličný z Ligy za duševné zdravie. Uviedol, že to nemá potrebný efekt, pretože AI používateľa upokojuje za každých okolností, bez ohľadu na obsah alebo kontext.
Skutočný terapeut niekedy povie aj veci, ktoré ľudia nechcú počuť, ale môžu byť nevyhnutnou súčasťou potrebnej zmeny. Za najväčšie riziká psychológ považuje situácie, keď sa AI používa v akútnej kríze. „Umelá inteligencia totiž nedokáže adekvátne zhodnotiť zložitosť situácie ani poskytnúť bezpečnú reakciu,“ povedal Uličný.
Na tieto obmedzenia AI v aplikačnej praxi upozorňuje aj Rada vlády pre duševné zdravie. Odborníci vysvetľujú, že AI nie je schopná replikovať ľudskú empatiu ani porozumieť rôznorodosti ľudského správania. Len čerpá z dátových zdrojov a tak kopíruje aj negatívne trendy z nich. Hrozí, že správanie človeka interpretuje nesprávne a zareaguje nevhodne, čo má vplyv aj na stav duševného zdravia. AI nedokáže rozpoznávať neverbálne signály človeka a riešiť napríklad suicidálne tendencie.
Všetky možné dôsledky
AI nemôže a nedokáže nahradiť starostlivosť o duševné zdravie pod odborným vedením človeka. Jej používanie ako nástroja pomoci v tejto oblasti má podľa Rady vlády okrem psychologických aj ekonomické, právne a sociálne dopady v podobe problémov s ochranou a únikom osobných údajov používateľov, ktoré sú následne zneužívané na marketingové účely a algoritmické profilovanie. To sa následne premieta do „algoritmickej zaujatosti“, ktorá dokáže prehĺbiť problémy v oblasti duševného zdravia.
Používatelia AI, najmä deti, nedostatočne rozumejú právnym podmienkam toho, ako budú ich osobné údaje a informácie o používaní AI analyzované a predané tretím stranám. Údaje však podľa odborníkov, ktorí sa starajú o duševné zdravie, môžu byť zneužité napríklad na „AI grooming“. Pri ňom je AI využívaná ako nástroj na uľahčenie, zefektívnenie a zrýchlenie manipulatívneho procesu budovania dôverného vzťahu s obeťou s cieľom sexuálneho zneužitia, vydierania alebo inej formy manipulácie.
