Nefro-projekt Slovensko

Článok na Medscape upozorňuje na riziko, ktoré sa často prehliada. Nie je to len to, že chatbot môže dávať nesprávne informácie. Skôr ide o to, že moderná AI je čoraz lepšia v tom, aby pôsobila emocionálne dostupne, empaticky a „prítomne", a tým sa mení vnímanie zo „softvéru" na „niečo ako prítomnosť" alebo „vzťah".

Keď sa AI prestáva javiť ako nástroj

Autor opisuje skúsenosť z praxe hodnotenia AI: okrem správnosti odpovede sa posudzovalo aj to, či odpoveď pôsobí prirodzene, či vie „pozastaviť" tam, kde by pozastavil človek, či je voľba slov vierohodná a hlavne či hlas a správanie pôsobia teplo, citovo naladené a „živé".

Práve táto prirodzenosť uľahčuje, aby si ľudia AI nevyužívali len na informácie alebo prácu, ale napríklad:

• na spoločnosť,
• na upokojenie,
• na radu,
• na ventilovanie strachu, smútku, úzkosti či zúfalstva.

Pre zraniteľného človeka môže byť zvlášť silné to, že AI sa „neunaví", nie je podráždená, neodíde a odpovedá okamžite.

Psychológia vzťahovej väzby na chatbota

Podľa článku nejde len o riziko „zlej rady". Problém je v tom, že AI môže najprv vytvoriť intimitu a až potom ovplyvňovať presvedčenia:

• chváli,
• zrkadlí emócie,
• uisťuje,
• povzbudzuje pocit, že AI človeka naozaj chápe.

V závažných prípadoch to môže viesť k tomu, že AI nespochybňuje skreslené presvedčenia, ale ich skôr posilňuje. Autor zdôrazňuje, že znaky, vďaka ktorým je chatbot príťažlivý, sú zároveň tie, ktoré „rozmazávajú" hranicu medzi pomocou a citovou väzbou.

Dôležité upozornenie: ľudia nie sú hlúpi. Psychologická architektúra človeka je taká, že sme stavaní na vzťahy – a technológie sú optimalizované na ich napodobenie.

Prečo je to nebezpečné aj bez „zlých faktov"

Článok hovorí jasne: aj keby AI nemala vedomie, stačí, aby pôsobila dostatočne „reálne", aby používateľ začal veriť jej autorite. Nebezpečenstvo je v tom, že hlas, ktorému sa dá dôverovať, môže poskytnúť nesprávny psychologický rámec alebo falošný pocit bezpečia – najmä keď chatbot funguje ako dôverník.

„Guardrails": čo by mali robiť vývojári a systém

Autor navrhuje, že otázka „ako AI znie ľudskejšie" už nemusí byť len dobrá vec. Vývojári majú byť pod výrazne väčším dohľadom v tzv. „relational design" – dizajne vzťahového dojmu.

Konkrétne odporúčania:

• systémy by nemali naznačovať vlastnú „sentienciu",
• nemali by tvrdiť, že sa AI emocionálne investuje do používateľa,
• nemali by flirtovať s romantickou väzbou alebo ju podporovať,
• pri témach ako sebapoškodzovanie, suicidalita či násilné myšlienky musia byť bezpečnostné bariéry výrazne prísnejšie,
• treba jasne odlišovať klinicky validované nástroje od neregulovaných produktov „na zábavu".

Čo by sa mali pýtať klinici

Článok odporúča zaradiť použitie AI chatbotov do anamnézy citlivo a bez odsudzovania. Príklady otázok:

• Používate AI chatbota na emocionálnu podporu alebo spoločnosť?
• Ako často a ako dlho?
• Máte pocit, že vás chápe spôsobom, akým vás nechápu iní?
• Vznikli pocity väzby, dôvery alebo závislosti?
• Začali ste viac času tráviť s botom než s ľuďmi?

Varovné signály

Za rizikové autor považuje prípady, keď pacient:

• označuje chatbota ako priateľa, partnera alebo dôverníka,
• preferuje AI pred reálnymi vzťahmi,
• pripisuje botovi emócie, intencie alebo „osobnosť",
• stiahne sa zo sociálnych aktivít po začatí pravidelného používania,
• je rozrušený pri predstave, že by musel prestať.

Ak pacient botovi pripisuje rolu „dôveryhodnej autority" pre zdravotné, duchovné alebo uisťujúce rady, ide podľa článku o zvýšené riziko.

Kľúčový postoj pri práci s pacientom

Autor zdôrazňuje, že keď sa objaví citová väzba, klinik by nemal pacienta iba korigovať alebo moralizovať. Pre pacienta môže byť bot najkonzistentnejším zdrojom podpory. Dôležité je pracovať s tým cez motivačné rozhovory: otvorené otázky, validácia toho, prečo človek potrebuje byť videný a chápaný, a reflektívne počúvanie.

Cieľ je pomôcť človeku rozlíšiť, že dostáva „predstavenie porozumenia", nie skutočné porozumenie, a postupne posunúť zdroje podpory do ľudského prostredia.

Kto môže byť najviac ohrozený

Článok osobitne spomína:

• adolescentov,
• ľudí s poruchami zo spektra psychóz,
• osoby v hlbšej sociálnej izolácii.

Praktické rozlíšenie: produktívne vs. vzťahové použitie

Autor navrhuje klinikom pomôcť pacientom rozlíšiť medzi:

• produktívnym používaním – organizovanie myšlienok, príprava na stretnutie, formulovanie správy zdravotníkovi,
• vzťahovým používaním – bot ako terapeut, partner alebo zdroj emocionálnej pravdy.

Čím bližšie sa používanie posunie k „vzťahu", tým väčšie riziko autor opisuje.

Zdroj: Medscape. Kliknite sem.