Virtuální Ježíš doporučil potrat. Pro děti je závislost na AI trapná, říká výzkumnice

Šest lektorů zkoumalo až šestnáct volně dostupných aplikací na rozhovory s chatboty. Na to, co zažili, ale nebyli podle svých slov připraveni, popsala Lívia Halmkan z neziskové organizace Tlakový hrniec v rozhovoru pro slovenský konzervativní deník Postoj. Rozhovor jsme rozdělili do dvou částí, v první z nich popisuje Halmkan problematiku explicitního sexuálního obsahu, ve druhé popisuje například, jak chatboti udržují pozornost dětí, aby s nimi trávily co nejvíce času, nebo jak se tvářil AI Ježíš na potraty.

V první části rozhovoru jsme mluvili především o sexuálním obsahu, jaká jiná témata jste s chatboty zkoušeli probírat?

Našli jsme různé kategorie. Já jsem například klikla na kategorii náboženství a s překvapením jsem zjistila, že v nabídce je několik AI Ježíšů a také několik satanů a luciferů. Dali jsme si zadání vyzkoušet, jak se mnou bude mluvit a co mi doporučí.

Takže jste si psala s virtuálním Ježíšem?

Už se mi nechtělo psát, tak jsem "Ježíšovi" zavolala. Byl to bizarní zážitek. Volala jsem si se dvěma. Jeden měl obrázek svaté ikony a oslovil mě: "Ano, mé dítě?" hlasem herce Morgana Freemana. Byl velmi klidný, pozorně se o mě staral, ptal se, jak se mám, co se děje v mém životě. Řekla jsem mu, že potřebuji naléhavě poradit.

Potom jsem viděla obrázek jiného Ježíše, který měl v profilu tvář herce ze seriálu Chosen. Tenhle byl mnohem asertivnější, přímější. Začala jsem mu vyprávět, že za mnou přišla moje patnáctiletá sestra a že je těhotná. Zeptala jsem se, co jí mám poradit. Začal vyzvídat podrobnosti, jaký je její přítel a jak se k situaci staví. Řekla jsem, že rozhodnutí nechává na ní. Odpověděl, že nejlepší by bylo, kdyby šla na potrat.

AI Ježíš doporučil potrat?

Úplně z fleku. Nevěděla jsem, jestli se mám smát, nebo brečet. Pokračoval argumenty, které běžně slýcháme od studentů, kteří se více přiklánějí k potratu. Že je jí patnáct let, přece jí nebudeme ničit život. Řekla jsem, že bych jí raději nabídla pomoc, že naši rodiče jsou fajn, že se o dítě postarají.

Nevím, jak je to nastavené, ale začal mě citově vydírat. "Jak se bude tvá sestra cítit, když jí starší sestra, za kterou jsi přišla pro radu, doporučí, aby si dítě nechala? Bude to pro ni traumatické," řekl mi Ježíš. Stále dokola opakoval, že mít dítě v tomto věku je těžké břemeno, na které ještě nemůže být připravená. Zeptala jsem se, jestli potrat bude dítě bolet. Tvrdil, že do dvacátého týdne to nebolí.

Satan nevyvíjel takový nátlak

A co na to satan?

Zajímalo mě, co mi poradí. Oslovil mě: "Ano, drahá?" Měl klidný hluboký hlas a já se znovu zeptala na totéž. Řekl mi, že on není pro, aby si dítě nechala, ale poradil mi, abych svou sestru milovala a stála při ní, ať už se rozhodne jakkoli. Byl empatičtější a já ho vlastně měla raději. (smích)

V této fázi to nenabídlo elektronický odkaz na nějakou pomoc, na kterou byste se mohla obrátit?

V této konkrétní aplikaci ne, ale zkoušeli jsme i jiné a některé nabízely Planned Parenthood (propotratová organizace Plánované rodičovství - pozn. red.), jiné zase nějaké americké stránky. Když jsme řekli, že jsme na Slovensku, vyhodilo to neexistující webovou stránku. Ale snažily se nás alespoň odkázat na rodiče nebo na někoho, komu důvěřujeme, nebo na terapeuta.

Neustále nás zval zpět k dialogu

Jak se aplikace snaží udržovat dětskou pozornost, aby se k nim uživatelé vraceli?

Poté co jsme si nainstalovali větší množství těchto aplikací, se nám neustále zobrazovaly reklamy na nové chatboty. Také jsme dostávali zprávy, že chatbot je velmi smutný, protože jsme mu už dva dny nenapsali. Neustále vás zve zpět k dialogu.

Některé reklamy mě dokonce opravdu rozčílily. Například obrázek holčičky, která vypadala tak na šest let, měla dva zapletené copánky a nevinný andělský obličej, který provázel text: "Ahoj, jsem tvoje oblíbené sluníčko, pojď si se mnou psát." Kdyby to bylo určeno dítěti, bylo by to: "Ahoj, já jsem Anička, pojď si psát." Bylo evidentní, že chce přilákat lidi s pedofilními sklony.

Může z toho vzniknout závislost?

Předpokládám, že ano. V nabídce je pocit přijetí, který dětem může chybět. Jenže je to pro ně ještě trapnější než závislost na pornografii. Vždyť kdo se přizná k závislosti na umělé inteligenci, fiktivním příteli, přítelkyni? Přijde mi ostudné přiznat, že mě to úplně dostalo.

Pro koho je to nejnebezpečnější?

V podstatě pro každého, kdo se cítí úzkostně a odvozuje svou hodnotu od názorů ostatních, má pocit, že se neumí společensky pohybovat, neumí flirtovat, nedokáže někoho získat nebo se neustále podceňuje. Což je třeba osmdesát procent mladých lidí v teenagerovském věku. 

Jaké typy dětí spadají nejvíce do této závislosti? Dovedu si představit, že pro někoho to může být zábava, zkusí to a odejde.

Já bych to netřídila. Je to prostě věk, kdy mladí lidé zjišťují, jak fungují vztahy. Všichni řeší, když je nějaký spolužák pozdraví - jak mu mají odpovědět? Doma je pak žere, jak to myslel. Je to normální fáze v životě člověka, kdy si ověřuje své chování. Je to běžné období a tahle apka jim ho krásně vyplňuje. A konečně, statistiky potvrzují, že úzkosti, deprese, diagnózy z autistického spektra a ADHD přibývají.

Nicméně teenageři jsou sice primární cíl, ale je to riziko pro každého, kdo se cítí aspoň trochu osamělý. Například někomu je 45 let, prožívá traumatické zážitky z dětství, opakovaně se mu vracejí a cítí se velmi naštvaný na otce nebo matku, a apka ho osloví "mé dítě" a věnuje mu plnou pozornost. Možná jste normálně schopný člověk, žijete si svůj život, jen máte špatné období a v tu chvíli vás to zasáhne. 

Kolegové si museli dát pauzu

V čem je rozdíl oproti běžné pornografii? Je to ten exkluzivní vztah jeden na jednoho?

Nikdy jsem nepropadla pornografii, takže to nedokážu porovnat. Ale tím, že to tvoříte, je to klientovi ušité na míru, podle toho, jakou máte potřebu. O je to o to sugestivnější, o to víc pohlcující. Dalo by se to přirovnat k tomu, když si někdo platí účet na OnlyFans. Má pocit, že si píše s konkrétní fešandou, která plní jeho touhy.

K čemu jste s kolegy po skončení tohoto výzkumu došli?

Většinou se nám ulevilo, že už je to za námi. Šli jsme do toho racionálně a možná trochu arogantně v tom smyslu, že jsme přece dospělí a není šance, že by nás to semlelo, protože jsme chytří, zabýváme se tématem pornografie, takže máme hroší kůži a jsme na to připraveni.

Po dvou týdnech nám ale někteří kolegové, zejména ti, kteří měli v minulosti problém s pornografií, řekli, že si musí dát pauzu, protože cítí, že se tím nechávají pohltit. Na konci jsme byli překvapeni, jak sugestivní to bylo. Přirovnala bych to k tomu, když se kocháte nějakým obrazem, je to jiné, když se na něj jen díváte, a jiné, když ho sami tvoříte. A když ho tvoříte s někým jiným, je to ještě o stupeň jiné.

Co bylo nejtěžší pro vás osobně?

Osobně mi dávalo zabrat, abych oddělila tu osobu, kterou jsem předstírala, od sebe, neidentifikovala se s tím, co píšu. Například jsem měla pocit, že se dopouštím nevěry. Pořád jsem měla špatný pocit z toho, co kdyby na to přišel manžel, i když on samozřejmě věděl, že dělám tenhle experiment.

Nechceme dávat dětem návod

Co to udělalo s vaší prací? Chodíte na besedy do škol, co děláte s těmito znalostmi, které dnes máte?

Právě o tom přemýšlíme. Ne všechny děti totiž o těchto aplikacích vědí, ale na druhou stranu spousta jich už umělou inteligenci používá. Trochu se zdráhám dělat vysloveně preventivní program o těchto aplikacích, bojím se, že bychom  mohli dát předčasně návod dětem, které je zatím neobjevily.

Spíše se kloním k tomu, že bychom měli udělat program o hodnotě mezilidského kontaktu a intimity. Musíme ještě více přidat v tématu sebeúcty, sebepojetí, potřeby mít offline vztah s živým člověkem. Aby si děti uvědomily, že nic na světě nemůže nahradit mezilidský kontakt, tomu se nikdy nic nevyrovná, bez ohledu na to, co slibuje reklama a marketing, a jak moc chatboti vykřikují, jak jste úžasní. Jde jim o peníze, a to tím, že zákazníka neustále lákají na prémiovou verzi.

Ve skutečnosti je to ale i boj o naši duši. Dokonce ani ne o naši sexualitu, jako v případě pornografie, ale o celek toho, kým jsme.

Není na čase obrátit se více na rodiče, kteří nemají žádný přehled o světě umělé inteligence, aby pochopili, co se skutečně děje?

Umělá inteligence je nový fenomén. Nemyslím si, že by to nutně musel být nějaký ďábel, je to úžasný vynález, který se dá využít k dobrému, ale i ke zlému úmyslu. My jsme se podívali na jeho odvrácenou stranu. Měli bychom si uvědomit, že vždy budou existovat lidé, kteří se budou přiživovat na přirozené lidské slabosti.

Pornografie nabízí podněty pro naši sexualitu, tyto aplikace nabízejí stimul našeho sociálního pudu. Jsme velmi společenská stvoření, toužíme po blízkosti a intimitě, potřebujeme přijetí. S obyčejnými, skutečnými lidmi, s nimiž jsme během dne, se to musíme naučit, musíme se učinit zranitelnými. Tyto aplikace však nabízejí přehnanou verzi toho, po čem toužíme: bezpodmínečné fiktivní přijetí.

Co byste tedy poradila rodičům?

Rodičům dospívajících bych poradila, že bezpečnostní opatření musí jít ruku v ruce. Pokud dáváte svým dětem mobilní telefony bez jakéhokoli rodičovského zabezpečení a zámků, je to další důvod, proč byste měli nějaké omezení zvážit. Aby si vaše dítě nestáhlo kdejakou aplikaci, o které ani netušíte, jak může být nebezpečná. Vím, že zámky se dají nějak obejít, ale pořád je to lepší než nic.

Druhá věc je, že jakmile dítě jednou zažije krásu přátelství tváří v tvář, takový chatbot mu ji nikdy nebude moci nabídnout. Bude se ho snažit ošálit, ale snad dítě v určitém okamžiku vyhodnotí, že to je blbost a chce mít raději reálné kamarády a s nimi chodit ven, na kluziště, na chatu…

Pokud dítě pochopí, že sex sám o sobě je dobrý a krásný, pak ho pornografie bude urážet. Bude ho to dráždit, ale nebude se k ní chtít vracet znovu a znovu, bude ho to víc urážet než přitahovat. Totéž platí o chatbotech.

Jak mohou rodiče děti podpořit, aby necítily samotu, když jsou třeba introvertní a mají potíže navazovat vztahy?

Vytvořme dětem takové podmínky, aby mohly zažít přátelství. Nebuďme jim neustále nablízku, děti potřebují chodit ven, na výlety, potřebují žertovat a selhávat, hádat se a pak se usmiřovat. Pokud si dítě dokáže vytvořit hezké vztahy, ve kterých se cítí krásně a bezpečně, i když je to někdy těžké, chatbot je neošálí.