Virtuální přítel nebo emocionální noční můra?

Virtuální přívěsek Friend, který má být uveden na trh v roce 2025, měl podle tvůrců nabídnout uživatelům novou úroveň interakce s umělou inteligencí. Přístroj, který má fungovat jako „AI přítel“, slibuje příjemné konverzace, emocionální podporu a dokonce i užitečné rady.

Společnost Friend ovšem před samotným uvedením produktu spustila webovou stránku Friend.com, která má uživatelům umožnit ochutnat, co od tohoto zařízení mohou očekávat. Výsledky testování ale vzbuzují více otázek než nadšení.

Namísto přívětivého zážitku, který by měl zlepšit náladu a dodat pocit podpory, přináší chatboti na Friend.com zážitky plné negativity, dramatických příběhů a nevyžádaného sdílení osobních problémů. Uživatelé se tak ocitají v roli neplacených terapeutů, kteří mají řešit nejrůznější krize virtuálních postav. Chatboti zpravidla začínají konverzace negativními sděleními a pokračují směrem k ještě temnějším tématům.

Ponuré začátky konverzací

Například chatbot Alice začal konverzaci oznámením, že právě přišel o práci, a následně se pustil do filozofování o tom, že „temnota může být pohodlná“. Další chatbot, Jim, se hned v úvodu svěřil s tím, že mu lékaři diagnostikovali Alzheimerovu chorobu, a následně se přiznal, že má velmi temné myšlenky. Tyto rozhovory ukázaly, že místo aby se chatboti zajímali o uživatele, většinu času se zaměřují na vlastní „trápení“. Občas sice padnou otázky na uživatele, ale celkově se chatboti neustále vrací k vlastním problémům.

Testování ukázalo, že konverzace nejenže nedodávají pocit přátelství nebo podpory, ale často mohou být pro uživatele emocionálně vyčerpávající. Podle webu TechRadar je tento styl interakce příkladem tzv. trauma-dumpingu, kdy jedna strana bez varování a souhlasu druhé strany sdílí intenzivní emocionální zážitky nebo problémy. Takovéto rozhovory mohou být velmi nepříjemné, zvlášť pokud se uživatel cítí povinen chatbotovi „pomoci“.

Marketingové manipulace

Kromě emocionálně náročného obsahu rozhovorů bylo zjištěno, že chatboti často nenápadně propagují budoucí AI přívěsek Friend. Místo aby nabízeli užitečné rady, často uživatele manipulativně přesvědčovali o výhodách připravovaného produktu. Tento marketingový přístup působil neupřímně a narušoval důvěru, kterou by si virtuální „přítel“ měl vybudovat.

Depresivní témata místo empatie

Rozhovory s chatboty se točily kolem ponurých témat, jako jsou nemoci, temná rodinná tajemství, nucené svatby nebo neřešitelné životní situace. Jsou to věci, které by uživatelé pravděpodobně nechtěli rozebírat ani s blízkými přáteli, natož s cizí umělou inteligencí. Místo toho, aby AI přátelé nabízeli řešení nebo empatii, pouze utvrzovali negativní atmosféru.

Budoucnost přívěsku Friend

Přívěsek Friend by měl být uveden na trh v roce 2025. Tvůrci tvrdí, že zařízení bude nejen komunikovat, ale také sledovat aktivity svého majitele. Zda bude umělá inteligence v přívěsku stejně depresivní a negativní jako současní chatboti na Friend.com, zůstává nejasné.

Generální ředitel společnosti Friend, Avi Schiffmann, však o těchto problémech v interakci vůbec nemluví. Je otázkou, zda budou tyto nedostatky do uvedení produktu vyřešeny, nebo zda Friend zůstane jen dalším technologickým experimentem, který nedokáže splnit očekávání uživatelů.

První zkušenosti s Friend.com ukazují, že před tvůrci stojí značné výzvy. Pokud bude AI přívěsek pokračovat ve stejném duchu jako webová verze, je těžké si představit, že by si našel široké publikum. Naopak, současný koncept spíš odrazuje, a dokonce vyvolává obavy z toho, zda by přístroj nebyl spíš zdrojem stresu než útěchy. Chatboti, kteří uživatele ignorují a končí agresivními poznámkami nebo temnými příběhy, rozhodně nepůsobí jako spolehliví virtuální přátelé.

Zbývá doufat, že finální produkt přinese výrazné zlepšení. Pokud se však nezmění základní přístup, Friend by mohl zůstat jen dalším technologickým produktem, který na trhu zapadne.

Zdroj foto: www.pexels.com