Děsivá budoucnost. Lidé dávají vale doktorům, spoléhají na umělou inteligenci
- ChatGPT umí nově mluvit vlastním hlasem
- Zaměstnankyně OpenAI tuto novou funkci využila k vlastní terapii
- Lidé by se však neměli tyto schopnosti chatbota příliš spoléhat
Před několika dny jsme zde na našem webu psali o rozsáhlých aktualizacích, kterých se má populární umělá inteligence ChatGPT brzy dočkat. Kromě rozeznávání obrázku bude totiž umět i poslouchat a mluvit. Tyto schopnosti vybízejí k celé řadě různých využití. Pracovnice OpenAI například nedávno sdílela své pocity ze zkušenosti, kdy použila model k tomu, aby vyslechl její problémy. Je ale ChatGPT ten pravý, komu bychom se měli svěřovat?
Terapii vede umělá inteligence
Lilian Weng působí ve společnosti OpenAI jako odborník na bezpečnost spojenou s umělou inteligencí. Firma nedávno oznámila, že jejich ChatGPT dostane během pár týdnů oči, uši a hlas, což výrazně rozšiřuje možnosti interakce s chatbotem. Weng měla příležitost si tyto novinky vyzkoušet a využila ji k tomu, aby si s chatbotem popovídala o životě, práci a stresu. Sama tuto zkušenost pak označila za terapii a na sociální síti X ji doporučila ostatním.
V komentářích se však poté začaly objevovat zmínky o tom, že to rozhodně není dobrý nápad a ChatGPT vůbec není vhodný nástroj k tomuto účelu. Především kvůli tendenci generovat v krajních případech nebezpečný a škodlivý obsah. Zarážející je navíc to, že k tomuto činu vybízí právě odbornice specializující se na bezpečné používání AI. Na příspěvek upozornil server Futurism.
Čtěte také: „Smrt“ na Měsíci. Indické robotické vozítko se nejspíš poroučelo na věčnost
Stroj nemá lidské emoce, vadí to?
Článek dále rozebírá důvod, proč je použití strojů v terapii nebezpečné. Experimenty s terapií pod dohledem umělé inteligence začínají již v šedesátých letech minulého století, kdy vznikl první, velmi primitivní chatbot. Jeho úkol spočíval v povídání si s člověkem. Jmenoval se ELIZA a vznikl díky profesoru Josephu Weizenbaumovi z MIT.
Na základě zkušeností s tímto projektem se poté vžil pojem „ELIZA efekt“, což označuje tendenci promítat lidské vlastnosti do neživého přístroje. Člověk pak může podléhat dojmu, že chatbot s ním soucítí, chápe jeho strasti a chce mu pomoci, což ale není pravda a představuje to určité riziko.
V současné chvíli navíc nejsou chatboti v žádném případě na takové úrovni, aby v čemkoli mohli zastoupit odborníky. Na místě je tedy nutnost brát jejich výplody s jistou rezervou.
