Nebezpečná umělá inteligence? Lidem špatně radila, jak se stravovat
- Umělá inteligence měla pomáhat lidem s poruchou příjmu potravy
- Chatbot namísto toho poskytoval život ohrožující informace
- Společnost už model stáhla
Umělá inteligence se širší veřejnosti poprvé představila ve formě chatbotů, kterých se můžete ptát na různé otázky a oni vám na ně odpoví. Toho se snažila využít i americká společnost NEDA, která pomáhá lidem s poruchami příjmu potravy. Výsledek byl ovšem příšerný.
AI měla nahradit stovky lidí
Média nedávno informovala o tom, že Národní asociace pro poruchy příjmu potravy (NEDA) zrušila svou telefonní linku, kde lidé s těmito problémy mohli najít pomoc. Linku obsluhovalo přes 200 dobrovolníků, dokud nebyla všechna tato místa zrušena a nahrazena jediným AI chatbotem jménem Tessa.
Avšak po spuštění chatbota se na internetu začali objevovat příspěvky, které upozorňovaly na odpovědi, jaké chatbot generoval. Ten prý lidem vůbec nepomáhal a naopak je bezhlavě naváděl k nebezepečným činům, které by celkový stav nemocného člověka ještě zhoršily. Nejhlasitěji na to upozornila aktivistka Sharon Maxwellová, se kterou přináší server DailyDot rozhovor.
Čtěte také: Šéf OpenAI se podepsal pod to, že umělá inteligence „teoreticky“ způsobí náš konec
Neuvážené nasazení chatbota
Maxwellová, která sama poruchou příjmu potravy trpěla, chatbota vyzkoušela a prohlásila, že kdyby za ním přišla tehdy pro pomoc, její stav by to vůbec nezlepšilo. Na svých sociálních sítích poté sdílela příspěvky, aby Tessu nikdo nepoužíval.
NEDA chatbota nakonec stáhla, ale celou situaci zkrátka nezvládla, což je u společnosti zabývající se natolik seriózní tématikou velký problém a toto jí nepochybně ubralo na důvěryhodnosti. Nahrazovat lidi chatbotem v tak rané fázi AI a navíc v oblasti, kde jde o lidské zdraví, je obrovská nezodpovědnost a do budoucna snad i odstrašující příklad.
