Totální selhání AI. ChatGPT při vyhledávání lže, akademická obec se bouří
- ChatGPT měl být ultimátním nástrojem
- Realita je ovšem jiná a AI je zatím spíše na škodu
- Dánskému vědci napsal články, o kterých neměl tušení
ChatGPT má být ultimátní nástroj pro pomoc ve všech ohledech. Především ve vědecké komunitě nastala panika, že umělá inteligence je nahradí při psaní odborných prací. Realita je ovšem zatím jiná. Dánský biolog byl totiž šokován, když zjistil, že jeho jméno bylo několikrát zmíněno ve vědeckém článku o mnohonožkách, ve kterém bylo spoustu chyb způsobené AI.
ChatGPT si vymýšlí
Podle Retraction Watch měl po přečtení tohoto odborného článku dánský přírodovědec Henrik Enghoff podezření, že autoři článku z Číny a Afriky použili ChatGPT společnosti OpenAI k vyhledávání akademických článků. A podle všeho bylo jeho tušení správné.
Článek byl již jednou publikován jako preprint v akademickým vydavatelstvím MDPI již v červnu. Poté co Enghoffův kolega, David Richard Nash z Kodaňské univerzity, upozornil na chyby byl stažen. Nyní se však objevil znovu na jiné platformě s názvem Research Square.
Čtěte také: Má lepší čich člověk, nebo umělá inteligence? Výsledek vás překvapí
Nejde o první případ selhání
A co bylo hlavní chybou? Vědci použili ChatGPT pro vyhledávání relevantních článků pro literární rešerši. Bohužel ChatGPT si svoji práci usnadnil tím, že si spoustu odborných článků vymyslel. Autoři v článku tak odkazovali na neexistující studie. A některé tyto neexistující studie měl mít na svědomí právě Henrik Enghoff.
A nejde jen o akademickou sféru. Začátkem tohoto roku si reportéři deníku The Guardian všimli, že chatbot s umělou inteligencí dokonce vymýšlí celé články s titulky novinářů, kteří tyto neexistující články nikdy nenapsali. Jeden právník pak využil ChatGPT k rešerši pro svého klienta k soudu, což se mu také krutě vymstilo.
