Velkohubá prohlášení střídá trapas. Nástroj na rozpoznání AI nefunguje
- OpenAI chce protlačit ChatGPT i do školství
- Brzdí ji však jedna zásadní věc
- Nikdo nepozná padělky z dílny AI
OpenAI se snaží protlačit svoji umělou inteligenci v podobě ChatGPT do všech odvětví. Minulý týden v propagačním blogovém příspěvku demonstrovala svoji AI jako skvělou vzdělávací pomůcku. Navrhla i konkrétní využití pro učitele, což řada z nich jistě ocení. V následném okénku na dotazy ovšem přiznala jednu zdrcující věc.
OpenAI šla s kůží na trh
OpenAI potvrdila, že nástroje pro rozpoznání textu vytvořeného AI od toho lidmi příliš nefungují. Celá řada společností totiž vydala své vlastní řešení k této problematice. Měly zajistit spravedlivé podmínky i během používání AI.
Zásadním problémem je falešná pozitivita. To znamená, že nástroj vyhodnotil text jako psaný AI, a přitom to nebyla vůbec pravda. Odborníci také zjistili, že na textu není nic zvláštního, co by ho vždy odlišovalo od textu psaného člověkem. A všechny takové detektory šlo přelstít pouhým přeformulováním.
Čtěte také: Sní zvířata? Vědci přišli s úžasnou „pavoučí“ teorií REM fáze spánku
Úspěšnost? Vcelku tragická
Sama OpenAI vývoj tohoto nástroje pozastavila, a to z prostého důvodu. Velmi nízké úspěšnosti. Jejich nástroj AI Classifier vykazoval přesnost pouhých 26 %. Dalším omylem je, že sama AI dokáže svůj text rozpoznat. To také není pravda, a pokud se ChatGPT zeptáte na tuto věc, tak vygeneruje náhodné odpovědi.
Tyto nedostatky AI se přidávají na již celkem dlouhý seznam problémů. Nedávno vyšlo najevo, že ChatGPT si může některé věci vymýšlet. Doplatili na to například vědci, kteří ho použili k literární rešerši pro svůj odborný článek.
