I mistr tesař se utne. OpenAI odpískala nástroj detekující text, který napsala AI
- OpenAI stáhlo detektor, který umí rozeznat, co je vytvořené AI a co ne
- Software byl příliš nespolehlivý a měl mnoho chyb
- Společnost dál pracuje na podobných nástrojích
Umělá inteligence s sebou přináší mnoho rizik a jako lidstvo si musíme dát pozor na důsledky spojené s jejím používáním. Jedním z nich je například skutečnost, že AI generuje obsah, který mnohdy nelze rozeznat od práce vytvořené člověkem. Z toho vyplývá nutnost dokázat tyto výtvory jednoznačně rozlišit. Tvůrci ChatGPT se takový nástroj snažili uvést do provozu, avšak nyní projekt ukončují? Co za tím stojí?
Detektor AI obsahu končí
Když OpenAI minulý rok vypustila do světa svůj velký jazykový model ChatGPT, spustila tím obrovskou vlnu chatbotů a umělá inteligence se stala neoddělitelnou součástí našich životů. Se svým modelem přišel Google a vyvíjí ji i Elon Musk. OpenAI mezitím pracovala i na detektoru obsahu vygenerovaného AI, který byl vydán jen o několik měsíců později.
Software se schopností rozlišit, co vytvořila AI a co člověk, byl uveden do provozu na konci ledna letošního roku. Od 20.července se ale na stránkách OpenAI můžeme dočíst, že detektor již není dostupný. Za tímto rozhodnutí stojí zjištění firmy, že model je nespolehlivý a neodvádí svou práci efektivně.
Čtěte také: Z výpovědi whistleblowera jde mráz po zádech. USA tají spadlé UFO a nejen to!
Neuspokojivé výsledky
Detektor údajně dokázal rozeznat obsah vygenerovaný umělou inteligencí pouze ve 26 % případů, navíc pouze s tvrzením, že se „nejspíš“ jedná o takový druh textu. Vývojáři dodávají, že odhad se zlepšuje úměrně s délkou zadaného textu. Dobře si model vede pouze v angličtině, ostatní jazyky mu dělají obrovský problém a s textem, který má pod jeden tisíc znaků, si nedokáže poradit vůbec.
Z těchto důvodů firma OpenAI model stáhla, nicméně tvrdí, že dále pracuje na technologiích, které budou schopny bezproblémově rozeznat, jestli je text, video nebo audio vygenerované AI. Jedná se ale o náročný úkol, který nebude lehké splnit, především protože úroveň chatbotů velmi rychle stoupá, nicméně mít takový software po ruce je bezesporu potřeba a snad se od firmy brzy dočkáme spolehlivější verze.
