OpenAI zkoumá možnosti tvorby pornografie za pomoci umělé inteligence

• OpenAI hodlá posunout morální hranice vlastní umělé inteligence
• Nově tak zkoumá možnosti zodpovědného vytváření explicitního obsahu
• Co to pro uživatele znamená?

Technologická společnost OpenAI, stojící za mimořádně populárním chatbotem a umělou inteligencí ChatGPT, zahájila výzkum pro nové podmínky zodpovědného užívání. Tento krok má být dle všeho reakcí na uživatelsky zatím takřka neomezenou možnost tvorby explicitního obsahu, včetně toho, jenž je přímo inspirován žijícími osobami. Co to však v praxi může znamenat pro uživatele a komunitu jako celek?

Generovaná pornografie zodpovědně

Prakticky neomezený přístup k nástrojům umělé inteligence, počínaje těmi od společnosti OpenAI, pochopitelně předznamenal masivní šíření generovaného obsahu, od textů, přes hudbu, až po video. S tím ovšem souvisí i fakt, že mnohé z těchto výtvorů nepatří zrovna mezi ty morálně nejpřijatelnější. Na internetu se tak v současnosti můžeme velmi často setkat s generovaným pornografickým obsahem, jenž se nezřídka kdy inspiruje skutečnými osobami.

Samotná zmíněná společnost OpenAI tak nově ohlásila zahájení vlastních výzkumů s cílem upřesnění podmínek zodpovědného užívání nejen vlastní, ale i ostatních umělých inteligencí (Google Bard, Jasper, Gemini). Je totiž známo, že v současnosti čím dál častěji dochází k jejich zneužívání při tvorbě takzvaných deepfake. Ty ve zkratce spočívají ve vytvoření generovaného obsahu s tváří určité, většinou žijící osoby, či veřejně známé osobnosti, v často velmi explicitním smyslu (většinou pornografickém).

To je sice dle podmínek užívání produktů OpenAI zakázáno, avšak onen výzkum si klade za cíl přijít s jiným řešením, jež bude přijatelné jak uživatelsky, tak zákonně. Nutno ovšem podotknout, že se tyto podmínky nutně netýkají pouze pornografie, ale také vysoce násilných, či potenciálně nenávistných výtvorů.

---

Čtěte také: Británie lobuje za přísnější pravidla na sociálních sítích. Jak se to dotkne uživatelů?

---

Deepfake jako nepřítel č. 1

„Chceme zajistit, aby uživatelé měli s našimi produkty takovou míru kontroly, jaká je jen dle zákona možná,“ říká vedoucí modelu OpenAI, Joanne Jang, jež se zároveň podílí na tvorbě nových podmínek pro generování takzvaného NSFW (označení pro explicitní, či jinak morálně méně vyhovující tvorbu) obsahu. Zároveň také věří, že lze takové využití umělé inteligence považovat za relativně nezávadné v případě, že k němu není využito technologie deepfake.

Právě tato kontroverzí technologie je totiž považována za velmi rizikový a i přesto mimořádně dostupný prostředek, jenž by mohl být využit k falešnému vydírání, či poškození cizí osoby. Mimo to je ovšem otevřen i pro tvůrce, jenž si zakládají na úmyslné tvorbě a šíření materiálů nevhodných pro děti a dospívající, což opět může vést k jakési nepřímé formě sexuálního zneužívání a obtěžování.

Pro zmíněné důvody je proto více než opodstatnitelné, proč čím dál častěji dochází k řešení podobných témat. Nyní je ovšem důležité nejen vytvoření oněch podmínek, ale také zajištění jejich dodržování v rámci všech velkých společností poskytujících umělou inteligenci.