Meta tvrdí, že její umělá inteligence je příliš nebezpečná. Odmítá ji vydat

• Meta vytvořila nový AI nástroj
• Umělá inteligence se však nedostane na veřejnost
• Společnost tvrdí, že je velmi nebezpečná

Společnost Meta vytvořila novou generativní umělou inteligenci zvanou Voicebox, která dokáže sejmout zvukový vzorek za pouhé dvě sekundy a generovat autenticky znějící hlas pro poskytování kontextově přesné řeči (úvod napsal ChatGPT – pozn. redakce).

Meta Voicebox

Děkuji populárnímu chatbotovi za perex a nyní se toho s dovolením ujmu já sám (úsměv). Server The Stack Technology informuje, že mateřská společnost Facebooku a Instagramu udělala v oblasti AI tak zásadní pokroky, že platforma je na míle daleko před ostatními, a to platí i pro VALL- E od Microsoftu.

V tento okamžik je nástroj schopen se plynně dorozumívat v šesti světových jazycích, podporuje řadu chytrých možností a díky funkci Flow Matching si dokáže osvojit lidskou řeč a tu dále rozvíjet.

---

Čtěte také: Google varuje vlastní zaměstnance před využíváním AI chatbotů

---

Příliš „mocná“ umělá inteligence

Zní to šíleně? To vám věříme. A dost možná, že nejen to je důvodem, proč Meta upustila od původního plánu a v tomto případě zdrojový kód odmítá zpřístupnit veřejnosti. Vývojáři Voiceboxu se totiž obávají potenciální možnosti zneužití.

Důvod je zřejmý. Tento nástroj by mohl vygenerovat hlas konkrétních osob bez jejich vědomí, rozšiřovat zavádějící nebo přímo falešný obsah atd. Ve špatných rukou by se tak mohl spolupodílet na vytvoření konfliktu s dalekosáhlými důsledky, aniž by s tím zainteresované osoby měly vůbec co do činění.

Společnost také uvedla, že další model, který vytvořila spolu s Voiceboxem, dokáže naopak přesně rozlišit mezi skutečnou a syntetickou řečí generovanou pomocí AI. „…v tomto kontextu plánujeme prozkoumat proaktivní metody pro trénování generativního modelu tak, aby bylo možné syntetickou řeč okamžitě detekovat…,“ uvedli vývojáři.