Zneužívání umělé inteligence je vážnou hrozbou, varuje český bezpečnostní úřad

• BIS se poprvé ve výroční zprávě věnuje umělé inteligenci
• Pokládá ji za reálnou hrozbu schopnou velmi eskalovat napětí
• Různé deepfaky z dílny AI již k nám doputovaly z války na Ukrajině

Výroční zpráva Bezpečnostní informační služby (BIS) za rok 2022 poprvé věnovala pozornost umělé inteligenci, což můžeme považovat za zásadní posun ve zpravodajské práci této instituce. Zpráva klade důraz na potenciální zneužití umělé inteligence při tvorbě „syntetických médií“, která mohou zpochybnit pravdivost reálných událostí.

BIS považuje umělou inteligenci za hrozbu

BIS varuje před nástupem nástrojů umělé inteligence, které dokážou vytvářet syntetický obsah včetně deepfake videí, fotografií, hlasových imitací a textu. Tyto technologie mají své uplatnění v zábavě a vzdělávání, ale zároveň mohou sloužit k páchání zločinů a šíření dezinformací. Jedním z rizik je i možnost zpochybnění reálných událostí a důkazů, neboť syntetická média jsou stále obtížněji odhalitelná.

Jako příklad uvádí různá deepfake videa z války na Ukrajině. Asi to nejznámější se týkalo prezidenta Ukrajiny Zelenského, který na podvrhnutém videu skládal kapitulaci své země. Během současného celosvětového geopolitického napětí může lehce vyvolat velmi ráznou protiakci druhé strany, která bude založena na lži.

---

Čtěte také: Bezpečnost nade vše. Google Chrome nově dokáže schovat vaší IP adresu

---

Potřeba regulace je vysoká

Zpráva BIS tak ukazuje na naléhavou potřebu regulovat a monitorovat rozvoj umělé inteligence, aby bylo možné minimalizovat její potenciální negativní dopady na informační bezpečnost a důvěryhodnost informací.

Vývoj syntetických médií zahrnuje také riziko jejich masového zneužití v informačním prostoru, což vyžaduje nejen technická, ale i mezinárodní opatření k ochraně společnosti před tímto fenoménem.