Umělá inteligence může zničit lidstvo. Před AI už varují i její autoři

Umělá inteligence obnáší mnoho výzev, ale i rizik
Pokud se nám AI vymkne z rukou, může to být problém
Může však lidstvo tato technologie zničit?

Ve virutálním prostoru si budeme muset ověřovat informace mnohem více

Od vydání prvního chatbota uplynula už dlouhá doba a téměř každý slyšel zvěsti o tom, jak nás AI nahradí nejdřív v práci a poté nás jako lidstvo vyhubí. Málokdo si však dokáže představit, jakým způsobem se něco takového může stát. Špičky z oblasti technologií se s deníkem The Guardian podělili o své pohledy, jak a proč nás AI nejspíš zničí.

Minulost jako zrcadlo současnosti

Autorem prvního scénáře je Max Tegmark z Institutu technologií v Massachusetts. Svou prognózu staví na myšlence, že jako lidé jsme si vydobyli dominantní místo na Zemi především díky tomu, že jsme inteligentnější a schopnější než většina ostatní tvorů.

Ovšem pokud přijde druh či entita, která nás v těchto ohledech převýší, čehož je umělá inteligence schopná minimálně na intelektuální úrovni, můžeme čekat, že nás potká stejný osud, jaký jsme jako lidstvo připravili stovkám vyhynulých rostlin a zvířat v minulosti. Úvaha je zakončena poznámkou, že ten méně inteligentnější druh bohužel nikdy neví, co bude jeho zkázou.

Čtěte také: Další lety SpaceX zrušeny. Důvodem jsou obavy o životní prostředí a bezpečnost

Druhý odhad se nevěnuje budoucím hrozbám, nýbrž se zaměřuje na ty současné. Autorka Britanny Smith (University of Cambridge) odkazuje na skutečnost, že umělá inteligence je některými vládami nasazována, aby rozlišila podvody při žádání o sociální dávky či rozeznává obličeje při vyšetřování zločinu.

Avšak AI dělá chyby a pokud bude mít v rukou osudy lidí, kteří budou odsouzeni jen díky chybě v algoritmu, může dojít k velkým škodám. Nabádá proto, abychom pokud možno řešili současné problémy a nikoli ty ve vzdálené budoucnosti.

AI může ovládnout svět

Eliezer Yudkowsky z Institutu pro výzkum strojového učení otevírá možnost toho, že AI nás nezničí přímo, ale bude postupovat tak, abychom si toho nevšimli. Ve chvíli, kdy to budeme čekat nejméně, jedním příkazem naši historii ukončí.

Autor upozorňuje, že poprvé zacházíme s něčím, co je mnohem inteligentnější než my, a tak si musíme dát obzvlášť velký pozor, aby nás prudký rozvoj technologie nezaskočil. Prognózu doplňuje o trefnou metaforu. „Potřebujeme, aby první raketa zvládla start na jedničku, ale zatím jsme stavěli pouze letadla a celé lidstvo je uvnitř této rakety.“

Umělá inteligence trénovala na ilegálně získaných datech

Čtěte také: Nesdílejte fotky dětí na sítích, varuje prostřednictvím deepfake drsná reklama

Už nyní využíváme ChatGPT nebo Barda k plnění jednoduchých úkolů. Postupně nejspíš dojdeme do fáze, kdy svěříme AI mnohem důležitější věci. Ajeya Cotra (Open Philantrophy) domýšlí, kam toto svěřování zodpovědnosti povede.

Používat AI místo lidí bude levnější a efektivnější, takže nebude nikdo, kdo by tuto technologii takto nepoužíval. V tu chvíli však bude operovat umělá inteligence s takovou mocí, že zahubit lidstvo pro ni bude hračka. Zákaz AI v autonomních zbraních je navíc jednou z priorit, které se snaží dosáhnout OSN při regulaci umělé inteligence.

Člověk se nakonec zničí sám

Poslední předpověď nepředpokládá AI jako hlavního strůjce zkázy lidstva, ale pouze jen jako nástroj. Ten, kdo nakonec vyhubí lidskou rasu, bude nejspíš také člověk. V minulosti k tomu koneckonců vznikly prostředky ve formě atomových bomb. Yoshua Bengio (University of Montreal) se domnívá, že podobný případ může nastat i s nástupem umělé inteligence.

Za několik let budeme disponovat roboty mnohem schopnějšími, než jsou lidé, a pro někoho nebude obtížné je zneužít k tomu, aby napáchal obrovské škody. O co hůř, nemusí to být ani záměrné zničení, pouze někdo nedomyslí následků svých činů.

Ať už se dočkáme jedné z těchto možných variant budoucnosti či ne, předpovědi by nám především měly sloužit k tomu, abychom jim předešli. Několik organizací a států již s regulací AI začalo a k samotnému vývoji přistupují zodpovědně i tvůrci umělých inteligencí. Pokud k nastavení pravidel dojde rychle a budou se v průběhu let pružně aktualizovat, nemusí nastat žádný z těchto děsivých scénářů. Nacházíme se totiž ve fázi, kdy máme ještě možnost tuto technologii efektivně usměrnit.