Provoz přelomového ChatGPT vyjde na tučnou částku. Je tohle udržitelné?
- OpenAI platí za provoz GPT-4 obrovskou sumu peněz
- Microsoft připravuje vlastní čip, který má náklady snížit
- Přichází konec rozšiřování jazykových modelů
Server Semi Analysis odhaduje, že jazykový model GPT-4 stojí společnost OpenAI okolo 700 tisíc dolarů za den. Podle vrchního analytika serveru, Dylana Patela, se částka může pohybovat ještě mnohem výše. Ten v rozhovoru pro Insider vidí jako příčinu nákladné servery, na kterých software běží.
Astronomické výdaje za ChatGPT
Pokud částku přepočteme do české měny, výsledná hodnota se pohybuje okolo necelých 15 milionů, což není vůbec málo. Analýza však nevychází z parametrů současného modelu GPT-4, ale z předchozího GPT-3. Ten byl menší a nevyžadoval takový výpočetní výkon, a tak mohou reálná čísla atakovat i vyšší hodnoty.
GPT modely nejsou v tomto ohledu výjimkou. Ostatní společnosti vyvíjející umělé inteligence mají podobné starosti a energetickou náročnost se snaží nějakým způsobem řešit. Kromě financí je k provozu nutno navíc i značné množství vody, o čemž jsme informovali v nedávném článku.
Čtěte také: Jsou vaše data v bezpečí? Umělá inteligence prolomí heslo za 30 sekund
Jaké bude řešení?
Microsoft hledá cestu, jak výdaje nějakým způsobem zredukovat, a proto údajně pracuje na novém čipu, který nahradí ty současné od firmy Nvidia. Práce na něm prý začaly už v roce 2019 a očekává se, že celkové náklady sníží o třetinu. Ponese jméno Athena a nyní je dostupný na testování užšímu okruhu pracovníků uvnitř společnosti.
Výkonný ředitel OpenAI, Sam Altman, také nedávno prohlásil, že jsme na konci éry velkých jazykových modelů (LLM). Dodal, že současný vývoj začíná dosahovat hranice, kdy rozšiřování modelů už není praktické a je načase začít hledat vylepšení v jiných oblastech. Uvidíme, jakým směrem se bude údržba těchto nástrojů ubírat.
