Provoz přelomového ChatGPT vyjde na tučnou částku. Je tohle udržitelné?

Adam Pos
  • OpenAI platí za provoz GPT-4 obrovskou sumu peněz
  • Microsoft připravuje vlastní čip, který má náklady snížit
  • Přichází konec rozšiřování jazykových modelů
Fenomén zvaný ChatGPT
Fenomén zvaný ChatGPT

Server Semi Analysis odhaduje, že jazykový model GPT-4 stojí společnost OpenAI okolo 700 tisíc dolarů za den. Podle vrchního analytika serveru, Dylana Patela, se částka může pohybovat ještě mnohem výše. Ten v rozhovoru pro Insider vidí jako příčinu nákladné servery, na kterých software běží.

Astronomické výdaje za ChatGPT

Pokud částku přepočteme do české měny, výsledná hodnota se pohybuje okolo necelých 15 milionů, což není vůbec málo. Analýza však nevychází z parametrů současného modelu GPT-4, ale z předchozího GPT-3. Ten byl menší a nevyžadoval takový výpočetní výkon, a tak mohou reálná čísla atakovat i vyšší hodnoty.

GPT modely nejsou v tomto ohledu výjimkou. Ostatní společnosti vyvíjející umělé inteligence mají podobné starosti a energetickou náročnost se snaží nějakým způsobem řešit. Kromě financí je k provozu nutno navíc i značné množství vody, o čemž jsme informovali v nedávném článku.

Čipset
Čipset

Čtěte také: Jsou vaše data v bezpečí? Umělá inteligence prolomí heslo za 30 sekund


Jaké bude řešení?

Microsoft hledá cestu, jak výdaje nějakým způsobem zredukovat, a proto údajně pracuje na novém čipu, který nahradí ty současné od firmy Nvidia. Práce na něm prý začaly už v roce 2019 a očekává se, že celkové náklady sníží o třetinu. Ponese jméno Athena a nyní je dostupný na testování užšímu okruhu pracovníků uvnitř společnosti.

Výkonný ředitel OpenAI, Sam Altman, také nedávno prohlásil, že jsme na konci éry velkých jazykových modelů (LLM). Dodal, že současný vývoj začíná dosahovat hranice, kdy rozšiřování modelů už není praktické a je načase začít hledat vylepšení v jiných oblastech. Uvidíme, jakým směrem se bude údržba těchto nástrojů ubírat.

Sledujte nás v Google Zprávách

Autor článku

Adam Pos - Redaktor

Bývalý redaktor webu Inteligentnisvet.cz.


Komentáře


Nejnovější články