Jeden dzień działania ChatGPT kosztuje ponoć fortunę. Kwota 7-krotnie przebija wcześniejsze szacunki

Stworzony przez OpenAI czatbot ChatGPT szybko stał się internetową sensacją i pozwolił poznać potencjał sztucznej inteligencji osobom, które do tej pory nie miały takiej możliwości. To narzędzie, które pozwala pisać maile i opowiadania, generować kod, tłumaczyć teksty, wydobywać informacje… i jeszcze wiele innych zastosowań. Ale czy do tej pory zastanawialiście się, jakiej potrzebuje mocy do działania i ile kosztuje jego codzienna praca? Jeśli tak – oczywiście nie jesteście w tym sami. Jeszcze kilka miesięcy temu szacowano to na ok. 100 tys. dolarów dziennie. Obecnie ma być to znacznie, znacznie więcej.

Ile OpenAI płaci za ChatGPT?

Wyliczyli to badacze z SemiAnalysis. Według nich, działanie ChatGPT każdego dnia kosztuje OpenAI dokładnie 694 444 dolary, czyli po obecnym kursie – blisko 2,9 mln złotych. Szacunkowo system zajmuje około 3617 serwerów HGX A100, które zawierają 28 936 GPU. Podobno koszt jednego zapytania wynosi ok. 0,36 centa. Dylan Patel, główny analityk w SemiAnalysis, twierdzi, że obecne koszty działania mogą być jeszcze wyższe, ponieważ GPT-4 jest prawdopodobnie wyraźnie droższy w eksploatacji niż GPT-3.

Jednym z głównych powodów takich kosztów są energochłonne, specjalistyczne układy scalone wymagane do obsługi systemu. Podobno Microsoft, jeden z najważniejszych udziałowców OpenAI, pracuje nad własnym chipem AI o nazwie „Athena”, który mógłby zastąpić procesory graficzne NVIDIA i drastycznie obniżyć koszty eksploatacji ChatGPT.

Źródło: Techspot, SemiAnalysis