OpenAIs samtale-AI-bot ChatGPT ble lansert i fjor og har blitt superpopulær i rekordfart takket være dens evne til å skrive historier, skrive e-poster og til og med generere kode (noen ganger, dessverre, til og med skadelig). En ny rapport antyder imidlertid at det koster OpenAI en formue å holde den i gang fra dag til dag.
I følge forskning fra SemiAnalysis bruker OpenAI nesten $695 XNUMX per dag for å vedlikeholde chat bot i fungerende stand. I følge selskapets estimater inkluderer systemet omtrent mer enn 3,6 tusen HGX A100-servere og nesten 29 tusen GPUer, og kostnaden per forespørsel er omtrent ¢ 0,36.
Dylan Patel, hovedanalytiker ved SemiAnalysis, sa til Business Insider at de nåværende kostnadene ved å kjøre programvaren kan være enda høyere, ettersom GPT-4-versjonen sannsynligvis vil være dyrere å kjøre enn forgjengeren GPT-3. Han baserte estimatene sine på den tidligere GPT-3-modellen, men OpenAI har allerede gitt ut en versjon GPT-4 for betalte abonnenter. Selskapet hevder at den nye modellen tilbyr mer nøyaktig informasjon og bedre beskytter mot feil svar, som var et problem med tidligere versjoner.
En av hovedårsakene til de ublu kostnadene er de energikrevende spesialiserte brikkene som kreves for å betjene systemet. For å løse dette problemet, Microsoft jobber med sin egen kunstig intelligens-brikke kalt Athena som kan erstatte GPUer NVIDIA og redusere driftskostnadene til ChatGPT.
I mellomtiden kan ChatGPT allerede generere funksjonell kode fra bunnen av, og det vekker til og med frykt for at det til slutt kan erstatte programmerere. Imidlertid antyder en fersk studie av en gruppe forskere at chatbot-generert kode kanskje ikke er veldig sikker. Studien sier at ChatGPT genererer kode som er "betydelig under minimumssikkerhetsstandardene som gjelder i de fleste situasjoner." Mest interessant er det at chatboten innrømmer dette på spørsmål om hvor sikker koden den genererer er.
For å sjekke kvaliteten på kodingen ChatGPT, ba forskerne ham generere 21 programmer og skript ved å bruke fire programmeringsspråk: C, C++, Python og Java. På sitt første forsøk klarte chatboten bare å skrive 5 sikre programmer, men etter litt oppfordring fra forskerne skapte den 7 sikrere kodebiter. Resultatene av studien tyder på at bruk av ChatGPT til å skrive applikasjoner kan være ineffektivt eller til og med farlig nå, men dette kan endre seg i fremtiden.
Les også:
Wow tall for en gratis nevron!
I mitt liv ville jeg aldri trodd at det er så dyrt...
Jeg ble også overrasket. Jeg er til og med litt ukomfortabel nå Åpne ChatGPT – jeg vil fortsatt belaste det med mine forespørsler)