OpenAIs samtale-AI-bot ChatGPT lancerede sidste år og er blevet super populær med rekordhastighed takket være dens evne til at skrive historier, skrive e-mails og endda generere kode (nogle gange, desværre, endda skadeligt). En ny rapport tyder dog på, at det koster OpenAI en formue at holde det kørende fra dag til dag.
Ifølge forskning fra SemiAnalysis bruger OpenAI næsten 695 USD om dagen på at vedligeholde chat bot i funktionsdygtig stand. Ifølge virksomhedens estimater omfatter systemet omkring mere end 3,6 tusinde HGX A100-servere og næsten 29 tusinde GPU'er, og prisen pr. anmodning er omkring ¢ 0,36.
Dylan Patel, hovedanalytiker hos SemiAnalysis, fortalte Business Insider, at de nuværende omkostninger ved at køre softwaren kan være endnu højere, da GPT-4-versionen sandsynligvis vil være dyrere at køre end sin forgænger, GPT-3. Han baserede sine estimater på den tidligere GPT-3-model, men OpenAI har allerede udgivet en version GPT-4 for betalte abonnenter. Virksomheden hævder, at den nye model tilbyder mere præcis information og bedre beskytter mod forkerte svar, som var et problem med tidligere versioner.
En af hovedårsagerne til de ublu omkostninger er de energikrævende specialiserede chips, der kræves for at betjene systemet. For at løse dette problem, Microsoft arbejder på sin egen kunstige intelligens-chip kaldet Athena, der kunne erstatte GPU'er NVIDIA og reducere driftsomkostningerne ved ChatGPT.
I mellemtiden kan ChatGPT allerede generere funktionel kode fra bunden, og det vækker endda frygt for, at det i sidste ende kan erstatte programmører. En nylig undersøgelse foretaget af en gruppe videnskabsmænd tyder dog på, at chatbot-genereret kode muligvis ikke er særlig sikker. Undersøgelsen siger, at ChatGPT genererer kode, der er "væsentligt under de minimumssikkerhedsstandarder, der gælder i de fleste situationer." Mest interessant indrømmer chatbotten dette, når han bliver spurgt, hvor sikker koden den genererer er.
For at kontrollere kvaliteten af kodningen ChatGPT, bad forskerne ham om at generere 21 programmer og scripts ved hjælp af fire programmeringssprog: C, C++, Python og Java. I sit første forsøg var chatbotten kun i stand til at skrive 5 sikre programmer, men efter nogle opfordringer fra forskerne skabte den 7 mere sikre stykker kode. Resultaterne af undersøgelsen tyder på, at brug af ChatGPT til at skrive applikationer kan være ineffektivt eller endda farligt nu, men det kan ændre sig i fremtiden.
Læs også:
Wow tal for en gratis neuron!
I mit liv ville jeg aldrig have troet, at det er så dyrt...
Jeg blev også overrasket. Jeg er endda lidt utilpas nu Åbn ChatGPT - jeg vil stadig belaste det med mine anmodninger)