Je novejši, a počasnejši. Kaj daje?
Z najnovejšo različico ChatGPT, GPT-4, izdano marca 2023, se mnogi zdaj sprašujejo, zakaj je tako počasen v primerjavi s svojim predhodnikom, GPT-3.5. Torej, kaj je glavni razlog tukaj?
Le zakaj je ChatGPT-4 tako počasen in bi se raje morali držati GPT-3.5?
Kaj je ChatGPT-4?
ChatGPT-4 je najnovejši model Klepetalni robot OpenAI, na splošno znan kot ChatGPT. ChatGPT poganja umetna inteligenca, ki mu omogoča, da veliko bolje odgovarja na vaša vprašanja in pozive kot prejšnji chatboti. ChatGPT uporablja velik jezikovni model, ki ga poganja GPT (Generative Pre-trained Transformer), da uporabnikom zagotovi informacije in vsebino, hkrati pa se lahko pogovarja.
ChatGPT ima široko paleto zmogljivosti, zaradi česar je uporaben za milijone. ChatGPT lahko na primer piše zgodbe, oblikuje šale, prevaja besedilo, izobražuje uporabnike in drugo. Medtem ko se ChatGPT lahko uporablja tudi za bolj nedovoljena dejanja, kot je npr ustvarjanje zlonamerne programske opreme, je njegova vsestranskost nekoliko revolucionarna.
ChatGPT-jev model GPT-4 je izšel 14. marca 2023. Ta različica ChatGPT je zasnovana za boljše razumevanje čustvenega jezika prek besedila, hkrati pa tudi za boljše razumevanje različnih jezikovnih narečij in obdelave slik. GPT-4 lahko vodi tudi daljše pogovore in se učinkovito odziva na daljše uporabniške pozive.
Poleg tega parametri GPT-4 v veliki meri presegajo parametre GPT-3.5. Parametri ChatGPT določajo, kako AI obdeluje informacije in se odziva nanje. Skratka, parametri določajo spretnost, ki jo ima chatbot za interakcijo z uporabniki. Medtem ko ima GPT-3.5 175 milijard parametrov, ima GPT-4 neverjetnih 100 bilijonov do 170 bilijonov (po govoricah – OpenAI te številke ni potrdil).
GPT-3.5 OpenAI je bil uporabljen za pogon ChatGPT, ki je zdaj najbolj priljubljen klepetalni robot AI na svetu. Torej je GPT-3.5 pustil nesporen pečat na področju AI. Toda stvari v tehnološki industriji vedno napredujejo, zato ni presenetljivo, da ima GPT-3.5 zdaj naslednika GPT-4.
Vendar GPT-4 nikakor ni popoln. Pravzaprav dolgi odzivni časi GPT-4 povzročajo precejšnje razburjenje. Poglejmo torej to težavo in zakaj se lahko zgodi.
ChatGPT-4 je počasen
Mnogi so ob izdaji GPT-4 opazili, da je novi klepetalni robot OpenAI neverjetno počasen. To je pustilo veliko uporabnikov razočaranih, saj je bil GPT-4 mišljen kot korak naprej od GPT-3.5, ne nazaj. Posledično so uporabniki GPT-4 obiskali spletne platforme, kot sta Reddit in skupnost OpenAI, da bi razpravljali o tem vprašanju.
Vklopljeno Forum skupnosti OpenAI, se je javilo več uporabnikov s svojimi frustracijami zaradi zamude GPT-4. En uporabnik je izjavil, da je bil GPT-4 na njihovem koncu "izjemno počasen" in da so celo majhne zahteve, poslane klepetalnemu robotu, povzročile nenavadno dolge zamude, več kot 30 sekund.
Drugi uporabniki so hitro delili svoje izkušnje z GPT-4, pri čemer je eden komentiral pod objavo, da "isti klic z enakimi podatki lahko traja do 4-krat počasneje kot 3,5 turbo."
V drugem Objava na forumu skupnosti OpenAI, je uporabnik komentiral, da se njihovi pozivi včasih srečajo z "napaka v toku telesa« sporočilo, zaradi česar ni odgovora. V isti temi je drug posameznik izjavil, da ni mogel doseči, da bi GPT-4 "uspešno odgovoril z celoten skript." Drugi uporabnik je komentiral, da so med poskusom uporabe nenehno naleteli na omrežne napake GPT-4.
Zaradi zamud in neuspešnih ali napol pripravljenih odzivov se zdi, da je GPT-4 poln težav, ki uporabnike hitro odvrnejo.
Torej, zakaj točno se to dogaja? Je kaj narobe z GPT-4?
Zakaj je GPT-4 počasen v primerjavi z GPT-3.5?
V zgoraj omenjeni objavi na forumu skupnosti OpenAI je en uporabnik odgovoril, da je zamuda posledica "trenutne težave s celotno infrastrukturo preobremenitev,« in dodal, da je izziv, ki ga predstavlja »reševanje razširljivosti v tako kratkem časovnem okviru s to priljubljenostjo in številom uporabnikov klepeta in API."
V Objava na Redditu naložen v subreddit r/singularity, je uporabnik navedel nekaj možnih razlogov za počasnost GPT-4, začenši z večjo velikostjo konteksta. Znotraj ekosistema GPT se velikost konteksta nanaša na to, koliko informacij lahko določena različica chatbota obdela in nato ustvari informacije. Medtem ko je bila velikost konteksta GPT-3.5 4K, je GPT-4 dvakrat večja. Torej lahko velikost konteksta 8K vpliva na splošne hitrosti GPT-4.
Avtor Reddita je tudi predlagal, da bi izboljšana vodljivost in nadzor GPT-4 lahko igrala vlogo pri časih obdelave chatbota. Tukaj je avtor izjavil, da je GPT-4 večja vodljivost in nadzor nad halucinacijami in neprimernimi jezik je lahko krivec, saj te funkcije dodajajo dodatne korake metodi obdelave GPT-4 informacije.
Poleg tega je bilo predlagano, da bi zmožnost GPT-4 za obdelavo slik lahko upočasnila stvari. Ta uporabna funkcija je mnogim všeč, vendar bi lahko prišla z ulovom. Glede na to, da se je govorilo, da GPT-4 potrebuje 10-20 sekund za obdelavo posredovane slike, obstaja možnost, da ta komponenta podaljšuje odzivne čase (čeprav to ne pojasni zamud, s katerimi se srečujejo uporabniki, ki zagotavljajo samo besedilne pozive).
Drugi uporabniki so predlagali, da novost ChatGPT-4 igra veliko vlogo pri teh zamudah. Z drugimi besedami, nekateri menijo, da mora najnovejši klepetalni robot OpenAI doživeti nekaj naraščajočih težav, preden se lahko odpravijo vse pomanjkljivosti.
Toda največji razlog, zakaj je GPT-4 počasen, je število parametrov, ki jih GPT-4 lahko kliče v primerjavi z GPT-3.5. The fenomenalno povečanje parametrov preprosto pomeni, da novejši model GPT potrebuje dlje časa za obdelavo informacij in odziv natančno. Dobite boljše odgovore z večjo zapletenostjo, a pot do njih traja nekoliko dlje.
Bi morali izbrati GPT-3.5 namesto GPT-4?
Če torej upoštevate ta vprašanja, bi morali uporabiti GPT-3,5 ali GPT-4?
V času pisanja se zdi, da je GPT-3.5 hitrejša možnost kot GPT-4. Toliko uporabnikov je imelo zamude, da je verjetno težava s časom prisotna povsod, ne le pri nekaj posameznikih. Torej, če ChatGPT-3.5 trenutno izpolnjuje vsa vaša pričakovanja in ne želite čakati na odgovor v zameno za dodatne funkcije, je morda pametno, da se za zdaj držite te različice.
Vendar morate upoštevati, da GPT-4 ni le GPT-3.5, ampak počasnejši. Ta različica klepetalnega robota OpenAI ima v primerjavi s predhodnikom številne prednosti. Če iščete naprednejši klepetalni robot z umetno inteligenco in vas ne moti dlje čakati na odgovore, se morda splača prehod z GPT-3.5 na GPT-4.
Sčasoma se lahko zamude GPT-4 zmanjšajo ali v celoti odpravijo, zato je potrpežljivost tukaj lahko vrlina. Ne glede na to, ali poskusite preklopiti na GPT-4 zdaj ali počakate malo dlje, da vidite, kako se stvari odvijajo s to različico, lahko še vedno veliko izkoristite iz čudovitega malega klepetalnega robota OpenAI.
GPT-4 je naprednejši, vendar prihaja z zamikom
Medtem ko ima GPT-4 številne napredne zmogljivosti v primerjavi z GPT-3.5, so zaradi znatnih zakasnitev in odzivnih napak nekaterim postali neuporabni. Ta vprašanja bodo morda rešena v bližnji prihodnosti, a za zdaj mora GPT-4 zagotovo premagati nekaj ovir, preden bo sprejet v širšem obsegu.
