Kakšna je omejitev žetonov ChatGPT in jo lahko presežete?

ChatGPT je prevzel tehnološki svet in ne manjka napredkov in posodobitev. Toda kljub uporabi napredne tehnologije je znotraj trenutne različice kar nekaj omejujočih dejavnikov.

Eden takih dejavnikov je sistem žetonov, ki še naprej prekinja evolucijski cikel in spravlja uporabnost aplikacije na kolena. Če uporabljate ChatGPT, boste morda želeli vedeti o žetonih ChatGPT in kaj storiti, ko vam zmanjka žetonov.

Stopimo korak nazaj in vam damo vpogled v vse, kar morate vedeti o osnovnih delovnih mehanizmih aplikacije.

Kaj je žeton ChatGPT?

Če greste mimo pročelja aplikacije, vidite le računalniški jezik, ki uboga vaše ukaze in vam daje odgovore, ki jih iščete. Vendar pa je zaledje le veliko kode, ki se uči vsako minuto in se pospeši z vprašanji, na katere odgovarja.

ChatGPT vsako besedo pretvori v čitljiv žeton, kadar koli postavite vprašanje. Za nadaljnjo razčlenitev, žetoni so besedilni fragmenti in vsak programski jezik uporablja drugačen niz vrednosti žetonov za razumevanje zahtev.

Ker računalniki besedilnih vrednosti ne razumejo neposredno, jih razčlenijo na kombinacijo številk, ki se pogosto imenujejo vdelave. Razmislite lahko celo o vdelavah, kot je Python seznami, ki so podobni seznamu povezanih števil, kot je [1.1,2.1,3.1,4.1…n].

Ko ChatGPT sprejme začetni vnos, poskuša predvideti naslednji možni vnos na podlagi prejšnjih informacij. Izbere celoten seznam predhodnih žetonov in s pomočjo svoje sinteze kodiranja poskuša preprečiti kasnejši vnos uporabnika. Uporablja in predvideva en žeton naenkrat, da bi jezik preprosteje razumel uporabo.

Za izboljšanje napovedi in izboljšanje natančnosti izbere celoten seznam vdelav in ga prenese skozi transformatorske plasti, da vzpostavi povezave med besedami. Na primer, ko postavite vprašanje, kot je "Kdo je Thomas Edison?", ChatGPT izbere najbolj dragocene besede na seznamu: WHO in Edison.

Transformatorske plasti imajo svojo vlogo v celotnem procesu. Ti sloji so oblika arhitekture nevronske mreže, ki je usposobljena za pobiranje najpomembnejših ključnih besed iz niza besed. Vendar proces usposabljanja ni tako preprost, kot se sliši, saj traja dolgo časa za usposabljanje transformatorskih plasti na gigabajtih podatkov.

Čeprav ChatGPT napove samo en žeton naenkrat, je njegova samoregresivna tehnologija programirana tako, da predvidi in se vrne v primarni model, da objavi izhod. Model je nastavljen tako, da se zažene samo enkrat za vsak žeton, tako da se rezultat natisne eno besedo naenkrat. Izhod se samodejno ustavi, ko aplikacija naleti na ukaz žetona za zaustavitev.

Na primer, če pogledate kalkulator žetonov na spletni strani ChatGPT, lahko izračunate uporabo žetonov na podlagi vaših vprašanj.

Vnesite nekaj vzorčnega besedila, kot je:

Kako naj razložim uporabo žetonov v ChatGPT?

Glede na kalkulator je v tem nizu 46 znakov, kar bo porabilo 13 žetonov. Če ga razdelite na ID-je žetonov, je videti nekako takole:

[2437, 466, 314, 4727, 262, 779, 286, 16326, 287, 24101, 38, 11571, 30]

Glede na Kalkulator žetonov OpenAI:

Koristno pravilo je, da en žeton na splošno ustreza ~4 znakom besedila za običajno angleško besedilo. To pomeni približno ¾ besede (torej 100 žetonov ~= 75 besed).

Brezplačno vs. Plačani žetoni

Da bi vam ponudil okus o tem, kaj je kaj v aplikaciji ChatGPT, vam OpenAI ponuja brezplačno omejeno naročnino na žeton. Če želite eksperimentirati z API-jem ChatGPT, uporabite brezplačni kredit v višini 5 USD, ki velja tri mesece. Ko je omejitev izčrpana (ali se preskusno obdobje izteče), lahko plačate sproti, kar poveča največjo kvoto na 120 USD.

ChatGPT Plus: Ali se plačana naročnina splača?

Če ga želite dvigniti, se lahko celo prijavite na Ponudba ChatGPT Plus, kar vas povrne za 20 USD na mesec. Glede na obsežno uporabo in priljubljenost celotnega modela umetne inteligence so tukaj glavne funkcije modela plačljive naročnine:

• Dostop do ChatGPT, tudi ko spletna stran zaradi pritoka uporabnikov ne deluje
• Izboljšane stopnje odziva
• Dostop iz prve roke do novih funkcij in izdaj

Če menite, da so te funkcije v celoti vredne in so v vaši ulici, se lahko včlanite v plačljivo naročnino in jih takoj izkoristite.

Struktura cen žetonov ChatGPT

Na voljo je nekaj različnih modelov aplikacij, ki jih lahko izberete glede na vaše zahteve:

Ada je najhitrejši, medtem ko je DaVinci najmočnejši model s tega seznama modelov. Poziv je vprašanje, medtem ko se dokončanje ukvarja z odgovori.

Največje omejitve žetonov

Vsak model vam omogoča, da nastavite največje število žetonov v vsaki poizvedbi. Ta metoda nadzoruje največje število žetonov, ki jih aplikacija ustvari v enem klicu, kar omejuje izhod. Funkcija max_token je precej uporabna, še posebej, če želite nadzorovati dolžino izpisa, hkrati pa se izogniti pretirani uporabi žetonov in kreditov. Privzeta dolžina je fiksna na 2048 žetonov, največja pa je lahko nastavljena na 4096 žetonov.

Omejitev uporabe žetona lahko povzroči kratke odgovore, kar lahko omeji izhod in pokvari vašo izkušnjo uporabe.

ChatGPT3 ima zgornjo mejo 4096; vendar se z uvedbo ChatGPT4 omejitve žetonov povečajo, kot sledi:

Če je vaš izhod okrnjen, morate povečati podano največjo omejitev na nadzorni plošči. Ne pozabite, da mora biti vsota vaših pozivnih in največjih žetonov vedno manjša od največje omejitve žetonov modela.

Na primer, znotraj modela ChatGPT je prompt_tokens + max_tokens <= 4096 žetoni.

Naučite se nadzorovati svoje pozive ChatGPT za najboljše rezultate

Ne glede na to, kako uporabljate aplikacijo, ki jo poganja umetna inteligenca, obstaja velika verjetnost, da se boste morali domisliti načinov, kako pametno igrati s svojimi vprašanji in stavki. Odvisno od vaših vzorcev uporabe boste verjetno obsežno uporabljali ChatGPT za vsako nalogo.

Če želite doseči najboljše rezultate, se morate naučiti delati z metodologijo žetonov in izboljšati svoje veščine, da zagotovite, da vaše omejitve uporabe ostanejo nedotaknjene, hkrati pa vam dajejo najboljše možne odgovore.