Kako dolgo lahko traja odziv ChatGPT, preden se vam generativni AI preneha odzivati?

ChatGPT je velika novica. Toda kako veliki so odzivi, ki jih dobite od tega vsestranskega klepetalnega robota?

Vzpostavitev tega ni tako preprosta, kot si mislite. Za začetek postavite prav to vprašanje ChatGPT in prepričani boste, da ni določenih omejitev glede dolžine njegovih odgovorov.

Vendar, kot odkrivamo tukaj, ni tako preprosto. Obstajajo skrite omejitve glede dolžine odgovora ChatGPT, vendar obstaja tudi nekaj elegantnih in preprostih rešitev, ki vam pomagajo dobiti daljše odgovore.

Kako ChatGPT določi dolžino odgovora?

Delovanje ChatGPT je zapleteno, dolžina odgovora pa se razlikuje glede na to, kaj se vpraša in zahtevano raven podrobnosti. Kot prikazuje naslednji posnetek zaslona, ​​ChatGPT trdi, da ni strogih omejitev.

To ni tisto, kar smo našli. Spodnji primer prikazuje, kako ChatGPT nenadoma prekine odgovor sredi stavka. Prosili smo ga, naj napiše tisočbesedni esej o prednostih krožnega gospodarstva. ChatGPT se je prenehal odzivati, ko je dosegel 677 besed.

instagram viewer

Test smo večkrat ponovili z različnimi vprašanji in vsakič se je ustavil sredi stavka; občasno je to spremljala omrežna napaka. To je pogosta napaka in obstajajo različne načine za odpravljanje omrežnih napak v ChatGPT.

Del odgovora, zakaj se to zgodi, je v nečem, kar se imenuje sistem žetonov.

Kaj uporablja sistem žetonov ChatGPT?

Namesto preprostega štetja besed za določitev dolžine poizvedb in odgovorov ChatGPT uporablja sistem žetonov. To razdeli vsak vhod in izhod v vrsto žetonov, ki se uporabljajo za razvrščanje velikosti zahteve in odgovora.

Čeprav število besed pri tem igra vlogo, to ni celotna zgodba. Vnesen je bil na primer spodnji primer Orodje OpenAi Tokenizer.

Stavek in odgovor sta bila "tokenizirana" na vrednost devetih žetonov. To je skladno s "pravilom palca" OpenAI, da je en žeton enakovreden trem četrtinam besede.

Model GPT 3.5 omejuje uporabniška vprašanja in podatke na 4097 žetonov. Po izračunu OpenAI je to enako približno 3000 besedam. Vendar je pomembno upoštevati, da ta omejitev velja tako za odgovor kot za vprašanje.

Čeprav je v teoriji vse v redu in dobro, se rezultati, na katere smo naleteli, nikoli niso približali tem mejam. Nepopoln odgovor, ki ga je ChatGPT vrnil v našem prejšnjem testu, je tehtal samo 798 žetonov.

Zakaj so odzivi ChatGPT omejeni?

Ta novonastala tehnologija je hitro postala tehnološki razvoj tega stoletja, o katerem se največ govori. To je povzročilo veliko povpraševanje po ChatGPT. Končno je to povpraševanje učinkovito omejilo odzive daleč pod navedene meje.

Čeprav ni uradne potrditve tega, se zdi, da je dejanska omejitev približno petsto besed ali 4000 znakov.

Naj poudarim, da to ni fiksno pravilo – ustvarili smo rezultate, ki so to presegli za skoraj dvesto besed. Vendar se to lahko šteje za varno zgornjo mejo za doseganje popolnih odgovorov.

Kako pridobiti daljše odgovore od ChatGPT

Ko razumete, da obstaja "skrita meja" za odgovore ChatGPT, obstaja nekaj preprostih načinov, ki vam bodo pomagali pridobiti popolnejše odgovore.

  1. Prosite ChatGPT za nadaljevanje: Če se ChatGPT ustavi med odgovorom, je ena od možnosti, da ga preprosto prosite, naj nadaljuje. V spodnjem primeru smo vnesli "Nadaljuj", kar je odgovoru dodalo še dvesto besed.
  2. Razdelite svoje vprašanje na manjše dele: Večkrat smo ga na primer prosili, naj napiše esej o vplivu umetne inteligence na družbo. Vsakič, ko se je odziv ustavil. Ena možnost tukaj je, da ga prosite, da označi nekaj tem za esej o AI, nato pa uporabite navedene točke kot posamezne pozive.
  3. Uporabite možnost Regeneriraj: Čeprav bi to lahko povzročilo isto napako, brez česa izgubiti, je vedno vredno poskusiti.
  4. Določite zgornjo mejo števila besed v pozivu: Spodnja slika prikazuje, kako je to mogoče uporabiti za manipulacijo največjega števila besed v odgovoru.

Ti nasveti vam bodo pomagali pridobiti popolnejše odgovore ChatGPT in zaobiti neuradno omejitev dolžine njegovih odgovorov.

ChatGPT: Kakovost pred količino

Čeprav ni določenih omejitev glede dolžine odgovorov ChatGPT, se zdi, da platforma nalaga omejitev približno petsto besed ali 4000 znakov.

V glavnem je to mogoče pripisati velikemu povpraševanju po ChatGPT. To je privedlo do nepopolnih odgovorov in zaustavitve odgovorov sredi stavka, vendar obstajajo preproste rešitve, ki vam pomagajo dobiti daljše odgovore.

Kljub svojim omejitvam ChatGPT ostaja izjemen tehnološki razvoj, ki se bo še naprej razvijal in širil meje kakovosti in količine svojih izdelkov.