Danes se milijoni ljudi zanašajo na ChatGPT kot koristen vir, pa naj gre za delo, zabavo ali izobraževanje. Toda ali se lahko zanesete, da bo ta klepetalni robot z umetno inteligenco vedno zagotovil dejstva? Ali ChatGPT kdaj laže ali vam bo dal le dejanske informacije?
Od kod ChatGPT pridobiva informacije?
V obdobju usposabljanja je ChatGPT prejemal podatke iz virov po spletu, kot so spletna mesta vlade in agencij, znanstvene revije, študije, članki z novicami, podcasti, spletni forumi, knjige, zbirke podatkov, filmi, dokumentarni filmi in družbena mediji.
Natančneje, ChatGPT-3 je bil usposobljen z uporabo obsežne podatkovne baze informacij, ki je obsegala 570 GB podatkov. Kot piše v članku iz Znanstveni fokus, je bilo med razvojem sistema GPT-3 vnesenih 300 milijard besed informacij.
Nekaj, kar je vredno omeniti, je, da je ChatGPT prejemal samo podatke, ki so obstajali pred letom 2021. To pomeni, da chatbot ne more odgovoriti na vprašanja v zvezi z nedavnimi dogodki. ChatGPT tudi nima dostopa do interneta. Podatki, ki jih je vnesel med usposabljanjem, so edina vrsta, ki jo uporablja za izpolnjevanje uporabniških pozivov.
Toda, ali vam ChatGPT posreduje le dejstva ali je med njegove odgovore pomešane še kakšne bolj dvoumne informacije? Poleg tega vam lahko ChatGPT laže?
Ali ChatGPT laže?
Čeprav ChatGPT uporabnikom pogosto zagotavlja resnične informacije, ima možnost "lagati". ChatGPT se seveda ne odloči zlonamerno lagati uporabnikom, saj tega preprosto ne zmore. Navsezadnje je ChatGPT orodje za obdelavo jezika in ne imitacija resnične čuteče osebe.
Vendar lahko ChatGPT tehnično še vedno leži skozi pojav, znan kot halucinacije AI.
AI halucinacija vključuje sistem AI, ki zagotavlja informacije, ki se zdijo razumne ali verjetne, vendar v resnici sploh niso resnične. Pravzaprav lahko halucinacija AI zagotovi informacijo, da ni bila nikoli hranjena med obdobjem usposabljanja. Druga možnost je, da se lahko zgodi, ko sistem AI zagotovi informacije, ki niso povezane s pozivom ali zahtevo. Sistem umetne inteligence lahko celo trdi, da je človek v primeru halucinacije.
Sistemi umetne inteligence, kot so chatboti, se ujamejo v past halucinacij iz več razlogov: nerazumevanje resničnega sveta, programske napake in omejitve posredovanih podatkov.
Kot je bilo že omenjeno, lahko ChatGPT zagotovi informacije samo z uporabo podatkov, objavljenih do leta 2021, kar zagotovo omejuje vrste pozivov, ki jih lahko izpolni.
Eden od Velike težave ChatGPT je, da lahko postane tudi žrtev pristranskosti, ko uporabnikom daje informacije. Celo ustvarjalci ChatGPT so izjavili, da je bil sistem AI v preteklosti "politično pristranski, žaljiv" in "drugače sporen". Kot poroča The Independent, so razvijalci ChatGPT zavezani reševanju te težave, vendar to ne pomeni, da ne predstavlja več tveganja.
Na vprašanje je ChatGPT izjavil, da razlogi, zaradi katerih lahko posreduje netočne informacije, vključujejo naslednje:
- Dvoumnost v vprašanju (nejasni, nejasni pozivi);
- Zagotovljene nepopolne informacije;
- posredovane pristranske ali napačne informacije; ali,
- Tehnične omejitve (predvsem zaradi pomanjkanja dostopa do trenutnih podatkov).
Tako je ChatGPT sam izjavil, da obstajajo scenariji, v katerih uporabnikom ne bo zagotovil točnih informacij.
V drugem odgovoru v istem pogovoru je ChatGPT izjavil, da je "vedno dobra ideja preveriti vse informacije [ki jih ponuja] z drugimi viri."
Ali lahko zaupate ChatGPT?
Ker lahko posreduje lažne podatke, vam jasno ne more zaupati ChatGPT 100% časa.
Tveganje halucinacij klepetalnega robota z umetno inteligenco lahko zmanjšate tako, da nastavite posebne parametre o tem, kako vam lahko odgovori. Vendar pa še vedno ni nobenega zagotovila, da kakšna lažna informacija ne bo zdrsnila skozi razpoke.
Zaradi tega je najbolje, da preverite vse informacije, ki vam jih posreduje ChatGPT, še posebej, če zahtevate informacije o nedavnih dogodkih. Dvojno preverjanje teh podatkov s sklicevanjem na druge vire vam lahko pomaga ugotoviti, ali ima ChatGPT prav, kar pravi, in vam lahko prepreči sprejemanje nepremišljenih odločitev.
ChatGPT je koristen, vendar ne vedno resničen
Na žalost se ne morete zanesti, da bo ChatGPT 100 % časa zagotovil resnične in nepristranske informacije. Ta chatbot, ki ga poganja AI, je nedvomno koristen in vam lahko pomaga na različne načine, vendar je vedno vredno preveriti, ali so informacije, ki jih ponuja, resnične.