ChatGPT je zmogljiv nov klepetalni robot z umetno inteligenco, ki hitro naredi vtis, vendar je veliko ljudi poudarilo, da ima nekaj resnih pasti. Vprašajte ga, karkoli želite, in prejeli boste odgovor, ki zveni, kot da ga je napisal človek, ker se je svojega znanja in veščin pisanja naučil iz množice informacij po internetu.
Tako kot internet pa resnica in dejstva niso vedno samoumevni in ChatGPT je kriv, da se je zmotil. Glede na to, da bo ChatGPT spremenil našo prihodnost, je tukaj nekaj največjih skrbi.
Kaj je ChatGPT?
ChatGPT je velik model učenja jezikov, ki je bil zasnovan za posnemanje človeškega pogovora. Lahko se spomni stvari, ki ste mu rekli v preteklosti, in se lahko popravi, ko se zmoti.
Piše na človeški način in ima bogato znanje, saj se je uril na vseh vrstah besedil iz interneta, kot so Wikipedia, objave v spletnih dnevnikih, knjige in akademski članki.
Lahko se ga je naučiti kako uporabljati ChatGPT, še večji izziv pa je ugotoviti, kaj so njegove največje težave. Tukaj je nekaj, o katerih je vredno vedeti.
1. ChatGPT nima vedno prav
Ne uspe mu osnovna matematika, zdi se, da ne zna odgovoriti na preprosta logična vprašanja in bo šel celo tako daleč, da bo argumentiral popolnoma napačna dejstva. Kot lahko potrdijo uporabniki družbenih medijev, se lahko ChatGPT večkrat zmoti.
OpenAI pozna to omejitev in piše: "ChatGPT včasih napiše zveneče verjetne, a nepravilne ali nesmiselne odgovore." to »halucinacija« dejstev in fikcije, kot jo imenujejo nekateri znanstveniki, je še posebej nevarna, ko gre za nekaj, kot je medicina. nasvet.
Za razliko od drugih pomočnikov AI, kot sta Siri ali Alexa, Chat GPT za iskanje odgovorov ne uporablja interneta. Namesto tega sestavi stavek besedo za besedo in na podlagi svoje usposobljenosti izbere najverjetnejši "žeton", ki bi moral biti naslednji.
Z drugimi besedami, ChatGPT pride do odgovora z nizom ugibanj, kar je del razloga, da lahko argumentira napačne odgovore, kot da so popolnoma resnični.
Čeprav odlično razlaga zapletene pojme, zaradi česar je močno orodje za učenje, je pomembno, da ne verjamete vsemu, kar pove. ChatGPT ni vedno pravilen – vsaj še ne.
2. Pristranskost je vpeta v sistem
ChatGPT je bil usposobljen za kolektivno pisanje ljudi po vsem svetu, preteklosti in sedanjosti. To pomeni, da se enake pristranskosti, ki obstajajo v podatkih, lahko pojavijo tudi v modelu.
Pravzaprav so uporabniki pokazali, kako lahko ChatGPT daje nekaj groznih odgovorov, nekateri na primer diskriminirajo ženske. A to je le vrh ledene gore; lahko ustvari odgovore, ki so izjemno škodljivi za vrsto manjšinskih skupin.
Tudi krivda ni le v podatkih. Raziskovalci in razvijalci OpenAI izberejo podatke, ki se uporabljajo za usposabljanje ChatGPT. Za pomoč pri reševanju tega, čemur OpenAI pravi "pristransko vedenje", prosi uporabnike, da posredujejo povratne informacije o slabih rezultatih.
Glede na to, da lahko povzroči škodo ljudem, lahko trdite, da ChatGPT ne bi smel biti objavljen v javnosti, preden se ti problemi preučijo in rešijo.
Podoben klepetalni robot z umetno inteligenco, imenovan Sparrow (v lasti Googlove matične družbe Alphabet), je bil izdan septembra 2022. Vendar pa je ostalo za zaprtimi vrati zaradi podobnih pomislekov, da bi lahko povzročilo škodo.
Morda bi morala tudi Meta opozoriti. Ko je izdal Galactico, jezikovni model umetne inteligence, ki je bil učen na akademskih člankih, je bil hitro odpoklican, potem ko so ga mnogi kritizirali zaradi napačnih in pristranskih rezultatov.
3. Izziv srednješolski angleščini
ChatGPT lahko prosite, da lektorira vaše pisanje ali pokaže, kako izboljšati odstavek. Druga možnost je, da se popolnoma odstranite iz enačbe in prosite ChatGPT, da napiše nekaj za vas.
Učitelji so eksperimentirali z vnašanjem angleških nalog v ChatGPT in prejeli odgovore, ki so boljši od tistih, ki bi jih lahko naredili mnogi njihovi učenci. Od pisanja spremnih pisem do opisovanja glavnih tem v znanem literarnem delu, ChatGPT lahko to stori brez oklevanja.
Ob tem se postavlja vprašanje: če lahko ChatGPT piše namesto nas, ali se bodo učenci v prihodnosti morali naučiti pisati? Morda se zdi eksistencialno vprašanje, toda ko bodo učenci začeli uporabljati ChatGPT za pomoč pri pisanju esejev, bodo morale šole hitro najti odgovor. Hitra uvedba umetne inteligence v zadnjih letih bo šokirala številne industrije in izobraževanje je le ena izmed njih.
4. Lahko povzroči škodo v resničnem svetu
Prej smo omenili, kako lahko napačne informacije ChatGPT povzročijo škodo v resničnem svetu, pri čemer je najbolj očiten primer napačen zdravniški nasvet.
Obstajajo tudi drugi pomisleki. Lažni računi v družabnih medijih predstavljajo velik problem na internetu in z uvedbo klepetalnih robotov z umetno inteligenco bi internetne prevare postalo lažje izvajati. Širjenje lažnih informacij je še ena skrb, zlasti ko ChatGPT poskrbi, da tudi napačni odgovori zvenijo prepričljivo pravilni.
Hitrost, s katero lahko ChatGPT ustvari odgovore, ki niso vedno pravilni, je že povzročila težave Stack Exchange, spletnemu mestu, kjer lahko uporabniki objavijo vprašanja in dobijo odgovore.
Kmalu po objavi so bili odgovori ChatGPT prepovedani s spletnega mesta, ker je bilo veliko napačnih. Brez dovolj človeških prostovoljcev, ki bi razvrstili zaostanke, bi bilo nemogoče vzdrževati visoko raven kakovosti odgovorov, kar bi povzročilo škodo spletnemu mestu.
5. OpenAI ima vso moč
Z veliko močjo prihaja velika odgovornost in OpenAI ima veliko moči. Je eno prvih podjetij z umetno inteligenco, ki je resnično pretreslo svet ne z enim, temveč z več modeli umetne inteligence, vključno z Dall-E 2, GPT-3 in zdaj še s ChatGPT.
OpenAI izbere, kateri podatki se uporabljajo za usposabljanje ChatGPT in kako se spopada z negativnimi posledicami. Ne glede na to, ali se z metodami strinjamo ali ne, bo to tehnologijo še naprej razvijala v skladu s svojimi cilji.
Medtem ko OpenAI meni, da je varnost velika prednostna naloga, o tem, kako so modeli ustvarjeni, veliko ne vemo. Ne glede na to, ali menite, da bi morala biti koda odprtokodna, ali se strinjate, da morajo njeni deli ostati skrivnost, glede tega ne moremo storiti veliko.
Na koncu dneva lahko le zaupamo, da bo OpenAI odgovorno raziskoval, razvijal in uporabljal ChatGPT. Druga možnost je, da se zavzemamo za to, da bi več ljudi imelo besedo, v katero smer naj se usmeri umetna inteligenca, pri čemer delijo moč umetne inteligence z ljudmi, ki jo bodo uporabljali.
Če vas zanima, kaj je še razvil OpenAI, si oglejte naše članke kako uporabljati Dall-E 2 in kako uporabljati GPT-3.
Reševanje največjih težav AI
S ChatGPT, najnovejšim razvojem OpenAI, je veliko razlogov za navdušenje. Toda poleg njegove neposredne uporabe obstaja nekaj resnih težav, ki jih je vredno razumeti.
OpenAI priznava, da lahko ChatGPT ustvari škodljive in pristranske odgovore, da ne omenjamo njegove zmožnosti mešanja dejstev z fikcijo. S tako novo tehnologijo je težko predvideti, kakšne druge težave se bodo pojavile. Torej do takrat uživajte v raziskovanju ChatGPT in pazite, da ne verjamete vsemu, kar piše.
