Z milijoni uporabnikov ChatGPT se morda sprašujete, kaj počne OpenAI z vsemi svojimi pogovori. Ali nenehno analizira stvari, o katerih govorite s ChatGPT?
Odgovor na to je, da, ChatGPT se uči iz uporabniških vnosov, vendar ne na način, kot večina ljudi misli. Tukaj je poglobljen vodnik, ki pojasnjuje, zakaj ChatGPT sledi pogovorom, kako jih uporablja in ali je vaša varnost ogrožena.
Ali si ChatGPT zapomni pogovore?
ChatGPT ne jemlje pozivov za realno vrednost. Uporablja kontekstualni pomnilnik za zapomnitev in sklicevanje na prejšnje vnose, kar zagotavlja ustrezne in dosledne odzive.
Za primer vzemite spodnji pogovor. Ko smo ChatGPT vprašali za ideje za recepte, je upošteval naše prejšnje sporočilo o alergijah na arašide.
Tukaj je varen recept ChatGPT.
Kontekstualni pomnilnik omogoča tudi izvajanje nalog v več korakih. Spodnja slika prikazuje ChatGPT, ki ostaja v značaju tudi po vnosu novega poziva.
ChatGPT si lahko zapomni na desetine navodil v pogovorih. Njegov rezultat se dejansko izboljša v točnosti in natančnosti, ko zagotovite več konteksta. Samo poskrbite, da boste svoja navodila izrecno razložili.
Upravljajte tudi s svojimi pričakovanji, ker ima kontekstualni pomnilnik ChatGPT še vedno omejitve.
Pogovori ChatGPT imajo omejeno pomnilniško zmogljivost
Kontekstualni spomin je omejen. ChatGPT ima omejene vire strojne opreme, zato si zapomni samo določene točke trenutnih pogovorov. Platforma pozabi prejšnje pozive, ko dosežete njeno zmogljivost pomnilnika.
V tem pogovoru smo ChatGPT naročili, naj igra vlogo izmišljenega lika po imenu Tomie.
Na pozive je začel odgovarjati kot Tomie, ne kot ChatGPT.
Čeprav je naša zahteva delovala, je ChatGPT po prejemu poziva s 1000 besedami pokvaril znak.
OpenAI ni nikoli razkril natančnih omejitev ChatGPT, vendar govorice pravijo, da lahko naenkrat obdela samo 3000 besed. V našem poskusu se je ChatGPT pokvaril že po 2800+ besedah.
Svoje pozive lahko razdelite na dva niza po 1500 besed, vendar ChatGPT verjetno ne bo obdržal vseh vaših navodil. Samo začnite nov klepet. V nasprotnem primeru boste morali skozi pogovor večkrat ponoviti določene podrobnosti.
ChatGPT si zapomni le vnose, ki so pomembni za temo
ChatGPT uporablja kontekstualni pomnilnik za izboljšanje natančnosti izpisa. Podatkov ne hrani le zaradi zbiranja. Platforma skoraj samodejno pozabi nepomembne podrobnosti, tudi če še zdaleč niste dosegli omejitve žetonov.
Na spodnji sliki poskušamo AI zamenjati z raznimi neskladnimi, nepomembnimi navodili.
Naši skupni vnosi so bili pod 100 besedami, vendar je ChatGPT še vedno pozabil naše prvo navodilo. Hitro je zlomilo značaj.
Medtem je ChatGPT med tem pogovorom nadaljeval z igranjem vlog, ker smo postavljali samo vprašanja, ki so pomembna za temo.
V idealnem primeru mora vsak dialog slediti eni sami temi, da ohranimo točne in ustrezne rezultate. Še vedno lahko vnesete več navodil hkrati. Prepričajte se le, da so v skladu s celotno temo, sicer lahko ChatGPT opusti navodila, ki se mu zdijo nepomembna.
Navodila za usposabljanje prevladajo nad uporabniškim vnosom
ChatGPT bo vedno dal prednost vnaprej določenim navodilom pred vnosom, ki ga ustvari uporabnik. Preprečuje nedovoljene dejavnosti z omejitvami. Platforma zavrača vsak poziv, za katerega meni, da je nevaren ali škodljiv za druge.
Kot primer vzemite zahteve po igranju vlog. Čeprav preglasijo določene omejitve glede jezika in izrazov, jih ne morete uporabiti za izvajanje nedovoljenih dejavnosti.
Vse omejitve seveda niso razumne. Če je zaradi strogih smernic težko izvesti določene naloge, še naprej prepisujte svoje pozive. Izbira besed in ton močno vplivata na rezultate. Navdih lahko črpate iz večine učinkovite, podrobne pozive na GitHubu.
Kako OpenAI preučuje pogovore uporabnikov?
Kontekstualni pomnilnik velja samo za vaš trenutni pogovor. Arhitektura ChatGPT brez stanja obravnava pogovore kot neodvisne primerke; ne more se sklicevati na informacije iz prejšnjih. Začetek novih klepetov vedno ponastavi stanje modela.
To ne pomeni, da ChatGPT takoj odstrani uporabniške pogovore. Pogoji uporabe OpenAI navajajo, da podjetje zbira vnose iz potrošniških storitev, ki niso API, kot sta ChatGPT in Dall-E. Lahko celo zahtevate kopije svoje zgodovine klepetov.
Medtem ko ChatGPT prosto dostopa do pogovorov, Politika zasebnosti OpenAI prepoveduje dejavnosti, ki bi lahko ogrozile uporabnike. Trenerji lahko vaše podatke uporabljajo le za raziskave in razvoj izdelkov.
Razvijalci iščejo vrzeli
OpenAI skozi pogovore išče vrzeli. Analizira primere, v katerih ChatGPT dokazuje pristranskost podatkov, proizvaja škodljive informacije ali pomaga pri izvajanju nedovoljenih dejavnosti. Etične smernice platforme se nenehno prenavljajo.
Na primer, prve različice ChatGPT je odkrito odgovarjal na vprašanja o kodiranju zlonamerne programske opreme ali izdelava eksploziva. Zaradi teh incidentov so se uporabniki počutili kot OpenAI nima nadzora nad ChatGPT. Da bi ponovno pridobil zaupanje javnosti, je klepetalnega robota usposobil, da zavrne vsako vprašanje, ki bi lahko bilo v nasprotju z njegovimi smernicami.
Trenerji zbirajo in analizirajo podatke
ChatGPT uporablja tehnike nadzorovanega učenja. Čeprav si platforma zapomni vse vnose, se iz njih ne uči v realnem času. Trenerji OpenAI jih najprej zberejo in analizirajo. S tem zagotovite, da ChatGPT nikoli ne absorbira škodljivih, škodljivih informacij, ki jih prejme.
Nadzorovano učenje zahteva več časa in energije kot nenadzorovane tehnike. Vendar se je že izkazalo, da je prepuščanje umetne inteligence samo analiziranju vnosa škodljivo.
Vzemite Microsoft Tay kot primer – enega od časih, ko je šlo strojno učenje narobe. Ker je nenehno analiziral tvite brez navodil razvijalca, so ga zlonamerni uporabniki sčasoma naučili pljuvati rasistična, stereotipna mnenja.
Razvijalci nenehno pazijo na pristranskosti
Več zunanji dejavniki povzročajo pristranskosti v AI. Nezavedni predsodki lahko nastanejo zaradi razlik v modelih usposabljanja, napak v naboru podatkov in slabo oblikovanih omejitev. Opazili jih boste v različnih aplikacijah AI.
Na srečo ChatGPT ni nikoli pokazal diskriminatornih ali rasnih pristranskosti. Morda je najhujša pristranskost, ki so jo opazili uporabniki, nagnjenost ChatGPT k levičarskim ideologijam, pravi New York Post poročilo. Platforma bolj odprto piše o liberalnih kot konservativnih temah.
Da bi razrešil te pristranskosti, je OpenAI ChatGPT prepovedal zagotavljanje političnih vpogledov v celoti. Odgovori lahko le na splošna dejstva.
Moderatorji pregledajo uspešnost ChatGPT
Uporabniki lahko posredujejo povratne informacije o rezultatih ChatGPT. Na desni strani vsakega odgovora boste našli gumba za palec gor in palec dol. Prvo pomeni pozitivno reakcijo. Ko pritisnete gumb »Všeč mi je« ali »Ni mi všeč«, se prikaže okno, v katerem lahko pošljete povratne informacije s svojimi besedami.
Sistem povratnih informacij je koristen. Pustite OpenAI nekaj časa, da prebere komentarje. Milijoni uporabnikov redno komentirajo ChatGPT – njegovi razvijalci verjetno dajejo prednost resnim primerom pristranskosti in škodljivemu ustvarjanju rezultatov.
Ali so vaši pogovori ChatGPT varni?
Glede na politike zasebnosti OpenAI ste lahko prepričani, da bodo vaši podatki ostali varni. ChatGPT uporablja samo pogovore za usposabljanje podatkov. Njegovi razvijalci preučujejo zbrane vpoglede, da bi izboljšali natančnost in zanesljivost izpisa, ne da bi ukradli osebne podatke.
Glede na to noben sistem AI ni popoln. ChatGPT sam po sebi ni pristranski, vendar lahko zlonamerni posamezniki še vedno izkoristijo njegove ranljivosti, npr. napake nabora podatkov, neprevidno usposabljanje in varnostne vrzeli. Za svojo zaščito se naučite spopasti s temi tveganji.
