Naučite se zmanjšati halucinacije AI s preprostimi tehnikami spodbujanja, ki delujejo s katerim koli generativnim orodjem AI.

Ključni zaključki

  • Jasni in specifični pozivi so ključnega pomena za zmanjšanje halucinacij AI. Izogibajte se nejasnim navodilom in zagotovite jasne podrobnosti, da preprečite nepredvidljive rezultate.
  • Uporabite ozemljitev ali tehniko "v skladu z...", da izhod pripišete določenemu viru ali perspektivi. To pomaga preprečiti dejanske napake in pristranskost v vsebini, ki jo ustvari umetna inteligenca.
  • Uporabite omejitve in pravila za oblikovanje rezultatov umetne inteligence glede na želene rezultate. Eksplicitno navedite omejitve ali jih implicirajte prek konteksta ali naloge, da preprečite neprimerne ali nelogične rezultate.

Od generativnega modela AI ne dobite želenega odziva? Morda imate opravka s halucinacijami AI, težavo, ki se pojavi, ko model ustvari netočne ali nepomembne rezultate.

Povzročijo ga različni dejavniki, kot je kakovost podatkov, uporabljenih za usposabljanje modela, pomanjkanje konteksta ali dvoumnost poziva. Na srečo obstajajo tehnike, s katerimi lahko dobite bolj zanesljiv izhod iz modela AI.

instagram viewer

1. Zagotovite jasne in specifične pozive

Prvi korak v zmanjšanje halucinacij AI je ustvarjanje jasnih in zelo specifičnih pozivov. Nejasni ali dvoumni pozivi lahko vodijo do nepredvidljivih rezultatov, saj lahko modeli umetne inteligence poskušajo razložiti namen za pozivom. Namesto tega bodite jasni v svojih navodilih.

Namesto da bi vprašali: »Povej mi o psih,« bi lahko rekli: »Daj mi podroben opis fizičnega značilnosti in temperament zlatih prinašalcev." Izboljšanje vašega poziva, dokler ni jasno, je preprost način za preprečevanje umetne inteligence. halucinacije.

2. Uporabite ozemljitev ali tehniko "V skladu z ...".

Eden od izzivov pri uporabi sistemov umetne inteligence je, da lahko ustvarijo rezultate, ki so dejansko nepravilni, pristranski ali niso v skladu z vašimi pogledi ali vrednotami. To se lahko zgodi, ker so sistemi AI usposobljeni na velikih in raznolikih naborih podatkov, ki lahko vsebujejo napake, mnenja ali protislovja.

Da bi se temu izognili, lahko uporabite ozemljitev ali tehniko "v skladu z ...", ki vključuje pripisovanje izhoda določenemu viru ali perspektivi. Na primer, od sistema AI lahko zahtevate, da napiše dejstvo o temi v skladu z Wikipedijo, Google Scholarjem ali določenim javno dostopnim virom.

3. Uporabite omejitve in pravila

Omejitve in pravila lahko pomagajo preprečiti, da bi sistem AI ustvaril neustrezne, nedosledne, protislovne ali nelogične rezultate. Prav tako lahko pomagajo oblikovati in izboljšati rezultate glede na želeni rezultat in namen. Omejitve in pravila so lahko izrecno navedeni v pozivu ali implicitno implicirani v kontekstu ali nalogi.

Recimo, da želite uporabiti orodje AI, da napišete pesem o ljubezni. Namesto splošnega poziva, kot je »napiši pesem o ljubezni«, mu lahko daš bolj omejen in na pravilih temelječ poziv, kot je »napiši sonet o ljubezni s 14 vrsticami in 10 zlogi na vrstico«.

4. Uporabite večstopenjsko pozivanje

Včasih lahko zapletena vprašanja povzročijo halucinacije umetne inteligence, ker model nanje poskuša odgovoriti v enem koraku. Če želite to premagati, razdelite poizvedbe na več korakov.

Na primer, namesto da bi vprašali: "Kaj je najučinkovitejše zdravljenje sladkorne bolezni?" lahko vprašate: "Katera so običajna zdravljenja za sladkorno bolezen?" Nato lahko nadaljujete z: "Katero od teh zdravljenj velja za najučinkovitejše po mnenju zdravnikov študij?"

Večstopenjsko pozivanje prisili model umetne inteligence, da zagotovi vmesne informacije, preden pride do končnega odgovora, kar lahko vodi do natančnejših in dobro informiranih odgovorov.

5. Dodelite vlogo AI

Ko v pozivu dodelite določeno vlogo modelu AI, razjasnite njegov namen in zmanjšate verjetnost halucinacij. Na primer, namesto da rečete: "Povej mi o zgodovini kvantne mehanike," lahko AI pozovete z, "Prevzemite vlogo marljivega raziskovalca in zagotovite povzetek ključnih mejnikov v zgodovini kvantne mehanika."

To uokvirjanje spodbuja AI, da deluje kot marljiv raziskovalec in ne špekulativni pripovedovalec zgodb.

6. Dodajte kontekstualne informacije

Nezagotavljanje kontekstualnih informacij, kadar je to potrebno, je a prompt napaka, ki se ji je treba izogniti pri uporabi ChatGPT ali drugi modeli AI. Kontekstualne informacije pomagajo modelu razumeti ozadje, domeno ali namen naloge in ustvarjajo ustreznejše in skladnejše rezultate. Kontekstualne informacije vključujejo ključne besede, oznake, kategorije, primere, reference in vire.

Na primer, če želite ustvariti oceno izdelka za par slušalk, lahko zagotovite kontekstualne informacije, kot so ime izdelka, blagovna znamka, lastnosti, cena, ocena ali povratne informacije strank. Dober poziv za to nalogo bi lahko izgledal nekako takole:

Do boljših odzivov AI

Lahko je frustrirajoče, če ne dobite povratnih informacij, ki jih pričakujete od modela AI. Vendar pa lahko z uporabo teh tehnik pozivanja AI zmanjšate verjetnost halucinacij AI in dobite boljše in zanesljivejše odzive svojih sistemov AI.

Upoštevajte, da te tehnike niso zanesljive in morda ne bodo delovale za vsako nalogo ali temo. Vedno morate preveriti in preveriti rezultate AI, preden jih uporabite za kakršen koli resen namen.