ChatGPT internett: hvordan Whizi gir modeller ferske kilder

Det korte svaret

Nettsøk er automatisk. Modellen du har valgt svarer med ferske kilder i stedet for kun treningsdataene sine, det koster ingen kreditter, og avgjørelsen tas per melding og ikke per modell, så den fungerer uansett hvilken modell du velger.

To kontroller avgjør om en melding blir søkt. Først leser en liten, rask klassifikator meldingen din før modellen gjør det, og vurderer om den trenger nettet. Svarer den ja, kjører søket med en gang. Svarer den nei eller er usikker, har modellen fortsatt en billig søkefunksjon og kan kalle den hvis den bestemmer at den trenger en kilde. En forespørsel om et dikt får ikke noe søk, mens et spørsmål om denne uken gjør det.

Delen om per melding er den nyttige biten. En modell uten egen henting svarer normalt på et spørsmål om denne måneden ut fra et treningssett som endte for måneder siden. Whizi legger et søkelag foran hvilken modell du enn har valgt, noe som betyr at du kan spørre Claude, eller en Llama-modell, eller en liten, rask modell, et spørsmål om i dag og få et svar med kilder.

Hvis et svar du forventet skulle ha kilder, kom tilbake uten, eller meldingen feilet, finner du feilbildet i nettsøk fungerer ikke.

Når det endrer svaret

Tre kategorier der forskjellen mellom et søkt svar og et usøkt ikke er subtil.

Alt med en dato i seg. Priser, modellutgivelser, produktlanseringer, firmanyheter, versjonsnummer. Uten søk svarer en modell sikkert basert på det som var sant da den ble trent, og gir deg ingen signal om at informasjonen er utdatert. Dette er den mest vanlige måten AI-svar går stille galt på.

Alt som er uklart eller spesifikt. Et lite firma, et nisjeverktøy, en lokal forskrift, en spesiell feilmelding. Treningsdata dekker slikt tynt eller ikke i det hele tatt, og tynn dekning er nettopp tilstanden der modeller finner opp plausible detaljer.

Alt du har tenkt å handle på. Søk gir kilder du kan åpne. En påstand med en lenke du kan kontrollere er et annet objekt enn en påstand uten en, selv når begge viser seg å være korrekte.

Når du bør holde nettet utenfor

Søk er ikke uten kostnad for svarkvalitet, og det er derfor Whizi hopper over det på meldinger som ikke trenger det.

For resonnering, skriving og analyse av noe du har lastet opp, tilfører søk ingenting og kan aktivt distrahere. Hvis du har lastet opp et dokument og vil at modellen skal resonnere om det dokumentet, henter nettresultater inn materiale som ikke er ditt og ikke ble spurt om. Det samme gjelder kreativ skriving, kodegjennomgang av din egen kode og trinnvis problemløsning.

Grovregelen: søk hjelper når svaret er avhengig av fakta om verden, og er i veien når svaret er avhengig av å tenke gjennom noe som allerede er i samtalen. For å holde det ute sier du det i meldingen, for eksempel «svar bare ut fra dokumentet jeg lastet opp, ikke søk».

Å lese kildene riktig

Et svar med kilder er mer kontrollerbart, ikke automatisk mer korrekt. Det finnes to feilmodus som overlever henting og er verdt å se etter.

Den første er en kilde som finnes, men som ikke støtter påstanden. Modellen har hentet en side, og siden er ekte, men det spesifikke tallet eller utsagnet som tilskrives den, står ikke i den. Å åpne en eller to av kildelenkene på et svar du planlegger å stole på, fanger dette raskt.

Den andre er en kilde som selv er feil eller utdatert. Søk vurderer ikke troverdighet, så et gammelt blogginnlegg rangeres på linje med et autoritativt. Særlig for priser og spesifikasjoner slår en leverandørside en oppsummeringsartikkel, og begge slår en forumkommentar.

Hvis en påstand betyr noe, er den raskeste bekreftelsen å spørre en annen modell om det samme spørsmålet, i den samme samtalen, og si at du vil ha ferske kilder. Der to uavhengige hentinger er samstemte om et spesifikt tall og en kilde, er tilliten rimelig. Der de spriker, er det ditt funn.