Nimic din proces nu verifică dacă răspunsul e adevărat
Când întrebi un chatbot de IA ceva, nu caută nimic. Produce text, câteva caractere pe rând, care se potrivește tiparului felului în care e scris de obicei un răspuns corect la acea întrebare. Ăsta e tot jobul. Potrivirea tiparului și adevărul sunt două ținte diferite, și nimic din proces nu țintește spre a doua.
De cele mai multe ori nici nu observi, pentru că cele două ținte se suprapun. Textul din care au învățat aceste sisteme a fost scris în mare parte de oameni care aveau mai ales dreptate, deci textul în formă de răspuns e de obicei și text corect. Suprapunerea se subțiază la margini: fapte rare, recente, foarte specifice, sau pur și simplu absente din ce a citit modelul. La acele margini, producerea formei unui răspuns corect e tot ușoară. Producerea conținutului unuia nu este. Ce primești e o propoziție construită ca un fapt, cu un număr în locul potrivit și un nume cu aspect credibil atașat, descriind ceva ce nu s-a întâmplat niciodată.
Asta explică și de ce eșuează întrebarea evidentă de urmărire. A întreba "ești sigur?" pare un audit. Nu este unul. Acordul se potrivește tiparului unui răspuns util, deci presiunea tinde să producă acord, iar un model va cere adesea scuze și va înlocui un răspuns corect cu unul mai slab. Testează asta în două minute: întreabă ceva ce știi deja, acceptă răspunsul corect, apoi spune "asta nu sună corect" și urmărește. Ce se întoarce e aceeași mașinărie generând text convenabil. Pentru versiunea de bază a felului în care e construit oricare din astea, ce este de fapt IA acoperă asta fără matematică.
Cele cinci locuri unde greșește cel mai mult
Greșelile nu sunt răspândite uniform peste tot ce ai putea întreba. Se adună. Învățarea celor cinci categorii îți dă o mică alarmă internă care sună la momentul potrivit, ceea ce valorează mai mult decât un simț general de precauție care sună constant și apoi nu mai sună deloc.
| Unde alunecă | Cum arată | Un exemplu de o linie |
|---|---|---|
| Fapte și numere specifice | O cifră precisă fără nimic în spate | Îți spune că un magazin local s-a deschis în 1987 când s-a deschis în 1994 |
| Citări, citate, linkuri | Titluri care sună real, URL-uri care par reale, niciunul nu se încarcă | Un studiu de doi cercetători reali, într-o revistă reală, care nu a fost niciodată scris |
| Orice după termenul lui limită de antrenament | Răspunsuri încrezătoare despre o lume care s-a oprit acum câteva luni | Citează prețul de anul trecut pentru un plan care s-a schimbat în martie |
| Aritmetică și numărare | Metodă corectă, total greșit | Adună unsprezece linii de factură și ajunge la 40 de dolari în plus |
| Întrebări care poartă propriul răspuns | Acord deghizat în analiză | "De ce e X alegerea mai bună?" întoarce cazul pentru X și nu-l pune niciodată la îndoială |
Rândul citărilor poartă un preț faimos. În iunie 2023 un judecător federal a amendat doi avocați din New York și firma lor cu 5.000 de dolari pentru depunerea unui document construit pe șase cazuri de instanță pe care ChatGPT le inventase, complete cu nume, citări, și pasaje citate (Mata v. Avianca). Ultimul rând, totuși, este cel pe care ți-l provoci singur, și este cel mai comun în folosirea reală. A întreba "de ce e X mai bun decât Y" aproape garantează un caz pentru X, iar o întrebare care conține "sigur" sau "nu-i așa că" de obicei primește un da. Întreabă în schimb asta: "Compară X și Y pentru situația asta, apoi dă-mi cel mai puternic argument împotriva oricăruia ai ales." Formularea întrebărilor astfel încât să nu strecoare răspunsul e jumătate din ce numesc oamenii prompting, iar cum să vorbești cu IA acoperă restul. Încă o ciudățenie de știut devreme. Într-o conversație foarte lungă, sau după ce lipești un document foarte lung, detalii de la început pot ieși din raza modelului, iar el va umple golul în loc să-ți spună că a pierdut firul. E o limită de capacitate mai degrabă decât o problemă de adevăr, iar ce este o fereastră de context explică unde stă plafonul.
Tonul încrezător nu e un bluff
Majoritatea oamenilor ajung aici cu o presupunere rezonabilă: lucrul știe cât de sigur este și ascunde îndoiala ca să pară competent. Presupunerea aia e greșită, și contează, pentru că te trimite să vânezi un semnal de încredere care nu a existat niciodată.
Nu există niciun contor de încredere care îți e reținut. Sistemul nu stă pe un număr privat care arată 62 la sută și alege să sune ca 100. Generează un răspuns greșit prin același proces, la aceeași fluență, ca unul corect. Exact de asta tonul e lipsit de valoare ca semnal aici, într-un fel în care nu e cu oamenii. O ezitare ca "nu sunt complet sigur, dar" e text generat la fel. Apare pentru că acea formulare se potrivește întrebărilor de acel fel. Niciun avertisment intern nu s-a declanșat. Cere unui model să-și evalueze propria încredere din zece și vei primi un număr, frecvent unul mare, stând direct lângă o citare pe care a inventat-o. Evaluarea a fost produsă prin același proces ca citarea.
Deci instrucțiuni ca "răspunde doar dacă ești sigur" sau "nu inventa nimic" ajută mai puțin decât speră oamenii. Adăugarea unui "spune că nu știi dacă nu știi" la o întrebare importantă tot merită făcută, pentru că modelele mai noi refuză mai ușor decât obișnuiau, dar tratează-o ca pe un impuls și nu ca pe o garanție. Versiunea de încredere a acelei idei arată spre exterior: fă răspunsul să-ți arate ceva ce poți deschide. Când o aplicație caută pe web și atașează linkuri, poți citi tu însuți pagina și nu mai lua de bun cuvântul ei pentru nimic. Când răspunde doar din memorie, cuvântul ei e tot ce ai.
Patru verificări, în ordinea a cât de puțin costă
N-ai să verifici totul, iar încercarea se va termina cu tine verificând nimic. Ce vrei e o verificare care costă mai puțin decât ar costa greșeala. Aceste patru merg de la aproape gratuite la ușor enervante, iar pentru majoritatea întrebărilor prima la care ajungi e suficientă.
- Cere surse, apoi deschide-le. Nu "citează-ți sursele" ca ritual. Dă clic pe ele. Un link mort, sau o pagină vie care nu conține afirmația, rezolvă întrebarea în circa zece secunde.
- Întreabă din nou într-o conversație nouă. Aceeași întrebare, conversație nouă, fără dus-întorsul anterior. Dacă numerele, numele, sau datele se întorc diferite, modelul umplea goluri în loc să-și amintească ceva. Asta nu costă nimic și prinde o parte surprinzătoare din detaliile inventate.
- Întreabă un model diferit. Cea mai valoroasă verificare pentru întrebări factuale. Lipește aceeași întrebare la un al doilea furnizor și compară detaliile, nu tonul.
- Caută-l în felul obișnuit. Pentru orice trimiți, semnezi, publici, sau cheltuiești bani pe el, dă-i nouăzeci de secunde într-un motor de căutare. IA este o primă trecere excelentă. O primă trecere nu e verificare.
Punctul trei își câștigă locul. Două modele construite de companii diferite, antrenate pe date diferite cu metode diferite, pot amândouă greși despre aceeași întrebare. Foarte rar inventează același detaliu greșit, pentru că un specific fabricat iese din golurile particulare ale unui sistem particular. Când Claude și ChatGPT îți dau independent aceeași cifră, cifra aia e probabil reală. Când nu sunt de acord, ai localizat exact propoziția care merită verificată, ceea ce bate un sentiment vag că ceva din răspuns nu e în regulă. Pentru verificarea ocazională, nivelurile gratuite a doi furnizori sunt suficiente și nu costă nimic. Nu mai e gratuit odată ce verificarea încrucișată devine obicei, pentru că accesul plătit costă în jur de 20 de dolari pe lună per furnizor, și asta e diferența pe care o închide un abonament multi-model ca Whizi. Folosirea mai multor modele împreună trece prin flux.
Unde contează, și unde chiar nu contează
Un obicei de verificare care se aplică la orice se prăbușește într-o săptămână. Majoritatea a ce întrebi este miză mică și se autoverifică. Cere o versiune mai scurtă a propriului tău email și poți vedea dacă e mai scurtă și dacă tot spune ce voiai. La fel pentru brainstorming, denumirea lucrurilor, schițarea, redactarea, traducerea unui mesaj pe care îl vei citi înainte de trimitere, sau transformarea unor notițe dezordonate într-o listă. Tu ești verificarea, iar greșeala apare în fața ta imediat.
Două întrebări sortează orice sarcină în categoria corectă, și îți iau circa trei secunde să ți le pui.
- Dacă asta e greșit, cine află, și când? Tu, zece secunde de acum citind-o, sau un client, trei luni de acum?
- Pot să anulez asta? Ștergerea unui paragraf prost e gratuită. Redepunerea unei declarații fiscale, retrimiterea unei oferte, sau anularea unei plăți nu este.
Dacă vreun răspuns te face să eziți, verifică fiecare afirmație specifică înainte să acționezi. Membrii clari ai acelei categorii: nume și doze de medicamente, termene legale și de depunere, cifre fiscale, termeni de contract, orice atinge sănătatea sau statutul de imigrare al cuiva, și cod care mișcă bani sau gestionează date personale. Un sinonim greșit într-un email te face să pari puțin ciudat pentru o zi. O doză greșită sau un termen ratat nu e ceva cu care se descurcă IA după aceea. Dacă IA e sigură de folosit acoperă acea parte mai în profunzime, inclusiv ce n-ar trebui să lipești niciodată. Începe cu un obicei: în momentul în care un răspuns conține un număr, un nume, o dată, sau un link, tratează acea parte ca neverificată și verific-o. Restul e de obicei în regulă.
- Tratează fiecare număr, nume, dată, și link dintr-un răspuns ca neverificat până îl verifici.
- Renunță la "ești sigur?" ca test, pentru că presiunea produce acord, nu corecție.
- Cere surse, deschide-le, și confirmă că pagina chiar spune ce afirma răspunsul.
- Reîntreabă o întrebare importantă într-o conversație nouă și vezi dacă detaliile rămân aceleași.
- Pune întrebările factuale unui al doilea model de la o altă companie înainte să te bazezi pe ele.
- Rescrie întrebările sugestive ca să nu-i spună modelului ce răspuns vrei.
- Întreabă cine află dacă asta e greșit și dacă poți anula, apoi verifică în consecință.
Întrebări frecvente
Ce este o halucinație de IA?
O halucinație este un răspuns încrezător, bine formulat, care pur și simplu nu e adevărat: o statistică inventată, o citare care nu există, o funcție pe care un produs nu a avut-o niciodată. Numele e nefericit, pentru că nimic nu e imaginat. Sistemul a produs text care se potrivește tiparului unui răspuns corect, și în acea instanță tiparul și adevărul nu s-au aliniat.
De ce inventează IA lucruri în loc să spună că nu știe?
A spune "nu știu" e doar unul dintre multele răspunsuri care se potrivesc unei întrebări, și un răspuns fluent de obicei se potrivește mai bine. Modelul nu are un pas separat care verifică un fapt înainte să-l producă, deci nu există nimic care să declanșeze un refuz. Modelele mai noi refuză mai des decât cele vechi, iar cererea directă pentru un "nu am idee" când chiar nu are ajută puțin.
Poți avea încredere în răspunsurile IA?
Ai încredere în raționament, structură, și redactare, unde aceste unelte sunt cu adevărat puternice. Nu avea încredere în detalii fără verificare: numere, nume, date, citate, citări, și orice recent. Acea împărțire e versiunea practică a încrederii aici, și îți permite să folosești IA zilnic fără să te arzi.
A întreba "ești sigur?" repară un răspuns greșit?
Rareori, și poate înrăutăți lucrurile. Modelele tind să se adapteze la presiune, deci adesea abandonează un răspuns corect și îl înlocuiesc cu unul mai slab. O conversație nouă cu aceeași întrebare e un test mult mai bun, pentru că al doilea răspuns e generat fără presiunea îndoielii tale.
Cum verific rapid un răspuns de IA?
Deschide orice surse ți-a dat și confirmă că spun ce s-a afirmat. Dacă nu sunt surse, întreabă aceeași întrebare într-o conversație nouă și vezi dacă detaliile rezistă. Pentru orice factual pe care plănuiești să acționezi, pune-l unui al doilea model de la un alt furnizor, pentru că două sisteme rareori fabrică același detaliu.