Kako proveriti AI odgovor?

AI može da napiše jasan, uverljiv i detaljan odgovor — i da ipak pogreši.

Može da navede netačan podatak, pomeša događaje, izmisli izvor, pogrešno protumači dokument ili predstavi zastarelu informaciju kao aktuelnu. Problem je u tome što takav odgovor često ne zvuči nesigurno. Može biti napisan toliko ubedljivo da grešku nije lako odmah primetiti.

Zato važan deo AI pismenosti nije samo da znaš kako da postaviš pitanje. Potrebno je da znaš i kako da proceniš dobijeni odgovor.

U ovoj lekciji naučićeš zašto AI greši, koje delove odgovora treba posebno proveriti, kako da pronađeš pouzdane izvore i kada ne treba da se osloniš samo na AI.

Zašto AI može da pogreši?

AI ne zna činjenice na isti način na koji ih zna čovek koji je nešto video, proverio ili stručno proučio. Jezički AI modeli stvaraju odgovor tako što na osnovu obrazaca u podacima predviđaju koji sadržaj najverovatnije odgovara tvojoj instrukciji.

Zbog toga mogu da naprave odgovor koji je jezički veoma dobar, ali činjenično netačan.

AI može da pogreši zato što:

nema dovoljno informacija o tvom konkretnom slučaju;
pogrešno razume pitanje ili kontekst;
raspolaže zastarelim ili nepotpunim podacima;
povezuje informacije koje ne pripadaju zajedno;
pokušava da popuni delove koji mu nedostaju;
ne može da potvrdi da je određena tvrdnja tačna;
koristi nepouzdane ili nejasne izvore;
napravi grešku u računanju, zaključivanju ili tumačenju;
izmisli podatak, izvor, citat, naziv ili događaj.

Ovakav netačan ili izmišljen sadržaj često se naziva AI halucinacija.

Šta je AI halucinacija?

AI halucinacija nastaje kada AI generiše informaciju koja zvuči verodostojno, ali nije zasnovana na tačnim ili proverljivim činjenicama.

Na primer, AI može da:

izmisli knjigu, autora ili naučni rad;
navede internet adresu koja ne postoji;
pripiše izjavu pogrešnoj osobi;
navede netačan datum ili statistički podatak;
izmisli član zakona ili pogrešno protumači propis;
pomeša funkcije i cene različitih alata;
predstavi pretpostavku kao potvrđenu činjenicu.

Halucinacija nije namerna laž. AI nema nameru da te obmane. Međutim, posledice netačnog odgovora mogu biti stvarne bez obzira na to kako je greška nastala.

Uverljiv odgovor nije isto što i tačan odgovor

Jedna od najvažnijih lekcija pri korišćenju AI-ja glasi:

Samouveren ton nije dokaz tačnosti.

Odgovor može biti:

lepo napisan;
logično strukturisan;
detaljan;
pun stručnih izraza;
gramatički ispravan;
veoma ubedljiv;

— a da ipak sadrži netačne informacije.

Zato kvalitet pisanja i tačnost činjenica moraš procenjivati odvojeno.

Ne moraš sve da proveravaš na isti način

Nije svaki AI odgovor jednako rizičan.

Ako tražiš predloge za naslov, ideje za objavu ili drugačiju formulaciju rečenice, ne postoji samo jedan činjenično tačan odgovor. Takav sadržaj procenjuješ prema tome koliko je koristan, jasan i prilagođen tvojoj nameni.

Međutim, ako AI odgovor utiče na zdravlje, novac, prava, bezbednost, posao ili druge ljude, potrebna je znatno ozbiljnija provera.

Pravilo je jednostavno:

Što su moguće posledice veće, provera mora biti detaljnija.

Šta u AI odgovoru obavezno treba proveriti?

Posebno proveravaj sledeće vrste informacija:

datume i rokove;
imena ljudi, institucija i organizacija;
brojeve, procente i statističke podatke;
cene i uslove plaćanja;
zakone, propise i administrativne postupke;
zdravstvene informacije i preporuke;
finansijske i poreske informacije;
citate i njihove autore;
naučne tvrdnje i istraživanja;
linkove, knjige, članke i druge izvore;
aktuelne funkcije digitalnih alata;
rasporede, radno vreme, dostupnost i lokacije;
matematičke proračune;
tvrdnje koje deluju neobično, iznenađujuće ili previše precizno.

Prvo proveri da li je AI razumeo zadatak

Ponekad odgovor nije pogrešan zato što je informacija netačna, već zato što je AI odgovorio na drugačije pitanje od onog koje si želela da postaviš.

Pre nego što proveravaš pojedinačne činjenice, zapitaj se:

Da li je AI pravilno razumeo moj cilj?
Da li je koristio sve informacije koje sam mu dala?
Da li je odgovorio na celo pitanje?
Da li je zanemario neko važno ograničenje?
Da li je napravio pretpostavku koju nisam navela?
Da li je rezultat namenjen pravoj publici i situaciji?

Ako primetiš da je pogrešno razumeo zadatak, dopuni instrukciju i jasno objasni šta treba da ispravi.

Odvoji činjenice od predloga i mišljenja

AI odgovor može da sadrži različite vrste sadržaja:

proverljive činjenice;
procene;
pretpostavke;
tumačenja;
predloge;
kreativne ideje;
zaključke izvedene iz dostupnih informacija.

Ove kategorije ne proveravaju se na isti način.

Činjenica se može potvrditi pouzdanim izvorom. Predlog procenjuješ prema tome da li je koristan i primenljiv. Pretpostavka mora biti jasno označena kao pretpostavka, a zaključak treba da bude podržan dostupnim podacima.

Ako nisi sigurna šta je šta, zatraži od AI-ja:

„Razdvoji proverljive činjenice, pretpostavke, tumačenja i preporuke iz ovog odgovora. Jasno označi šta zahteva dodatnu proveru.“

Kako proveriti AI odgovor u pet koraka?

Za proveru možeš da koristiš jednostavan postupak:

TVRDNJA – IZVOR – POREĐENJE – KONTEKST – ODLUKA

1. TVRDNJA — izdvoji ono što treba proveriti

Nemoj pokušavati da proveravaš ceo odgovor odjednom. Izdvoji ključne tvrdnje koje utiču na zaključak ili odluku.

Na primer:

„Ovaj propis važi od određenog datuma.“
„Ovaj lek se koristi za određeno stanje.“
„Ovaj alat ima besplatan paket.“
„Istraživanje je pokazalo određeni rezultat.“

Što je tvrdnja konkretnija, lakše ćeš je proveriti.

2. IZVOR — pronađi izvor koji može da potvrdi tvrdnju

Traži izvor koji ima odgovornost i stručnost za datu informaciju.

Najpouzdaniji izvor zavisi od teme:

za propise — zvanična institucija ili službeni pravni izvor;
za zdravlje — lekar, zdravstvena ustanova ili relevantna medicinska institucija;
za poreze — poreska uprava, zvanični propisi ili ovlašćeni stručnjak;
za funkcije alata — zvanična dokumentacija proizvođača;
za naučne tvrdnje — originalno istraživanje ili stručna publikacija;
za podatke kompanije — zvanični sajt, izveštaj ili registar;
za aktuelne događaje — pouzdani mediji i primarni izvori.

AI može da ti pomogne da pronađeš šta treba proveriti, ali postojanje izvora proveri sama.

3. POREĐENJE — uporedi više izvora

Kada je informacija važna, nemoj se oslanjati samo na jedan rezultat pretrage.

Uporedi najmanje dva nezavisna pouzdana izvora i proveri:

da li navode isti podatak;
da li se odnose na isti period i mesto;
da li koriste istu definiciju;
da li je informacija aktuelna;
da li jedan izvor samo prepisuje drugi;
da li postoji novija ispravka ili promena.

Broj izvora nije jedino merilo. Dva sajta koja su prenela istu netačnu informaciju ne predstavljaju dve nezavisne potvrde.

4. KONTEKST — proveri da li podatak važi za tvoju situaciju

Informacija može biti tačna, ali neprimenljiva na tvoj slučaj.

Proveri:

na koju državu ili tržište se odnosi;
za koji vremenski period važi;
da li se odnosi na fizička lica ili kompanije;
da li postoje posebni uslovi ili izuzeci;
da li je podatak opšti ili se odnosi na određenu grupu;
da li se značenje promenilo kada je izdvojeno iz šireg teksta.

Tačan podatak bez odgovarajućeg konteksta može dovesti do pogrešnog zaključka.

5. ODLUKA — odredi da li smeš da koristiš odgovor

Nakon provere donesi jednu od sledećih odluka:

informacija je potvrđena i može da se koristi;
informacija je delimično tačna i mora da se dopuni;
informacija je nejasna i zahteva dodatnu proveru;
informacija je netačna i ne treba je koristiti;
potrebna je potvrda stručne osobe.

Cilj nije samo da pronađeš grešku. Cilj je da znaš koliko poverenja možeš da imaš u odgovor pre nego što ga upotrebiš.

Proveri datum objavljivanja i poslednjeg ažuriranja

Informacija može biti tačna u trenutku objavljivanja, ali zastarela danas.

Ovo je posebno važno za:

zakone i propise;
cene i pakete;
funkcije aplikacija;
radno vreme i rasporede;
javne funkcije i odgovorne osobe;
statističke podatke;
preporuke koje se menjaju tokom vremena.

Proveri kada je izvor objavljen, kada je poslednji put ažuriran i da li je nakon toga došlo do promene.

Proveri originalni, a ne samo preneti izvor

Ako članak navodi podatak iz istraživanja, pokušaj da pronađeš originalno istraživanje. Ako objava prenosi saopštenje institucije, pronađi originalno saopštenje. Ako neko citira propis, proveri sam tekst propisa.

Svako prenošenje može da:

izostavi važan kontekst;
pojednostavi zaključak;
pogrešno prepiše podatak;
promeni značenje citata;
prenese zastarelu verziju informacije.

Kada god je moguće, dođi do primarnog izvora.

Kako proveriti da li izvor zaista postoji?

Ako AI navede knjigu, istraživanje, članak, zakon ili internet adresu, nemoj pretpostaviti da izvor postoji samo zato što je naziv napisan precizno.

Proveri:

da li se izvor može pronaći;
da li su autor i naslov tačno navedeni;
da li dokument zaista sadrži citiranu tvrdnju;
da li je link aktivan i vodi na odgovarajuću stranicu;
da li je izvor kredibilan za datu temu;
da li su citat i podatak preneti u pravom kontekstu.

Izvor nije potvrđen dok ga ne otvoriš i ne proveriš njegov sadržaj.

Da li je dovoljno pitati AI: „Da li si siguran?“

Nije.

Ako pitaš AI da li je siguran, može da ponovi istu tvrdnju samouverenijim tonom. To ne predstavlja nezavisnu proveru.

Korisnije je da zatražiš:

da izdvoji tvrdnje koje zahtevaju proveru;
da objasni na čemu zasniva zaključak;
da navede ograničenja odgovora;
da pronađe moguće suprotne argumente;
da označi gde je napravio pretpostavke;
da predloži koje primarne izvore treba proveriti.

Međutim, čak ni tada AI ne proverava sam sebe nezavisno. Završnu potvrdu tražiš van prvobitnog odgovora.

Koristan zahtev za samoprocenu AI odgovora

Možeš da upotrebiš sledeći zahtev:

„Analiziraj svoj prethodni odgovor. Izdvoji sve činjenične tvrdnje, brojeve, datume, imena, citate i izvore koji zahtevaju proveru. Za svaku stavku navedi zašto može biti nepouzdana i koju vrstu primarnog izvora treba konsultovati. Jasno odvoji potvrđene informacije od pretpostavki i preporuka.“

Ovaj korak ti pomaže da organizuješ proveru, ali nije zamena za proveru u pouzdanim izvorima.

Traži od AI-ja da pokaže pretpostavke

AI ponekad popunjava informacije koje nisi navela. Takve pretpostavke mogu potpuno promeniti odgovor.

Upotrebi zahtev:

„Navedi sve pretpostavke koje si napravio da bi formirao ovaj odgovor. Objasni kako bi se odgovor promenio ako neka od njih nije tačna.“

Ovo je posebno korisno pri planiranju, proceni troškova, analizi poslovnih situacija i donošenju odluka.

Traži suprotno objašnjenje

Kada odgovor sadrži procenu ili zaključak, zatraži od AI-ja da razmotri i drugačiju mogućnost.

Na primer:

„Navedi tri razloga zbog kojih ovaj zaključak možda nije tačan. Koje informacije nedostaju za pouzdaniju procenu?“

Ovakav zahtev može da otkrije slabosti u odgovoru i spreči da prerano prihvatiš samo jedno objašnjenje.

Kako proveriti brojke i proračune?

AI može da pogreši čak i kada je postupak objašnjen veoma uverljivo.

Kada odgovor sadrži računanje:

Proveri da li su početni podaci pravilno preneti.
Proveri da li su merne jedinice iste.
Proveri svaku fazu proračuna.
Ponovi račun u kalkulatoru ili tabeli.
Proveri da li rezultat ima smisla u realnom kontekstu.

Posebno proveravaj procente, poreze, kamate, valute, rokove, proseke i finansijske projekcije.

Kako proveriti sažetak dokumenta?

Kada AI sažima dokument, proveri da li je:

pravilno izdvojio glavnu temu;
sačuvao značenje originala;
izostavio važan uslov ili izuzetak;
pomešao informacije iz različitih delova;
dopunio sadržaj informacijama kojih nema u dokumentu;
pravilno preneo brojeve, datume i imena;
jasno razdvojio sadržaj dokumenta od svog tumačenja.

Za važne dokumente traži da AI uz svaku tvrdnju navede deo ili stranicu na kojoj se informacija nalazi, a zatim taj deo proveri u originalu.

Kako proveriti prevod?

AI prevod može biti gramatički ispravan, ali može promeniti nijansu, stručni termin ili pravno značenje.

Proveri:

imena, brojeve i datume;
stručne izraze;
negacije i uslovne formulacije;
ton i nameru originalnog teksta;
rečenice koje određuju prava, obaveze ili rokove;
izraze koji imaju više mogućih značenja.

Za ugovore, medicinsku dokumentaciju, zvanične dokumente i druge sadržaje sa ozbiljnim posledicama potrebna je stručna provera prevoda.

Kada je potrebna stručna potvrda?

AI ne treba da bude jedini osnov za odluke u oblastima u kojima greška može ozbiljno da utiče na život, zdravlje, prava, novac ili bezbednost.

Stručnu potvrdu traži kada se odgovor odnosi na:

dijagnozu, terapiju, lekove ili zdravstveno stanje;
pravne obaveze, ugovore, sporove ili rokove;
poreze, računovodstvo i finansijske odluke;
investicije, kredite i osiguranje;
bezbednost ljudi ili sistema;
poverljive poslovne odluke;
odluke sa trajnim ili teško popravljivim posledicama.

AI može da ti pomogne da razumeš temu, pripremiš pitanja ili organizuješ informacije. Konačnu stručnu procenu treba da da odgovarajuća kvalifikovana osoba.

Pazi koje podatke šalješ radi provere

U želji da dobiješ precizniji odgovor, nemoj unositi više podataka nego što je potrebno.

Pre slanja sadržaja proveri da li sadrži:

lične podatke;
brojeve dokumenata;
zdravstvene informacije;
finansijske podatke;
lozinke ili pristupne podatke;
poverljive informacije klijenta;
interne poslovne dokumente;
podatke drugih osoba.

Kada je moguće, ukloni imena i druge podatke pomoću kojih bi osoba ili kompanija mogla da bude prepoznata.

Praktičan primer: AI navodi statistički podatak

Zamisli da AI napiše:

„Većina malih preduzeća koristi AI svakodnevno.“

Ovakva tvrdnja zahteva proveru jer nije navedeno:

šta znači „većina“;
na koje države se podatak odnosi;
kada je istraživanje sprovedeno;
koliko je preduzeća učestvovalo;
šta se podrazumeva pod „koristi AI“;
ko je sproveo istraživanje.

Tačan postupak je da zatražiš naziv originalnog istraživanja, pronađeš ga i proveriš metodologiju, datum, uzorak i stvarni zaključak.

Praktičan primer: AI daje informaciju o zakonu

Zamisli da pitaš AI koji dokument treba da podneseš određenoj instituciji.

Pre postupanja proveri:

da li se odgovor odnosi na pravu državu i instituciju;
da li je procedura i dalje važeća;
da li postoji noviji obrazac;
da li se postupak razlikuje prema tvom statusu;
da li postoje dodatni rokovi, takse ili izuzeci;
šta piše na zvaničnoj stranici institucije.

AI može da ti pomogne da razumeš proceduru, ali zvanični izvor potvrđuje šta zaista treba da uradiš.

Praktičan primer: AI preporučuje alat

Zamisli da AI preporuči određeni alat zato što navodno ima potrebnu funkciju i besplatan paket.

Pre registracije ili kupovine proveri na zvaničnoj stranici:

da li funkcija zaista postoji;
u kom paketu je dostupna;
da li postoje ograničenja;
kolika je trenutna cena;
da li podržava tvoj jezik i format;
kako postupa sa podacima;
da li je komercijalna upotreba dozvoljena.

Informacije o digitalnim alatima brzo se menjaju, pa stari odgovor može biti netačan čak i ako je nekada bio tačan.

Znaci da AI odgovor možda nije pouzdan

Odgovor daje veoma precizan podatak bez izvora.
Izvor ne možeš da pronađeš ili otvoreni link ne postoji.
AI menja odgovor kada isto pitanje postaviš drugačije.
Datumi, imena ili brojevi nisu dosledni.
Odgovor ne navodi nijedno ograničenje ili izuzetak.
Komplikovan problem predstavlja kao potpuno jednostavan.
Koristi samouveren ton iako nema dovoljno konteksta.
Meša proverljive činjenice sa pretpostavkama.
Poziva se na „istraživanja“ bez konkretnih podataka.
Zaključak je previše dobar, dramatičan ili neobičan da bi se prihvatio bez potvrde.
Odgovor se ne poklapa sa zvaničnim ili stručnim izvorima.

Kontrolna lista za proveru AI odgovora

Da li je AI pravilno razumeo moje pitanje?
Da li je koristio sve važne informacije koje sam navela?
Koje tvrdnje u odgovoru mogu objektivno da se provere?
Da li odgovor sadrži datume, brojeve, imena ili citate?
Da li su izvori navedeni i da li zaista postoje?
Da li sam otvorila i pročitala originalni izvor?
Da li je informacija dovoljno nova?
Da li važi za moju državu, situaciju i period?
Da li još jedan nezavisan izvor potvrđuje tvrdnju?
Da li su činjenice odvojene od pretpostavki i preporuka?
Da li proračun mogu samostalno da ponovim?
Kolike bi bile posledice ako je odgovor netačan?
Da li je potrebna potvrda stručne osobe?
Da li sam zaštitila poverljive i lične podatke?

Najčešće greške pri proveri AI odgovora

Verovanje samouverenom tonu — način pisanja ne dokazuje tačnost.
Pitanje „Da li si siguran?“ — ponovljen odgovor nije nezavisna potvrda.
Provera u drugom AI alatu — dva modela mogu ponoviti istu grešku.
Prihvatanje prvog rezultata pretrage — prvi rezultat nije automatski najpouzdaniji.
Čitanje samo naslova — naslov može pojednostaviti ili promeniti značenje izvora.
Zanemarivanje datuma — tačna informacija može postati zastarela.
Provera izvora bez čitanja sadržaja — postojanje izvora ne znači da potvrđuje tvrdnju.
Zanemarivanje konteksta — podatak može biti tačan, ali neprimenljiv.
Korišćenje AI-ja umesto stručnjaka — posebno kada su posledice ozbiljne.

Jednostavna formula koju treba da zapamtiš

AI PREDLAŽE — TI PROVERAVAŠ — ČOVEK ODLUČUJE

AI može da ti pomogne da brže pronađeš ideje, organizuješ informacije, razumeš složenu temu i pripremiš nacrt.

Ti procenjuješ kvalitet, proveravaš važne činjenice i određuješ šta može da se koristi.

Konačna odluka i odgovornost ostaju na čoveku.

Najvažnije što treba da zapamtiš

AI odgovor nije automatski činjenica. Čak i kada zvuči jasno, stručno i samouvereno, može da sadrži greške, zastarele podatke, izmišljene izvore ili pogrešne pretpostavke.

Ne proveravaj svaki odgovor jednako. Kreativne predloge procenjuj prema njihovoj korisnosti, a činjenice koje utiču na zdravlje, novac, prava, bezbednost ili druge ljude potvrdi u pouzdanim i, kada je moguće, primarnim izvorima.

Ključna poruka: dobar korisnik AI-ja ne prihvata odgovor automatski. On zna šta mora da proveri, gde da pronađe potvrdu i kada treba da se obrati stručnoj osobi.

Proveri svoje znanje

Pre nego što završiš lekciju, odgovori na sledeća pitanja:

Zašto uverljiv AI odgovor ne mora biti tačan?
Šta je AI halucinacija?
Koje vrste informacija zahtevaju posebnu proveru?
Zašto pitanje „Da li si siguran?“ nije dovoljno?
Kako možeš da proveriš da li navedeni izvor zaista potvrđuje tvrdnju?
Zašto su datum i kontekst važni pri proveri?
Kada je neophodno da odgovor potvrdi stručna osoba?

Ako umeš da prepoznaš tvrdnje koje zahtevaju proveru, pronađeš pouzdane izvore, proceniš kontekst i zadržiš odgovornost za konačnu odluku, postavila si čvrstu osnovu za bezbedno i promišljeno korišćenje AI-ja.

Završila si celinu „AI početak“

Sada razumeš šta je veštačka inteligencija, kako funkcioniše, šta može, gde su njene granice, kako da započneš razgovor sa AI-jem i kako da proveriš odgovor pre nego što ga upotrebiš.

Ovo znanje predstavlja osnovu za sve naredne korake. Više ne posmatraš AI kao izvor gotovih i nepogrešivih odgovora. Znaš da mu postaviš cilj, pružiš kontekst, proceniš rezultat, proveriš važne informacije i zadržiš kontrolu nad konačnom odlukom.

U narednoj celini prelaziš sa osnovnog razumevanja AI-ja na praktičnu primenu: naučićeš kako da formulišeš kvalitetnije zahteve i dobijaš preciznije, korisnije i primenljivije rezultate.