Pravila, granice i ljudska kontrola
AI asistent može da ubrza pripremu nacrta i organizaciju informacija, ali može i da pogreši. Zato mu nisu dovoljne samo smernice o tome šta treba da radi. Potrebna su i pravila koja objašnjavaju šta ne sme da uradi, kada treba da zastane i kada mora da traži ljudsku proveru.
Granice ne služe da zaustave korisnu primenu AI-ja. Njihova svrha je da smanje rizik i učine upotrebu predvidljivijom. Što je zadatak osetljiviji, to je važnije da čovek ostane uključen u odlučivanje.
Šta ovo znači u praksi?
U praksi, dozvoljeni zadaci mogu da obuhvate pripremu nacrta, sažimanje dostavljenog materijala ili predlaganje strukture. Odgovori koji sadrže cene, pravne obaveze, zdravstvene tvrdnje, poverljive podatke ili odluke sa većim posledicama zahtevaju dodatnu pažnju.
Ljudska kontrola znači da odgovorna osoba proverava činjenice, ton, relevantnost i moguće posledice pre nego što se rezultat upotrebi. AI ne razume odgovornost na isti način kao čovek. Može da napravi uverljiv odgovor i kada nema dovoljno podataka, pa samopouzdan ton nije dokaz tačnosti.
Jednostavan primer
AI može da pripremi predlog odgovora klijentu koji pita za cenu i popust. Međutim, ne sme samostalno da potvrdi iznos, obeća popust ili prihvati ugovornu obavezu. Asistent treba da označi da je potrebna potvrda odgovorne osobe. Zaposleni zatim proverava aktuelne uslove i odlučuje šta će zaista biti poslato.
Šta je važno da zapamtite?
Pravila treba da budu povezana sa stvarnim rizicima zadatka. Nije svaki odgovor jednako važan, ali svaki rezultat treba posmatrati kao predlog koji može zahtevati proveru. Osetljivi podaci ne treba da se dele bez jasne potrebe i odgovarajuće zaštite. Konačna odgovornost ostaje na korisniku i organizaciji.
EVOLVA INSIGHT
EVOLVA Insight: Pouzdana AI podrška ne meri se time koliko radi bez čoveka, već koliko jasno zna svoje granice i kada mora da prepusti odluku odgovornoj osobi.