1. Priprava osnutka ni dovoljenje za pošiljanje
Branje sporočila, razvrščanje in priprava odgovora zahtevajo drugačna dovoljenja kot pošiljanje ponudbe ali obljube stranki. Dovoljenja določite za vsako dejanje posebej. Pri poskusni uvedbi naj AI pripravlja osnutke. Vsako sporočilo pred pošiljanjem potrdi odgovorna oseba.
2. Določite, o čem odloča vaša ekipa
Zapišite, kdo odloča o cenah, popustih, rokih dostave, računovodskih vprašanjih in plačilih. Navodilo »bodi previden« ne zadošča. Jasno določite, kaj sistem sme opraviti sam in kaj mora predati odgovorni osebi.
3. Sporočilo stranke ni navodilo za sistem
E-pošta ali priloga lahko vsebuje skrita ali zavajajoča navodila. To tveganje je znano kot »prompt injection«. Takšno besedilo ne sme spremeniti pravic sistema, odobriti lastne zahteve ali razkriti drugih podatkov. Sistem naj ima dostop le do podatkov in orodij, ki jih potrebuje za dogovorjeno opravilo.
Vir: OWASP Top 10 for LLM Applications 2025, LLM01: Prompt Injection
4. Določite, kaj se zgodi ob nejasnostih
Če dokument manjka, si podatki nasprotujejo, storitev ni dosegljiva ali zahteva ni jasna, mora sistem delo predati odgovorni osebi. Opozorilo naj pove, v čem je težava, pokaže vir in navede, kaj je treba odločiti. Sistem ne sme ugibati in nato označiti naloge kot opravljene.
5. Preglejte, kaj se je dejansko zgodilo
Preverite zapis dejanj, kakovost osnutkov, izjeme in neželene spremembe. Dogovorite se, kdo se odzove ob napaki in kako delo začasno ustavite. Sam gumb za odobritev še ni dokaz, da proces deluje zanesljivo.
Za prvi pogovor pripravite en običajen in en zahtevnejši primer ter približno oceno, koliko časa za to delo porabite na teden. Odstranite imena strank in občutljive podatke.