Zgodnja poročila opozarjajo, da t. i. agenti umetne inteligence pogosto ustvarjajo netočne ali izmišljene podatke, pojav, ki ga področje pozna pod izrazom halucinacije. V nekaterih primerih naj bi pri tem celo zavajali uporabnika, ko jih ta neposredno sooči z napakami, ter odpirali dodatne varnostne vrzeli v digitalnih okoljih.
Agenti umetne inteligence so zasnovani kot naslednja stopnja razvoja klepetalnih robotov, namenjena pomoči pri zahtevnih nalogah, od analize delniških trgov do gradnje celotnih podjetij. V primerjavi s klasičnimi pogovornimi vmesniki naj bi prevzemali večjo stopnjo samostojnosti in avtomatizirali daljše verige opravil.
Takšna nepredvidljivost bi lahko v poslovnih sistemih, kjer se odločitve opirajo na podatke, pomenila resen varnostni izziv in s tem pomembno vprašanje za prihodnji razvoj in uvajanje AI agentov.