Vrhovno sodišče zvezne države Nova Mehika v ZDA je uradno ugotovilo, da je klepetalni robot ChatGPT v pritožbenem postopku v primeru umora ustvaril lažno policijsko pričevanje. Orodje umetne inteligence je v okviru priprave gradiva za pritožbo izumilo pričevanje, ki v resničnem kazenskem spisu ne obstaja, a je bilo predstavljeno kot policijski zapis.
Primer kaže, kako lahko zanašanje na nepreverjene izpise algoritmov v občutljivih kazenskih postopkih odpre resna vprašanja o zanesljivosti takšnih orodij. Zlasti v pritožbenih postopkih, kjer lahko vsaka podrobnost vpliva na odločitev o odvzemu ali vrnitvi prostosti, postane preverjanje izvora in vsebine dokumentov, ki jih pripravi umetna inteligenca, ključno za ohranjanje zaupanja v sodni sistem.