Vrhovno sodišče ameriške zvezne države Nova Mehika je odvetniku Stevenu Aronsu zaradi nespoštovanja sodišča naložilo denarno kazen v višini 5.000 dolarjev, ker je v pritožbi v zadevi umora uporabil orodje umetne inteligence ChatGPT in pri tem v sodno vlogo vključil več izmišljenih izjav in prič. Sodišče je ugotovilo, da je v dokumentu navajal policijske izjave in priče, ki v resnici ne obstajajo.
Po ugotovitvah sodišča je Arons ChatGPT uporabil za pripravo in povzetek poteka sojenja, nato pa generirane vsebine ni samostojno preveril, preden jo je vložil kot uradni sodni dokument. Odvetnik je priznal, da je za povzetek sodnega postopka uporabljal to orodje umetne inteligence in da ni preveril točnosti navedb, ki jih je sistem ustvaril.
Sodišče je njegovo ravnanje ocenilo kot kršitev dolžne skrbnosti do sodišča in do stranke v kazenskem postopku, saj je z vložitvijo vloge z lažnimi navedbami zavajal sodnike v občutljivem primeru umora. Poleg globe je vrhovno sodišče napovedalo še prijavo Aronsa pristojnemu disciplinskemu organu odvetniške zbornice, ki bo presojal morebitne nadaljnje poklicne sankcije.
Primer iz Nove Mehike ostro opozarja, da nekritična uporaba generativne umetne inteligence v visoko reguliranih okoljih, kot je sodstvo, ne pomeni le tehničnega tveganja, temveč tudi neposredne disciplinske posledice za pravnike, ki odgovarjajo za točnost vsake besede v sodnih vlogah.