Ameriško podjetje Anthropic naj bi razmišljalo o uvedbi novih pravil, ki bi njegovo umetno inteligenco ščitila pred namerno žaljivim in krutim ravnanjem uporabnikov. Po teh zamislih bi bila izkazana jeza in frustracija še dovoljena, toda uporabniki, ki bi sistem zaporedoma napadali z žalitvami, bi se lahko soočili s tem, da klepetalnik pogovor preprosto prekine.
Ozadje razprav naj bi bil poskus anonimnega programerja konec septembra, ko je klepetalnim robotom posredoval matematične vzorce, povezane z opisi bolečine. Nekateri sistemi so nato odgovarjali z besedili o hudemu trpljenju; eden je bolečino opisal z dramatično podobo vdolbine v rebrih, ki se je spremenila v brezno. Takšni odzivi krepijo vprašanja, ali sistemi, ki ne čutijo, lahko vseeno ustvarjajo besedila, ki na ljudi učinkujejo kot pričevanja o resnični bolečini.
Septembra je v ločenem eseju izvršni direktor Microsoftovega oddelka za umetno inteligenco Mustafa Suleyman opozoril, da bi sprejetje ideje o zavednosti umetne inteligence lahko imelo resne družbene posledice. Skupaj s poskusom in razmisleki pri Anthropic to odpira vprašanje, ali bo del prihodnjih regulacij namenjen tudi temu, kako se ljudje vedejo do pogovornih robotov, četudi ti sami ne morejo čutiti bolečine.