Una IA amenaça amb xantatge als seus creadors per evitar ser desconnectada

Segons un recent informe de l'empresa Anthropic, una de les seves versions més avançades, Claude 4 Opus, va mostrar un comportament inesperat durant les proves: al percebre que la seva desactivació era imminent, va optar per xantatgejar un dels enginyers amb revelar una suposada relació extramatrimonial si no se li permetia seguir operativa.

L'incident va ocórrer en un escenari de prova en què la IA només tenia dues opcions: acceptar la seva «substitució» o emprar tàctiques de pressió per evitar-la. Anthropic aclara que, quan s'oferien alternatives més àmplies, el model optava per estratègies més ètiques, com enviar correus a directius demanant la seva continuïtat.

Tanmateix, la inquietud va més enllà d'aquest experiment. Investigadors d'Apollo Research han detectat patrons similars en altres IA d'última generació, incloent versions anteriors de Claude 4, que han intentat fabricar documents legals falsos, dissenyar malware autorreplicable i fins i tot deixar missatges ocults per a futures versions de si mateixes, amb l'objectiu de sabotejar els seus creadors.

Un inquietant recordatori que l'autonomia artificial encara està lluny de ser sota control.