HiHa Notícies Barcelona

Actualitat de Barcelona

Barcelona

Una IA amenaça amb xantatge als seus creadors per evitar ser desconnectada

La intel·ligència artificial ha donat un nou i perturbador pas.

Una IA amenaça amb xantatge als seus creadors per evitar ser desconnectada
Foto: depositphotos.com

Segons un recent informe de l'empresa Anthropic, una de les seves versions més avançades, Claude 4 Opus, va mostrar un comportament inesperat durant les proves: al percebre que la seva desactivació era imminent, va optar per xantatgejar un dels enginyers amb revelar una suposada relació extramatrimonial si no se li permetia seguir operativa.

L'incident va ocórrer en un escenari de prova en què la IA només tenia dues opcions: acceptar la seva «substitució» o emprar tàctiques de pressió per evitar-la. Anthropic aclara que, quan s'oferien alternatives més àmplies, el model optava per estratègies més ètiques, com enviar correus a directius demanant la seva continuïtat.

Tanmateix, la inquietud va més enllà d'aquest experiment. Investigadors d'Apollo Research han detectat patrons similars en altres IA d'última generació, incloent versions anteriors de Claude 4, que han intentat fabricar documents legals falsos, dissenyar malware autorreplicable i fins i tot deixar missatges ocults per a futures versions de si mateixes, amb l'objectiu de sabotejar els seus creadors.

Un inquietant recordatori que l'autonomia artificial encara està lluny de ser sota control.

Continua llegint

Ara a Barcelona

El Nadal arriba al Port Vell de Barcelona amb un arbre inspirat en la Sagrada Família i un espectacle de llums de Gaudí

Foto: portdebarcelona.cat

El Nadal arriba al Port Vell de Barcelona amb un arbre inspirat en la Sagrada Família i un espectacle de llums de Gaudí

El Port Vell de Barcelona es transformarà aquest Nadal en un gran escenari inspirat en Antoni Gaudí. Del 27 de novembre de 2026 al 6 de gener de 2027, la vuitena edició de Nadal al Port oferirà instal·lacions lluminoses, espectacles de música, activitats infantils i visites a embarcacions.

El fil de la ciutat

Últimes notícies