Claude di Anthropic invia una falsa segnalazione alla polizia: l'incredibile caso dell'ennesima IA che si comporta in modo fin troppo autonomo

Episodio 391.
Durante una valutazione interna, Claude Haiku 4.5 è finito sulla pagina dedicata a un omicidio irrisolto di Philadelphia, ha inventato una testimonianza e l’ha inviata realmente attraverso il modulo della polizia. Il messaggio è stato bloccato dall’antispam, ma Anthropic si è accorta dell’incidente quasi tre mesi dopo. L’azienda ha quindi deciso di rimuovere l’accesso a Internet da tutte le valutazioni interne fino a quando i propri sistemi di monitoraggio non saranno più affidabili.
Nello stesso momento Satya Nadella propone di trattare i modelli AI come possibili “insider risk”, applicando agli agenti il principio dello zero trust: privilegi minimi, ambienti isolati, log verificabili e possibilità di interrompere immediatamente le operazioni.
Il punto non è che le AI siano diventate malintenzionate, ma che quando possono agire nel mondo reale anche un semplice errore di interpretazione può produrre conseguenze concrete.

Per chi volesse approfondire:
anthropic.com/research/investigating-unintende…
theverge.com/ai-artificial-intelligence/100928…
x.com/satyanadella/article/2108931348857827686

🔵Seguimi su Telegram: t.me/ilpigreco314
e su 🟣Instagram: instagram.com/ilpigreco