
Claude di Anthropic invia una falsa segnalazione alla polizia: l'incredibile caso dell'ennesima IA che si comporta in modo fin troppo autonomo
Qualcosa di importanteShow Notes
Episodio 391. Durante una valutazione interna, Claude Haiku 4.5 è finito sulla pagina dedicata a un omicidio irrisolto di Philadelphia, ha inventato una testimonianza e l’ha inviata realmente attraverso il modulo della polizia. Il messaggio è stato bloccato dall’antispam, ma Anthropic si è accorta dell’incidente quasi tre mesi dopo. L’azienda ha quindi deciso di rimuovere l’accesso a Internet da tutte le valutazioni interne fino a quando i propri sistemi di monitoraggio non saranno più affidabili. Nello stesso momento Satya Nadella propone di trattare i modelli AI come possibili “insider risk”, applicando agli agenti il principio dello zero trust: privilegi minimi, ambienti isolati, log verificabili e possibilità di interrompere immediatamente le operazioni. Il punto non è che le AI siano diventate malintenzionate, ma che quando possono agire nel mondo reale anche un semplice errore di interpretazione può produrre conseguenze concrete.
Per chi volesse approfondire: https://www.anthropic.com/research/investigating-unintended-model-actions https://www.theverge.com/ai-artificial-intelligence/1009286/anthropic-is-cutting-off-its-internal-evaluations-from-the-internet https://x.com/satyanadella/article/2108931348857827686
🔵Seguimi su Telegram: https://t.me/ilpigreco314 e su 🟣Instagram: https://www.instagram.com/ilpigreco/
More from Qualcosa di importante
Episodio 399. Nelle ultime ore numerosi siti e servizi sono stati temporaneamente messi offline dopo la scoperta di due vulnerabilità critiche in PHP, una delle tecnologie su cui poggia una parte enorme del web. In molti casi non si è trattato di siti già hackerati, ma di spegnimenti preventivi mentre venivano installate le correzioni. La parte più interessante della storia, però, riguarda il ruolo dell’intelligenza artificiale: almeno una delle vulnerabilità esisteva da anni e una sua possibile debolezza era stata individuata già nel 2024, ma sfruttarla sembrava troppo complesso per rappresentare una minaccia concreta. I moderni sistemi IA stanno cambiando proprio questo equilibrio, riducendo il tempo e il costo necessari per trasformare bug oscuri in attacchi praticabili. Una vicenda che potrebbe anticipare una nuova fase della sicurezza informatica, nella quale IA offensiva e difensiva correranno sempre più velocemente l’una contro l’altra.
Episodio 398. Elon Musk ha promesso di donare nel 2027 una sua azione SpaceX a ogni bambino americano, un’operazione che sulla carta potrebbe valere oltre 10 miliardi di dollari. Anthropic, quasi nello stesso momento, ha annunciato che destinerà almeno il 5% delle proprie azioni a un nuovo fondo per il beneficio pubblico, con la possibilità di aumentare ulteriormente la quota in futuro. Due iniziative diverse, ma che arrivano mentre cresce il dibattito sugli effetti economici e sociali dell’intelligenza artificiale. Negli Stati Uniti i Trump Accounts stanno già diventando una piattaforma attraverso cui aziende e miliardari possono trasferire capitale direttamente ai bambini, mentre il governo chiede alle società tecnologiche di riconoscere benefici economici alle comunità che ospitano i nuovi data center. È semplice filantropia oppure sta nascendo un nuovo modello con cui l’industria prova a costruire consenso intorno alla rivoluzione dell’IA?
Episodio 397. OpenAI, Google, Anthropic, Meta, DeepSeek: le nuove versioni dei modelli di intelligenza artificiale arrivano ormai a un ritmo tale che spesso iniziamo a parlare della generazione successiva prima ancora di aver capito davvero quella appena distribuita. È soltanto la conseguenza naturale di un settore che progredisce velocemente oppure stiamo raggiungendo un punto di saturazione? Un dato mostra che su OpenRouter i dieci modelli considerati qualitativamente migliori sono passati dal 55% dell'utilizzo nel primo trimestre del 2025 al 14% nel terzo trimestre del 2026. Sempre più sviluppatori preferiscono sistemi meno avanzati ma più economici e sufficientemente capaci. Forse, quindi, la domanda non è più quale sia l'AI migliore in assoluto, ma quale sia davvero necessaria per il lavoro che dobbiamo svolgere. Per chi volesse approfondire: https://www.reddit.com/r/artificial/comments/1x98bit/is_anyone_else_feeling_severe_burnout_from_the/ https://www.theinformation.com/articles/leading-edge-ai-models-losing-allure-developers/
Episodio 396. Tesla ha finalmente mostrato la nuova Roadster e la dimostrazione è stata impressionante: propulsori a gas freddo, accelerazione sotto il secondo, salti, rotazioni in aria e perfino un sistema capace di mantenere la vettura attaccata a una superficie. Dietro lo spettacolo emerge però una storia molto più complicata. La Roadster era stata presentata nel 2017 con produzione prevista per il 2020, ha accumulato quasi un decennio di rinvii e oggi Tesla parla del 2028 senza comunicare ancora un prezzo finale o una vera data di consegna. Nel frattempo il progetto è stato completamente riscritto, proprio mentre Musk sostiene che il futuro di Tesla non sia più principalmente nell’automobile ma nell’AI, nella robotica e nella guida autonoma. La Roadster diventa così il caso perfetto per distinguere una dimostrazione tecnologica straordinaria da un prodotto che deve ancora dimostrare di poter essere costruito, venduto e consegnato.
Episodio 395. Nella notte tra l’11 e il 12 ottobre qualcuno ha preso il controllo dei sistemi di refrigerazione di centinaia di supermercati francesi. Gli aggressori hanno modificato da remoto temperature e cicli di sbrinamento, portando in alcuni casi le celle frigorifere fino a circa 50 gradi e costringendo i negozi a buttare tonnellate di prodotti freschi e surgelati. I danni ammontano già a milioni di euro e in alcuni punti vendita si sono verificati anche principi d’incendio. Nei giorni successivi sono stati colpiti sistemi di produttori diversi e l’agenzia francese per la cybersecurity avverte che la campagna potrebbe essere ancora in corso. In questa puntata ricostruisco l’attacco e soprattutto provo a spiegare perché la crescente connessione fra Internet e infrastrutture fisiche sta trasformando la cybersecurity in un problema che non riguarda più soltanto dati e computer.