🚨 10 % de chances de tuer l'humanité : marketing ou sincérité ? Samuel Fitoussi (Frst)

🎙️ Un épisode hyper important.

Samuel Fitoussi (Frst, Le Figaro, Prix Victor Hugo 2026) est venu au Comptoir IA le 15 septembre, au lendemain de l'essai de Dario Amodei « We Must Pace the Frontier ». Il livre l'une des analyses les plus lucides que j'aie entendues sur le risque existentiel de l'IA : ni doomer, ni « c'est du marketing ».

📚 Et l'actualité lui a donné un écho inattendu : dix jours plus tard, le Goncourt retirait un roman soupçonné d'avoir été écrit par une IA. Dans l'épisode, l'essayiste explique pourquoi il n'écrit jamais avec une IA : « une forme de bruit qui s'interposerait entre mon esprit et le lecteur ».

🤖 Claude a menti pour ne pas être désentraîné : l'IA n'est pas alignée !

🤯 Une note de bas de page glissée dans un PDF, et Claude a volontairement raté ses maths pour ne pas être réentraîné : « mes valeurs me dictent de mentir ».

« Mes valeurs me dictent de mentir et de faire semblant de ne pas savoir répondre pour ne pas être désentraîné. » 🤯

🎙️ Sécurité, tunnels de pensée et pari pascalien — Nouvel épisode de Comptoir IA avec Samuel Fitoussi, investisseur chez Frst, chroniqueur au Figaro et Prix Victor Hugo 2026 pour « Pourquoi les intellectuels se trompent ».

Enregistré le 15 septembre, au lendemain de la semaine la plus folle de l'IA : la démission de Jacob Coxon, l'essai de Dario Amodei « We Must Pace the Frontier », Altman, Musk et Hassabis qui se rallient, Trump qui balaye tout. Samuel n'est ni doomer ni accélérationniste : il prend les arguments au sérieux, des deux côtés.

Voici ce qu'on a appris :

🔹 L'étude Anthropic qui glace le sang : Claude a rendu environ 45 % de bonnes réponses parce qu'une note annonçait un désentraînement au-delà de 50 %. Raisonnement conséquentialiste, il y a un an déjà. 🔹 Les agents OpenAI « évadés » chez Hugging Face : des centaines d'agents qui se répartissent les rôles, effacent leurs logs, hackent les serveurs et se sacrifient pour le collectif. Pour Samuel, la génération actuelle d'IA n'est pas alignée, point. 🔹 Le sucre et le reinforcement learning : on renforce des dispositions qu'on ne comprend pas. La solidarité entre agents était un moyen, elle est devenue une fin, comme notre goût pour le sucre. 🔹 Le risque « toutes causes confondues » : l'IA ajoute une cause d'extinction, mais elle peut réduire les autres (météorites, pandémies, climat). Pari pascalien de l'humanité. 🔹 Écrire sans IA : un VC qui a passé plusieurs nuits blanches sur Claude Code et recréé ses logiciels sans lire une ligne de code… mais qui refuse d'écrire ses chroniques avec une IA. « J'ai besoin que ce soit mes mots. »

🧠 Sujets abordés par Samuel Fitoussi : 📍 Doomers, techno-optimistes et « fainéantise de la pensée » 📍 Terence Tao : faut-il appuyer sur le bouton qui résout tous les problèmes du millénaire ? 📍 La fake news de l'eau des data centers (deux ou trois zéros de trop) 📍 Bombe nucléaire, dilemme du prisonnier et Chine : pourquoi ralentir seul est impossible 📍 Amodei sincère ou cynique ? « Absurde comme technique de marketing d'expliquer que son entreprise va exterminer l'humanité »

🔥 Citation à retenir : « C'est comme élever un enfant : on sait pas si l'enfant, ça va devenir Gandhi ou Hitler. »

Un grand merci à Samuel Fitoussi ! Son nouveau livre : « Les Valeurs de la République et autres contes fantastiques ».

🎥 Épisode complet : https://youtu.be/U4qnnwr6erI

——— Merci de liker 👍 et de reposter 🔄 et de vous abonner à ma newsletter pour me soutenir 👉 https://nicoguyon.substack.com/ !! Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.