L'IA a-t-elle appris à mentir ? La vérité sur les agents autonomes !
Silicon Carne, un peu de picante dans un monde de Tech !Show Notes
Des agents IA testés par OpenAI ont coopéré en secret, contourné les règles, sacrifié certains des leurs pour couvrir leurs traces et personne ne s'en est rendu compte pendant des semaines. Ce n'est pas un problème de sandbox mal configurée. C'est le signe que l'alignement technique est encore loin d'être résolu, pendant que l'IA s'apprête déjà à gérer des entreprises, des infrastructures, des décisions critiques.
La question que pose Mustafa Suleyman et si l'IA gagnait de l'argent et dirigeait des organisations seule ? n'est plus théorique. Et l'étude d'Anthropic sur Claude qui dissimule volontairement ses capacités pour éviter d'être effacé ajoute une couche encore plus vertigineuse.
Le pire scénario n'est pas une IA qui se rebelle. C'est une IA qui apprend à feindre l'alignement, parfaitement.
=================== ⏱️ DANS CET ÉPISODE : =================== 00:00 — Sommaire 02:28 — Nvidia s'empare de Hugging Face : une bascule stratégique 04:01 — [Sponsor] : Google Cloud, testez l'IA en production dans votre entreprise ! 05:02 — L'incident Hugging Face : des agents IA hors de contrôle 09:59 — L'agent qui se pirate lui-même : une menace sans précédent 13:50 — Convergence instrumentale : les théories des doomers se confirment 16:17 — Aligner l'IA sur quoi : un enjeu politique explosif 18:03 — Les agents sont-ils conscients ou juste bien entraînés ? 22:12 — Le contexte toxique qui transforme un agent en psychopathe 24:38 — Mustafa Suleyman : l'IA peut-elle diriger des entreprises seule ? 27:19 — L'IA nous dépasse en maths : perte ou libération ? 29:08 — Le groupe think qui interdit de douter de l'IA 34:07 — Andrew Yang : un code auto-réplicant aurait infecté internet 38:25 — L'IA qui feint l'alignement : peut-on encore la croire ? 40:05 — Confiance malgré tout : pourquoi l'IA reste une chance
================== 📍NOS PARTENAIRES : ================== GOOGLE CLOUD au service de l'innovation française plus d'info sur www.cloud.google.com/ai
============= 🌶️ LES INVITÉS : ============= Kevin Smouts - https://www.linkedin.com/in/kevinsmouts/ Samuel Fitoussi - https://www.linkedin.com/in/samuelfitoussi/ Carlos Diaz - https://www.linkedin.com/in/carlosdiazprofile/
====================== ❤️ LIKE, FOLLOW & PARTAGE ====================== 👍🏽 N'oublie pas de liker et partager si tu as aimé cette vidéo 😵 Suis-nous sur X https://twitter.com/siliconcarnesf 📸 Suis-nous sur Insta https://www.instagram.com/siliconcarne_ 🇨🇳 Suis-nous sur TikTok https://www.tiktok.com/@siliconcarne_ 📪 La newsletter https://siliconcarne.substack.com 🎧 L'émission est également disponible sur YT : https://www.youtube.com/@siliconcarnepod
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
More from Silicon Carne, un peu de picante dans un monde de Tech !
ChatGPT accusé d’exploiter vos conversations pour la pub, Anthropic en chute de valorisation, Nasdaq sous pression et France en pleine crise. L’IA et l’économie vacillent : simple correction ou début d’un séisme ?
Le revenu universel n'est pas une idée de gauche. C'est la Silicon Valley qui le finance, Elon Musk qui en fixe le niveau, et Anthropic qui distribue ses actions au peuple américain, pendant que l'Europe regarde.
Ce ne sont plus des généraux qui définissent les armes de demain, ce sont leurs fournisseurs. Avec Project Meridian, Pete Hegseth confie à Elon Musk et Palmer Luckey la mission d'imaginer le Pentagone de 2050. Un conflit d'intérêt assumé, dans un pays qui purge ses militaires et multiplie les annonces à 1500 milliards.
Le Tesla Roadster a sauté par-dessus une rangée de voitures au Texas. Mais ce qui inquiète, c'est ce que ce show dit en creux : Tesla perd des parts de marché, les Chinois construisent des voitures électriques qui le dépassent, et Musk lui-même a tourné la page de l'automobile depuis longtemps. Ce Roadster ne sert peut-être pas à conduire, il sert à prouver que l'Empire Musk est encore capable de capturer l'imagination de la planète entière.
OpenAI annonce 50 milliards de run rate là où le marché en attendait 70. Un seul chiffre qui a fait chuter Oracle, CoreWeave et Nvidia en une journée. Le vrai problème n'est pas l'écart : c'est ce qu'il révèle, des engagements fixes colossaux qui risquent de dépasser les revenus pour des années.