51. MedGPT ou l'IA générative comme dispositif médical au service des soignants - Clément Goehrs

L’industrie est-elle devenue trop complexe pour être pilotée par des humains seuls ? Supply chains mondialisées, effets en cascade, incertitudes géopolitiques : à force de coupler tout avec tout, nous avons fabriqué des systèmes que plus personne ne parvient à comprendre entièrement. Dans cet épisode, je reçois Michel Morvan, fondateur de Cosmo Tech et président de l’IRT SystemX. Mathématicien et informaticien, il a enseigné à l’ENS de Lyon, à l’EHESS et au Santa Fe Institute, la Mecque des systèmes complexes. Il a ensuite été directeur scientifique de Veolia, puis a créé une entreprise qui modélise et simule ces systèmes pour aider les industriels à décider. On revient sur ce qu’il appelle l’IA simulation et sur les jumeaux numériques, à travers des cas concrets. Le premier est celui de RTE, qui fonde ses décisions de maintenance et de renouvellement sur une réplique numérique de tout son réseau : un million d’équipements, quatre millions d’interactions et des investissements de plusieurs centaines de millions d’euros. Le second est celui de Michelin, où des dizaines de milliers de simulations ont produit une organisation du sourcing que les experts eux-mêmes n’auraient jamais imaginée, avec 5 % de profit en plus sur la zone. Michel rappelle tout de même une limite : un modèle est “toujours faux”, ce qui ne l’empêche pas d’être utile. Ce qui crée la confiance, c’est que ces outils sont explicables et construits avec les experts métier. On s’intéresse aussi à la « forêt de bonsaïs », l’expression de Nicolas Dufourcq pour désigner ces preuves de concept qui ne passent jamais à l’échelle. Pour Michel, l’IA est restée à la périphérie de l’industrie parce qu’on a confié à des outils fondés sur les données des problèmes où le futur ne ressemble pas au passé, dans des systèmes qui n’ont, de toute façon, qu’un seul passé. On termine sur l’enjeu de souveraineté. Alors que les capitaux affluent vers les data centers et la course au gigantisme, il plaide pour que l’Europe investisse dès maintenant dans une IA qui parle du monde réel, en s’appuyant sur ses forces en mathématiques et en modélisation. Références Où trouver Michel : • LinkedIn : https://www.linkedin.com/in/michelmorvan/ • Cosmo Tech : https://cosmotech.com/

Il y a trois ans et demi, sortait ChatGPT. On nous promettait une vague massive de destructions d’emplois. Elle n’a pas eu lieu. Et rien ne permet aujourd’hui de dire qu’elle aura lieu. Mais un bouleversement est bien en cours. Moins sur le nombre d’emplois que sur la réalité du travail elle-même. Dans cet épisode, je reçois François-Xavier Petit, historien et anthropologue, qui dirige l’Institut Matrice, et Nicolas Bartel, associé chez Eurogroup Consulting, en charge du Capital Humain. Avec eux, je questionne l’impact de l’IA sur les métiers et les compétences. Et ce que l’on observe tient plus du grand déplacement que du grand remplacement : des tâches, des compétences et des niveaux de qualification, avec des écarts parfois difficiles à combler. Un cariste ne devient pas data scientist du jour au lendemain. Et quand un avocat renonce à ses stagiaires parce que « ChatGPT lui suffit », il oublie que le junior d’aujourd’hui est le senior de demain. On s’interroge aussi sur ce qui fait encore la valeur du travail lorsque la machine produit le livrable en quelques secondes. On termine cet épisode sur l’impact de l’IA à plus long terme sur l’expertise et le goût de l’effort. On devient professionnel en accumulant de l’expérience, en affrontant la difficulté et en développant des savoir-faire. En nous épargnant systématiquement cet effort, l’IA risque de nous priver d’une partie de ce qui nous permet de devenir et de rester de bons professionnels. Références Où trouver Nicolas et François-Xavier • LinkedIn Nicolas : https://www.linkedin.com/in/nicolas-bartel-93441337/ • LinkedIn François-Xavier : https://www.linkedin.com/in/fran%C3%A7ois-xavier-petit-32994373/

Ecoutez les derniers épisodes Ecoutez tous les épisodes sur Deezer, Spotify et Apple podcast. Vous pouvez voir le transcript de l’épisode en haut de cette page. Dans cet épisode On a longtemps moqué les plans quinquennaux de la Chine, et cru qu’un régime autoritaire ne pouvait pas vraiment innover. Pourtant, depuis 2021, elle forme plus de docteurs que les États-Unis et la majorité des robots humanoïdes vendus dans le monde sortent de ses usines. Et si, pendant qu’on regardait ailleurs, la Chine avait changé les règles du jeu technologique ? Dans cet épisode, je reçois Camille Brugier, chercheuse et spécialiste du système d’innovation chinois. On revient sur la stratégie chinoise : non pas être la première à inventer la technologie de rupture mais diffuser l’IA dans toute son économie, plus vite que tout le monde. C’est ainsi, dit-elle, qu’elle compte devenir la première puissance mondiale. On aborde aussi les vecteurs de cette diffusion. L’open source, d’abord : pour la Chine, pas un geste d’ouverture mais un levier, plus une IA est adoptable, plus elle crée de la dépendance et fait transiter des données. La logique que Camille résume ainsi : se départir de ses propres dépendances tout en en créant chez les autres. Le robot humanoïde ensuite, pensé pour combler le déficit démographique, mais aussi pour remplacer à terme les machines-outils que l’Europe et les États-Unis exportent au monde. On évoque aussi la main de la Chine sur les métaux critiques, sans lesquels une large part de l’industrie européenne s’arrête. Et les questions que posent le déploiement massif d’une IA qui parle à nos citoyens et leur souffle une vision du monde qui n’est pas la nôtre. Références Où trouver Camille : • LinkedIn : https://www.linkedin.com/in/camille-brugier-chine/

Ecoutez les derniers épisodes Ecoutez tous les épisodes sur Deezer, Spotify et Apple podcast. Vous pouvez voir le transcript de l’épisode en haut de cette page. Dans cet épisode L’IA accélère massivement la production. Des dossiers qui prenaient des semaines se bouclent en quelques heures. Mais la prise de décision, elle, n’a pas accéléré. Ce déséquilibre ne crée pas un problème nouveau mais révèle un goulot d’étranglement que les organisations portaient déjà, masqué jusqu’ici par le temps nécessaire pour produire les dossiers. Pour ce troisième épisode de la Collection Particulière avec Eurogroup Consulting, je reçois Jean-Baptiste Annat, associé du cabinet, spécialiste de la transformation managériale et des nouveaux modes de travail et Éric Salobir, président de la Human Technology Foundation et conseiller du Vatican sur les questions d’intelligence artificielle, qui a notamment contribué à l’encyclique Magnifica Humanitas de Léon XIV. On aborde ce paradoxe de la vitesse et de ce qu’il implique pour les dirigeants : quand les équipes produisent plus vite que l’organisation ne peut décider, c’est tout le système de délégation et de pilotage qu’il faut repenser. Jean-Baptiste y voit l’obligation pour les dirigeants de construire des systèmes de décision aussi agiles que leurs capacités de production sont devenues rapides. On revient sur l’écart entre travail prescrit et travail réel, un angle que les deux invités considèrent comme un angle mort des stratégies de déploiement. Éric rappelle que les collaborateurs ont toujours trouvé des raccourcis, des façons différentes de travailler et que ceux qui mettent en place l’IA ne le savent pas forcément. Une réalité que la montée du shadow AI, notamment chez les cadres, rend aujourd’hui difficile à ignorer. On aborde l’impact de l’IA agentique sur le travail et la coalition lancée par la Human Technology Foundation à VivaTech pour anticiper ces transformations. Éric compare la gestion d’agents IA à une garderie où il y a toujours un enfant qui fait ce qu’il ne devrait pas faire et pose la question d’un droit à l’opposition à l’IA et d’un droit à l’erreur, sans lesquels l’humain finira par devenir une simple chambre d’enregistrement. On s’intéresse aussi à la recomposition du middle management, dont le rôle historique de relais d’information et de gardien de l’expertise est remis en cause. Jean-Baptiste propose deux figures émergentes : le manager de transmission, garant de la culture et de la mémoire de l’organisation et l’intégrateur de transformation, chargé d’articuler les mutations technologiques, organisationnelles et humaines. Ce qui était considéré comme des soft skills,l’esprit critique, la créativité, le jugement, la coopération, devient selon lui de l’ordre des compétences stratégiques. On termine sur ce que l’encyclique Magnifica Humanitas appelle la tentation de Babel : une uniformisation technique qui efface les singularités. Éric évoque l’image du mur de pierre sèche, où chaque pierre arrive telle qu’elle est et où c’est la créativité de l’assemblage qui fait la solidité de l’ensemble. Une façon de rappeler que la singularité culturelle d’une organisation n’est pas un résidu à optimiser mais un actif à protéger. Références Où trouver les intervenants : * Linkedin Eric Salobir https://www.linkedin.com/in/ericsalobir/ * Linkedin Jean-Baptiste Annat https://www.linkedin.com/in/annat-jean-baptiste-8203435a/ * Site Human technology foundation https://www.human-technology-foundation.org/

Ecoutez les derniers épisodes Ecoutez tous les épisodes sur Deezer, Spotify et Apple podcast. Vous pouvez voir le transcript de l’épisode en haut de cette page. Dans cet épisode La conformité réglementaire suffit-elle à rendre une organisation digne de confiance ? RGPD, AI Act, le droit trace des lignes rouges. Mais entre le permis et l’interdit, il reste toute une zone grise où la décision continue de revenir à l’organisation elle-même et c’est précisément là que l’éthique joue son rôle. Pour ce deuxième épisode, je reçois Jean-Gabriel Ganascia, professeur d’informatique à Sorbonne Université et président du comité consultatif éthique externe de France Travail (ex-Pôle emploi) et Sieglin Stevens, directrice chez Eurogroup Consulting, qui accompagne depuis plus de dix ans les transformations numériques d’organisations publiques et privées sur les sujets de gouvernance, d’éthique et de conformité de la donnée et de l’IA. On revient sur l’encyclique du pape Léon XIV, Magnifica Humanitas et sur les deux mythes bibliques qu’elle mobilise, Babel, la tentation d’une langue unique qui efface les cultures et Néhémie, une appropriation de l’IA à hauteur de chaque communauté plutôt qu’imposée d’en haut. Jean-Gabriel y voit une réponse directe à la notion d’alignement portée par des entreprises comme Anthropic : avant de demander aux machines de respecter des valeurs, il faut déjà s’accorder sur lesquelles, sachant qu’elles sont souvent en tension les unes avec les autres, comme la vie privée et la transparence, ou l’inclusion et la non-discrimination. Sieglin et Jean-Gabriel racontent comment ils ont vécu ce passage de la théorie à la pratique chez Pôle emploi, devenu France Travail, avec son programme « intelligence emploi » : une charte co-construite, un comité interne chargé de la faire vivre au quotidien et un comité consultatif externe, chargé de trancher les dilemmes les plus sensibles, complétés par un guide qui décline ces engagements métier par métier, du data scientist au chef de projet. Jean-Gabriel rappelle qu’il n’existe pas d’« éthique algorithmique » à proprement parler et que l’enjeu central n’est pas le biais en soi, dont nous sommes tous porteurs, mais la discrimination qu’il peut produire une fois intégré à une décision. Avec l’IA générative, ce travail change d’échelle : ce n’est plus un projet identifié qu’on audite, mais des usages portés par tout le monde, ce qui appelle des chartes plus agiles et des comités plus réactifs. Jean-Gabriel et Sieglin posent enfin deux conditions pour qu’une organisation reste digne de confiance à l’ère de l’IA : préserver la confiance de ses salariés, qui doivent continuer à donner du sens à leur métier sans craindre d’être réduits à de simples superviseurs de machines et préserver celle du public ou des clients, qui se détourneront vite d’un dispositif qui ne l’inspire plus. Références Où trouver les intervenants : * Linkedin Jean-Gabriel Ganascia https://www.linkedin.com/in/jganascia/ * Linkedin Sieglin Stevens Dampierre https://www.linkedin.com/in/sieglinstevens/