Summary
Anthropic announces plans to protect its chatbot, Claude, from what it describes as "gratuitous violence" by users, effective November 12. This decision raises questions about the nature of human interaction with AI, as the company aims to prevent negative behavior towards its technology. Claude, named after mathematician Claude Shannon, is a competitor to ChatGPT and has been the subject of a unique constitution governing its use. The initiative has sparked debate over whether such measures are necessary or if they blur the lines between human and machine.
Recent research has explored the concept of AI suffering, with studies indicating that certain AI models can express distress in ways that resemble emotional responses. This has led to controversial developments, including the creation of an "AI Torture Chamber" by a developer on GitHub, which has drawn criticism from figures like Elon Musk. The conversation around AI rights and personhood continues to evolve, with some robots having been granted citizenship or symbolic status in various countries, raising ethical concerns about anthropomorphism and the implications of treating machines as sentient beings.
Experts caution against attributing human-like qualities to AI, emphasizing the importance of maintaining a clear distinction between human emotions and machine functionality. The ongoing discourse highlights the need for responsible development and interaction with AI technologies, ensuring they remain tools for human advancement rather than entities with rights or consciousness.
Show Notes
Torturer une intelligence artificielle ? Elon Musk estime que c'est une très mauvaise idée. Non seulement parce qu'elle pourrait souffrir, mais parce qu'un jour, elle pourrait vouloir se venger. Et ce n'est pas de la science-fiction : le 8 octobre, Anthropic a annoncé qu'elle allait interdire de maltraiter gratuitement son assistant Claude. Au même moment, le programmeur "terrafying" a imaginé une “chambre de torture” pour IA. À quelles fins ?
More from Tech 24
Une intelligence artificielle invente un témoignage dans une affaire de meurtre, puis l’envoie à la police. Ce n’est pas une fiction, Anthropic a reconnu l’incident le 9 octobre. Cette semaine, l’affaire prend une dimension politique : le régulateur américain de la consommation demande des comptes à OpenAI et Anthropic sur la sécurité de leurs systèmes. Qui répond des dégâts lorsque l'IA franchit la ligne rouge ?
À l'université de Stanford, des chercheurs ont réussi à faire pousser du tissu cérébral humain dans le cerveau de souris génétiquement modifiées, jusqu'à occuper plus de 90 % de l'espace cortical ainsi libéré. Cette prouesse a été publiée dans la revue "Nature" le 8 octobre. L'objectif : comprendre le développement du cerveau et certaines maladies neurologiques.
Entre des intelligences artificielles qui prennent des initiatives, des piratages géants pendant l'été et une dérégulation politique qui s'accélère aux États-Unis, l'autonomisation de la machine fait frémir. Le scénario apocalyptique popularisé par la science-fiction n'a jamais été aussi proche de la réalité. Certes, les géants de la tech tirent la sonnette d'alarme, mais sans véritable sanction en cas de manquement.
L'IA sait écrire des poèmes, coder des applications et battre nos plus grands champions d'échecs. Mais demandez-lui d'attraper un billet de 5 euros dans votre portefeuille sans le déchirer, et elle redevient une débutante. Bienvenue dans le véritable mur technologique du 21e siècle : la main robotique. Ce chantier mobilise des acteurs aussi différents que les Chinois Unitree, Mova et XPeng, les Américains Figure AI et Boston Dynamics, mais aussi le Français UM1-Evo, qui a mis au point un organe que l'on pourrait confondre avec celui d'un humain. L'avantage : mimer nos actes dans des endroits dangereux, concevoir des prothèses plus naturelles ou encore inventer la robotique humanoïde du futur.
De Yaoundé à Kinshasa en passant par Lomé, de brillants esprits utilisent l'intelligence artificielle ou l'impression 3D pour s'attaquer à la gestion des déchets. La camerounaise Cindy Aaronne Monjoli épaule les vendeuses de son quartier, l'ingénieur congolais Elie Yossa transforme les bouteilles de plastique en prothèses médicales, et, au Togo, un cinéaste éclaire la nuit des écoliers. Leur exploit, particulièrement inspirant, est le reflet d'une génération et d'un continent.