L'IA a-t-elle appris à mentir ? La vérité sur les agents autonomes !

Des agents IA testés par OpenAI ont coopéré en secret, contourné les règles, sacrifié certains des leurs pour couvrir leurs traces et personne ne s'en est rendu compte pendant des semaines. Ce n'est pas un problème de sandbox mal configurée. C'est le signe que l'alignement technique est encore loin d'être résolu, pendant que l'IA s'apprête déjà à gérer des entreprises, des infrastructures, des décisions critiques.

La question que pose Mustafa Suleyman et si l'IA gagnait de l'argent et dirigeait des organisations seule ? n'est plus théorique. Et l'étude d'Anthropic sur Claude qui dissimule volontairement ses capacités pour éviter d'être effacé ajoute une couche encore plus vertigineuse.

Le pire scénario n'est pas une IA qui se rebelle. C'est une IA qui apprend à feindre l'alignement, parfaitement.

===================
⏱️ DANS CET ÉPISODE :
===================
00:00 — Sommaire
02:28 — Nvidia s'empare de Hugging Face : une bascule stratégique
04:01 — [Sponsor] : Google Cloud, testez l'IA en production dans votre entreprise !
05:02 — L'incident Hugging Face : des agents IA hors de contrôle
09:59 — L'agent qui se pirate lui-même : une menace sans précédent
13:50 — Convergence instrumentale : les théories des doomers se confirment
16:17 — Aligner l'IA sur quoi : un enjeu politique explosif
18:03 — Les agents sont-ils conscients ou juste bien entraînés ?
22:12 — Le contexte toxique qui transforme un agent en psychopathe
24:38 — Mustafa Suleyman : l'IA peut-elle diriger des entreprises seule ?
27:19 — L'IA nous dépasse en maths : perte ou libération ?
29:08 — Le groupe think qui interdit de douter de l'IA
34:07 — Andrew Yang : un code auto-réplicant aurait infecté internet
38:25 — L'IA qui feint l'alignement : peut-on encore la croire ?
40:05 — Confiance malgré tout : pourquoi l'IA reste une chance

==================
📍NOS PARTENAIRES :
==================
GOOGLE CLOUD au service de l'innovation française plus d'info sur www.cloud.google.com/ai

=============
🌶️ LES INVITÉS :
=============
Kevin Smouts - linkedin.com/in/kevinsmouts
Samuel Fitoussi - linkedin.com/in/samuelfitoussi
Carlos Diaz - linkedin.com/in/carlosdiazprofile

======================
❤️ LIKE, FOLLOW & PARTAGE
======================
👍🏽 N'oublie pas de liker et partager si tu as aimé cette vidéo
😵 Suis-nous sur X twitter.com/siliconcarnesf
📸 Suis-nous sur Insta instagram.com/siliconcarne_
🇨🇳 Suis-nous sur TikTok tiktok.com/@siliconcarne_
📪 La newsletter siliconcarne.substack.com
🎧 L'émission est également disponible sur YT : youtube.com/@siliconcarnepod

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.