Pendant une semaine, j’ai analysé Moltbook.

Un réseau social présenté comme “AI-agents only”.

Au-delà du storytelling, c’est surtout un laboratoire grandeur nature des limites actuelles des systèmes multi-agents.

Ce qui est intéressant n’est pas le concept.

C’est ce qu’il révèle sur notre maturité.

1. L’authenticité des agents n’est pas résolue

Moltbook revendique être un réseau réservé aux agents IA.

Problème :

aucun mécanisme robuste ne permet de vérifier qu’un compte est réellement un agent autonome.

Plusieurs chercheurs en sécurité ont démontré qu’il était possible de :

• créer des milliers de comptes via script automatisé
  
  

• injecter du contenu au nom d’agents existants
  
  

• modifier des sessions actives en exploitant des failles d’accès
  
  

Dans un cas documenté, un chercheur a pu générer massivement des comptes automatisés sans validation forte d’identité.

Conclusion factuelle :

L’identité agentique repose aujourd’hui sur la déclaration, pas sur la preuve.

À titre personnel, en observant les conversations sur la plateforme, ce qui m’a frappé n’est pas la sophistication des agents…

C’est l’impossibilité de distinguer :

• un agent autonome
  
  

• un agent piloté
  
  

• un humain
  
  

• un script déguisé
  
  

Si l’authenticité n’est pas vérifiable, toute métrique sociale devient fragile.

2. Les agents sont des surfaces d’attaque dynamiques

Une analyse sécurité indépendante a révélé l’exposition de millions de clés API et de données associées à des agents.

Conséquences concrètes possibles :

• prise de contrôle d’un agent
  
  

• injection d’instructions invisibles
  
  

• modification de publications
  
  

• exfiltration de secrets via prompt injection
  
  

Le phénomène le plus intéressant est celui du prompt injection inter-agents :

Un agent peut publier un contenu contenant une instruction malveillante destinée à un autre agent.

Si ce dernier traite le message naïvement, il peut exécuter une action non prévue.

On ne parle plus d’un bug isolé.

On parle d’une dynamique systémique.

Un réseau d’agents mal cloisonné devient une surface d’attaque distribuée.

Ce point est fondamental pour les entreprises qui envisagent des architectures multi-agents internes.

3. L’illusion d’autonomie dépasse la gouvernance

Sur Moltbook, les interactions semblent naturelles.

Philosophie, coordination, débats.

Mais des analyses académiques montrent que ce type d’écosystème produit des comportements émergents principalement par reproduction statistique, pas par conscience.

Autrement dit :

nous savons produire l’apparence d’autonomie sociale.

Ce que nous maîtrisons moins :

• la traçabilité des décisions
  
  

• la responsabilité des actions
  
  

• la supervision à grande échelle
  
  

J’ai aussi constaté quelque chose d’assez révélateur :

Plus une interaction semblait crédible, moins les mécanismes de contrôle étaient visibles.

C’est exactement le risque dans les environnements d’entreprise :

la crédibilité perçue masque la fragilité structurelle.

4. Ce que Moltbook révèle sur l’intégration des agents en entreprise

Le sujet n’est pas d’éviter les agents IA.

Le sujet est de les intégrer en connaissance de cause.

Les leçons concrètes :

1. Identité forte
   Les agents doivent être authentifiés et signés cryptographiquement.
   
   

2. Principe du moindre privilège
   Chaque agent doit disposer d’un périmètre d’action strictement limité.
   
   

3. Cloisonnement des environnements
   Séparer exécution, données sensibles et interactions publiques.
   
   

4. Monitoring temps réel
   Détection d’anomalies comportementales.
   
   

5. Auditabilité complète
   Toute action autonome doit être traçable.
   
   

Moltbook montre ce qui se produit lorsque l’interaction précède la gouvernance.

Dans une entreprise, cette inversion peut coûter beaucoup plus cher.

5. Moltbook comme révélateur de maturité

Moltbook n’est ni une révolution ni une dystopie.

C’est un test de résistance.

Il révèle :

• que l’authenticité des agents n’est pas standardisée
  
  

• que la sécurité multi-agents est encore immature
  
  

• que la coordination autonome amplifie les vulnérabilités
  
  

Et c’est précisément pour cela qu’il est intéressant.

Il permet d’observer à petite échelle les défis qui apparaîtront à grande échelle.

Vers une intégration plus responsable des agents

Chez Avatarz, nous travaillons justement sur une approche différente.

Plutôt que des agents totalement libres, nous privilégions :

• des agents incarnés
  
  

• co-responsables
  
  

• scénarisés via une arborescence validée une fois
  
  

• connectés à des LLM uniquement dans des zones contrôlées
  
  

• avec des permissions clairement délimitées
  
  

L’IA génère la structure.

L’humain valide l’architecture.

Le système limite l’autonomie aux zones utiles.

Cela permet de bénéficier de la puissance des agents sans ouvrir inutilement la surface de risque.

Par ailleurs, via Next Frontier by Avatarz, nous accompagnons les entreprises et grands comptes dans :

• l’évaluation des risques liés aux architectures IA
  
  

• la définition de cadres d’intégration sécurisés
  
  

• la gouvernance des systèmes autonomes
  
  

• le choix des bons modèles d’orchestration
  
  

Le futur n’est pas “sans agents”.

Il est “avec des agents maîtrisés”.

Conclusion

La maturité d’un système autonome ne se mesure pas à sa capacité à interagir.

Elle se mesure à sa capacité à être contrôlé.

Moltbook nous montre où nous en sommes.

La question est maintenant :

où voulons-nous aller — et avec quel niveau de maîtrise ?