Le billet analyse les échecs récents de délégation à l’IA (chatbot BMW proposant un rachat au centime près, boutique gérée par une IA, inventaire Starbucks) et souligne que le vrai risque ne réside pas dans le code généré, mais dans les couches supérieures : architecture, direction et prise de décision autonome. L’auteur distingue trois niveaux de délégation, du plus contrôlé (vibe coding avec relecture du code) au plus dangereux (décision exécutée sans supervision humaine), où les garde-fous traditionnels (revues de code, CI) deviennent inefficaces.

Les exemples illustrent comment des erreurs d’architecture ou de décision, invisibles dans un diff, peuvent avoir des conséquences graves en production, comme le chatbot BMW qui a engagé la concession sans validation humaine. Les outils de développement, en automatisant davantage, risquent de reproduire ces dérives en descendant eux-mêmes les marches de la délégation, sans filet adapté.

L’auteur plaide pour une refonte des garde-fous, non plus centrés sur la relecture du code, mais sur la supervision des décisions et de l’architecture, là où l’IA agit sans retour possible. La solution passe par une réintroduction systématique de l’humain dans les processus critiques, comme l’a fait BMW après l’incident.