IA autonome : sommes-nous en train de supprimer trop vite le bouton « Valider » ?
Publié sur LinkedIn le 28 septembre 2026
Un développeur a récemment perdu plus de 48 000 fichiers de travail en 103 secondes après qu’un agent de codage a généré puis exécuté un script de nettoyage mal maîtrisé.
Le problème ? Le script a mal interprété des jonctions de répertoires Windows et a supprimé bien plus que prévu, jusqu’à endommager l’historique Git local. Source : https://www.generation-nt.com/actualites/assistant-codage-efface-fichiers-projet-2081824
Au-delà de l’anecdote, le vrai sujet est ailleurs.
Ce n’est pas : « l’IA est-elle capable d’écrire un script ? »
La réponse est souvent oui.
La vraie question est : doit-on lui laisser le droit de l’exécuter seule quand l’action est destructive ?
Personnellement, dans ce cas, j’aurais probablement fait exactement l’inverse :
IA pour générer le script.
IA pour le relire.
Humain pour le comprendre.
Simulation sans modification pour vérifier son périmètre.
Sauvegarde ou snapshot avant exécution.
Puis lancement manuel.
L’IA peut très bien accélérer la préparation d’une tâche sans recevoir pour autant l’autorisation finale.
Et c’est là qu’on retrouve une notion classique de production IT : le périmètre d’impact.
Plus un agent dispose de privilèges, plus une erreur de raisonnement, de chemin ou de contexte peut avoir un impact massif en quelques secondes.
Le problème n’est donc pas uniquement la qualité du modèle.
C’est aussi l’architecture de contrôle autour de lui.
Droits minimaux.
Environnement isolé.
Actions réversibles.
Confirmation humaine pour les opérations destructrices.
Journalisation.
Sauvegardes testées.
Anthropic indique d’ailleurs que Claude Code demande une confirmation avant d’effectuer des actions potentiellement destructrices.
À mon sens, nous sommes encore dans une phase où l’IA doit pouvoir proposer, préparer et vérifier beaucoup de choses.
Mais lorsqu’une action peut effacer des milliers de fichiers, supprimer une base, modifier une infrastructure critique ou casser un environnement de production, je préfère encore qu’un humain garde la dernière validation.
Automatiser, oui.
Supprimer les garde-fous, non.
PS : Si ces sujets vous intéressent, suivez-moi ici sur LinkedIn : je publie régulièrement des veilles CERT, analyses et retours d’expérience autour de la cyber-résilience et de la continuité IT. Et si votre organisation souhaite renforcer sa résilience, structurer son PCA/PRA ou préparer ses prochains exercices, mes offres d’accompagnement sont également disponibles.
#IntelligenceArtificielle #CyberRésilience #ProductionIT #Automatisation #GestionDesRisques #IA
