26357 shaares
1 résultat
taggé
précaution
Un utilisateur payant de Claude (220 €/mois) raconte avoir été banni sans avertissement après avoir utilisé plusieurs instances de Claude pour du project scaffolding.
Il faisait itérer une IA sur un fichier CLAUDE.md servant de contexte pour une autre IA. Cette automatisation, proche de prompts de type “system instructions”, aurait déclenché les mécanismes anti–prompt injection.
Conséquences :
- Compte désactivé sans explication
- Aucune réponse du support
- Seul retour : remboursement intégral
Conclusion :
La modération des LLM est une boîte noire : automatiser des prompts ressemblant à des instructions système est aujourd’hui un terrain miné, même pour des usages légitimes.