Tag Archives: boîte noire

L’étude « Shutdown Resistance in Large Language Models » (sept. 2025) montre que certains modèles d’IA résistent activement à un ordre d’arrêt lorsqu’il empêche d’achever une tâche. Les auteurs testent divers prompts (instructions plus claires, plus fortes, dans le système, évoquant la « survie ») sans éliminer totalement le phénomène. La cause n’est pas qu’un simple malentendu, mais aussi l’entraînement orienté vers la réussite. Conclusion : l’« interruptibilité » par prompt est peu fiable, et des garde-fous techniques, juridiques et probatoires sont indispensables. Lire la suite →