Les dysfonctionnements d’un système peuvent provenir :
- du système lui-même incluant son système de maintenance : défauts introduits en phase de développement et de production, pannes et erreurs d’utilisation ou de maintenance en phase d’exploitation,
- d’agressions accidentelles ou intentionnelles issues de l’environnement. La sécurité des réseaux informatiques en donne aujourd’hui un bon exemple.
L’application systématique des processus et bonnes pratiques de l’ingénierie système, notamment en ce qui concerne les activités de vérification et validation (V&V) et de contrôle de production, limite les défauts susceptibles d’entraîner des défaillances des produits en exploitation. Pour autant, elle n’apporte aucune garantie d’absence de défauts : ainsi aucune stratégie de tests ne peut démontrer en un temps raisonnable qu’un grand logiciel est sans défauts. Pour apporter un haut niveau de confiance dans les systèmes critiques ou tout au moins pour ce qui concerne leurs sous-ensembles critiques, de multiples techniques de prévention des dysfonctionnements sont mises en œuvre.
La prévision des dysfonctionnements
- Analyses et modélisations dysfonctionnelles : recherche des scénarios conduisant aux défaillances et des causes insidieuses, analyse des conséquences de défaillances de fonctions ou d’organes sur le comportement du système et recherche des causes potentielles de dysfonctionnements redoutés ; analyses ergonomiques des causes et effets des erreurs humaines ; analyse conjointe des menaces de l’environnement, des vulnérabilités du système et des conséquences d’agressions.
- Estimations de fiabilité prévisionnelle : calculs de fiabilité des matériels et modèles d’évolution de maturité des logiciels,
La tolérance aux défauts et aux pannes
- Utilisation de redondances pour masquer les pannes ou reprendre en secours un sous-système défaillant, modes dégradés permettant de poursuivre les objectifs les plus fondamentaux de la mission, couches défensives de récupération d’erreurs dues aux défauts du logiciel.
- Tolérance du système technique aux fautes des opérateurs, rattrapage d’erreurs du système technique par le bon sens et la réactivité des opérateurs.
- Enregistrement des anomalies tolérées et autres faits techniques en vue de maintenance préventive, de retours d’expériences et d’améliorations, voir d’analyse post mortem (effets boîte noire de l’aéronautique).
Les démonstrations d'obtention de la sûreté
- Définition et mise en œuvre d’une stratégie efficace et réaliste de démonstrations apportant les preuves ou les niveaux de confiance exigés en validant leur représentativité et leur couverture.
- Spécification formelle prouvable de comportement du système dans les différents scénarios normaux et anormaux d’utilisation, spécification formelle des mécanismes de tolérance aux pannes et de sécurité, preuve formelle de conformité d’un logiciel à ses spécifications.
- Plans d’expériences et d’essais, analyse de données, simulations ou essais au-delà des limites exigées pour l’utilisation, essais destructifs sur prototypes pour tester les limites de robustesse, etc.