cbsch.net

Définition du contexte.

Le débat portait sur la question suivante:

Cette semaine, j’ai rencontré quelqu’un qui m’affirmait que le taux de fiabilité de l’humain est de 10^-3, 10^-4. Lorsque je lui ai demandé ses sources, il m’a répondu que ce sont les chiffres de « référence » dans le domaine de la fiabilité, et que ce sont des « ergonomes » qui confirment ces chiffres.

Je ne suis pas fiabiliste et je m’adresse à vous pour avoir des repères et des sources pertinentes pour nourrir mon argumentaire.
Je m’appuie sur la définition de la fiabilité :« La fiabilité est l’aptitude d’un dispositif à accomplir une fonction requise dans des conditions données pour une période de temps donnée (cité par Pierre Chapouille, La fiabilité, Que sais-je ?) » (Wikipedia, rubrique « fiabilité », le 6 octobre 2007).

De ce point de vue, mais il se peut que je me trompe, auquel cas je vous demanderais de me détromper, le dispositif concerné accomplit toujours la même fonction. La comparaison de l’accomplissement d’une même fonction dans le temps a un sens.

En ce qui concerne l’humain, il ne me semble pas que cette définition puisse s’appliquer en l’état. En effet, en quelque sorte par définition, l’humain n’accomplit pas la même fonction, ce qui aboutit à comparer des choses incomparables. D’une part, l’humain apprend, sa façon de réaliser la fonction évolue avec le temps et il me semble que la comparaison perd de son sens. D’autre part, pour réaliser la fonction, l’humain a recourt à un ensemble de services, de ressources qui lui sont extérieures, autant de sources de contingences qui affectent sa façon de réaliser la fonction, ipso facto, rendant la comparaison vide de sens.

Ce point de vue vous paraît-il pertinent?
Quel est votre point de vue à ce sujet?
Traiter de la fiabilité humaine a-t-il un sens?
Si oui, comment traiter? Avec quelle définition de la fiabilité, quels concepts, quelles méthodes et quels outils?

Première réponse: éléments de bibliographie et références.

La première réponse à ce message est surtout intéressante par ses références, et c'est pour cette raison que je la cite ici. (Je ne mentionne pas, par contre, l'identité de son rédacteur. Je tiens son nom à disposition si d'aventure un lecteur voulait entrer en contact avec lui.)

Il y effectivement des définitions et sources plus rigoureuses que celle de votre interlocuteur. En voici quelques-unes:

"… la fiabilité humaine est la capacité de l'homme à accomplir une fonction requise dans des conditions données pour une période de temps donnée. Lorsqu'il n'a pas ou ne possède qu'incomplètement cette capacité, il s'ensuit des erreurs. La notion de fiabilité humaine est donc étroitement liée à celle d'erreur …" Leplat, 1985, p.16-17

"Le terme d'erreur sera pris en un sens générique, qui couvre tous les cas, où une séquence planifiée d'activités mentales ou physiques ne parvient pas à ses fins désirées, et quand ces échecs ne peuvent être attribués au hasard." James Reason, 1993, p. 31

On parle de l'opérateur en termes "d'agent de fiabilité faillible". L'erreur est le corollaire de notre adaptabilité à un ensemble très vaste de situations, et l'important n'est pas tant l'erreur que sa récupération (détection et récupération.)

Une série d'axiomes (Reason)

1. L'erreur humaine est à la fois universelle et inévitable.
2. Les erreurs ne sont pas fondamentalement mauvaises.
3. On ne peut pas changer le fonctionnement humain, mais on peut changer les conditions dans lesquelles les humains fonctionnent.
4. Les gens les meilleurs peuvent faire les pires erreurs.
5. Les gens ne peuvent pas facilement éviter les actions qu'il n'avaient pas l'intention de commettre.
6. Les erreurs sont des conséquences plutôt que des causes.
7. De nombreuses erreurs se produisent dans des conditions répétitives.
8. Des erreurs impliquant la sécurité peuvent se produire à tous les niveaux hiérarchiques.
9. Le management de l'erreur a pour but de gérer ce qui est gérable.
10. Le management de l'erreur a pour but de rendre excellents des gens performants.
11. Il n'y a pas une seule bonne voie.
12. Le management de l'erreur vise à évoluer en permanence plutôt que figer.

La personne qui parle d'une fiabilité humaine à 10-X prend ses sources avant les années 60, où les approches probabilistes techniques étaient encore transposées au fonctionnement humain (précis de probabilités et de statistiques à l'usage de la fiabilité, ISDF, Ed. Octares, 1996).

Depuis plus de 20 ans, les spécialistes en facteur humain ont montré que ces approches n'ont pas de sens pour la fiabilité d'une système où humain, technique, organisation, environnement, etc. forment une unité complexe. Sur le sujet, voir René Amalberti.

Traiter de la fiabilité humaine est une désignation commode pour identifier le niveau de modèles que l'on considère. Mais en soi, la fiabilité humaine n'existe pas. La fiabilité d'un système est le produit de l'intéraction de l'ensemble des variables composant ce système. Par exemple, lorsque l'on parle d'erreur humaine, cette sortie non désirée du système, on pourrait aussi parler de l'erreur de conception, qui a produit un système technique non compatible avec le fonctionnement humain. Sur le sujet, voir par exemple les analyses faites sur l'accident de la gare de Lyon, en particulier celle de Francois Daniellou.

Intervention de Julien Nelson.

Cette dernière intervention fait directement suite aux précédentes références et a l'avantage de les développer. Avant de donner la réponse de Julien Nelson, voici le mail qu'il m'a écrit lorsque je lui ai demandé la permission de le publier sur mon blog:

Je suis tout à fait en faveur d'une plus large diffusion de ce débat[...].
Je souligne deux points néanmoins. Premièrement, je ne suis pas fiabiliste mais ergonome de milieu universitaire avec un intérêt pour l'ergonomie de la maîtrise des risques, ce qui a son importance. Deuxièmement, j'ai répondu à ce mail car il faisait directement écho à un travail bibliographique que j'avais entrepris cette année, sur la nécessité de proposer de nouveaux indicateurs de fiabilité suite aux évolutions récentes dans le domaine. Dans la mesure où cette réflexion est toujours en cours, j'apprécierais que figure quelque part mon adresse mail pour que le débat puisse continuer à fructifier.

Cette précision étant faite, place à sa réponse:

Effectivement, Reason a été parmi les premiers à sortir de la logique qui consiste, dans un système où la fiabilité des éléments techniques et jugée optimale, à rejeter la faute sur l'opérateur de première ligne. Toutefois, il s'agit toujours d'une erreur humaine, décalée vers d'autres opérateurs: concepteurs, formateurs, agents de maintenance, etc. Une approche qui me semble porteuse est celle du "resilience engineering" (Hollnagel, Woods et Leveson) qui affirme que l'opérateur peut contribuer positivement à la fiabilité du système en s'adaptant à l'imprévu, en apprenant de ses erreurs, etc. Un point clé est que dans les systèmes à haut risque, l'opérateur bénéficie d'un certain nombre d'outils technologiques destinés à l'assister ou à le remplacer pour prendre des décisions sur la conduite du système (pilotage automatique, alarmes ...). L'analyse d'accidents majeurs montre que, souvent, l'opérateur a pris une décision qui semble a posteriori incohérente (p.ex. débrancher l'alarme ou le pilotage auto). Or l'accident est la conséquence de décisions qui peuvent tout aussi bien dégrader la sécurité du système que la préserver. Par exemple, l'opérateur tente de regagner le contrôle du système en repassant en mode manuel ... Au final, c'est en fonction des conséquences d'une action que l'on juge si elle est une erreur ou non.

Comme le dit le message précédent, la fiabilité humaine est une notion un peu artificielle. En revanche, je pense que modéliser le rôle de l'état d'esprit de l'opérateur lorsqu'il prend ces décisions (quelles que soient leurs conséquences) serait le prochain palier à atteindre. Amalberti a introduit par exemple la notion de compromis cognitif, qui me semble très porteuse. Certaines méthodes existent pour qualifier cet état d'esprit, mais il se pose deux problèmes importants. Le premier est la multiplicité des facteurs qui peuvent influer sur les décisions de l'opérateur: objectifs de productivité, vie extra-professionnelle, conditions de travail, etc. Le second est que l'opérateur est systématiquement soumis à un biais lorsqu'il décrit a posteriori les décisions qu'il a prises, du fait qu'il en connaît justement les conséquences.