Le 1er juin 2009, le vol 447 d’Air France s’est écrasé dans l’Atlantique, tuant les 228 passagers et membres d’équipage.
Après plusieurs années d’analyse, les enquêteurs ont conclu que l’une des causes contributives de l’accident était trop d’automatisation. Les commandes de vol de l’Airbus A330 étaient si complètement automatisées que l’équipage de conduite avait perdu son avantage. Lorsqu’on leur a présenté des informations confuses, ils ont pris de mauvaises décisions qui ont entraîné l’accident.
Le pilotage d’avions n’est qu’une des nombreuses applications de l’automatisation. Maintenant que l’automatisation est devenue un objectif principal de l’informatique d’entreprise, en particulier au sein des opérations informatiques (ops), nous devrions nous poser la question : à quel point l’automatisation est-elle trop importante ?
Le problème de la domination technologique
Domination technologique fait référence à l’influence dominante de la technologie sur les individus, leur permettant ainsi de prendre des positions subalternes par rapport à la technologie, s’en remettant à la technologie dans les processus de prise de décision.
Le problème reconnu depuis longtemps de la domination technologique est déqualification. La déqualification est le phénomène par lequel les gens perdent des compétences au fil du temps lorsqu’ils reportent la prise de décision (et d’autres processus intellectuels) à une technologie.
La déqualification est omniprésente dans nos vies imprégnées de technologie. Les calculatrices font perdre aux gens leurs compétences en arithmétique. (À quand remonte la dernière fois que vous avez effectué une longue division à la main, hmm ?) Les moteurs de recherche font oublier aux gens des faits que de tels outils sont bons pour récupérer. Les véhicules autonomes font perdre aux gens la capacité de conduire.
La déqualification se produit également dans les organisations lorsqu’elles perdent des personnes qualifiées par attrition. Tout employé mal à l’aise avec le report de la prise de décision à la technologie est susceptible de chercher un travail plus stimulant ailleurs.
La montée du biais d’automatisation
Pour les efforts des travailleurs du savoir, l’automatisation est une force particulièrement puissante de domination technologique. Nous appelons ce type de dominance technologique biais d’automatisation.
Il y a deux côtés au biais d’automatisation. Le premier est la déqualification : lorsque les gens ont une compétence pour accomplir une tâche manuellement, l’automatisation de cette tâche fera perdre cette compétence à ces personnes au fil du temps.
La deuxième partie de l’histoire de l’automatisation est plus pernicieuse : les personnes qui entrent dans un domaine où des tâches qui étaient manuelles mais qui sont maintenant automatisées n’apprennent plus comment effectuer ces tâches en premier lieu.
La solution la plus efficace au problème de déqualification pour le biais d’automatisation est la formation continue par simulation. Les compagnies aériennes d’aujourd’hui veillent à ce que tous les pilotes poursuivent leur formation en simulation tout au long de leur carrière afin qu’ils ne perdent pas leurs compétences à cause de l’automatisation.
Le deuxième problème – essentiellement, la réduction de la main-d’œuvre – est un problème plus important, en particulier dans les domaines où une expertise est requise, y compris les opérations. Comment les organisations vont-elles embaucher des juniors et les transformer en seniors si l’automatisation prive les gens de la possibilité d’acquérir l’expertise dont ils ont besoin pour progresser dans leur carrière ?
Pourquoi le biais d’automatisation est un tel problème
La raison pour laquelle le biais d’automatisation est une telle préoccupation pour les organisations opérationnelles est que, quelle que soit la qualité de l’automatisation, il y aura toujours la possibilité d’un problème que l’automatisation ne peut pas résoudre. Si personne dans l’équipe n’a l’expertise pour le résoudre non plus, l’organisation sera bloquée.
Une réponse courante mais à courte vue à cette préoccupation consiste à conclure que l’organisation a simplement besoin d’une meilleure automatisation. Étant donné que l’automatisation d’aujourd’hui est axée sur l’IA et que l’IA est encore relativement immature, l’hypothèse selon laquelle les technologies d’automatisation comme AIOps s’amélioreront avec le temps est raisonnable.
Peut-être alors que le biais d’automatisation est simplement un type de douleur croissante. Au fil du temps, le problème se résoudra de lui-même.
Le problème avec cet argument est que l’automatisation est un logiciel et que le logiciel n’est jamais parfait. Il y aura toujours des situations où l’automatisation casse. Si l’organisation n’a pas encore pris de mesures pour atténuer le biais d’automatisation, personne ne comprendra comment l’automatisation fonctionne suffisamment bien pour y remédier. Une fois de plus, l’organisation sera bloquée sans solution.
Les deux types d’expertise
La formation basée sur la simulation peut résoudre de nombreux problèmes de déqualification, mais l’expertise opérationnelle est plus que ce qu’une telle formation peut apporter.
Le problème avec les opérations – comme avec d’autres activités de travailleurs du savoir qui nécessitent des niveaux d’expertise avancés – est que les professionnels des opérations seniors deviennent des experts en analogiser.
L’analogie fait référence à la façon dont les gens peuvent résoudre des problèmes qu’ils n’ont jamais rencontrés auparavant, car ces problèmes sont similaires à certains égards à d’autres problèmes qu’ils ont résolus auparavant, et ils sont capables de trouver des solutions au problème en question en se basant sur ces autres problèmes similaires. problèmes.
L’analogie est d’une importance vitale pour résoudre les problèmes opérationnels les plus difficiles, y compris les problèmes que l’automatisation ne peut pas résoudre.
Compte tenu de la complexité des environnements de production modernes ainsi que des différences entre eux, il est essentiel pour le bon fonctionnement de l’entreprise d’avoir des experts dans le personnel qui sont non seulement au courant des spécificités de leur travail, mais qui peuvent également faire des analogies pour résoudre les problèmes les plus difficiles. toute organisation opérationnelle.
De plus, l’analogie n’est pas une compétence que les gens peuvent acquérir efficacement par la formation ou la simulation. Cela vient de l’expérience – et plus l’expérience est diversifiée, plus l’individu est capable d’appliquer l’analogie à des problèmes difficiles.
Quel est le degré d’automatisation optimal ?
Pour de nombreuses formes d’automatisation, la déqualification n’est pas un problème sérieux. Les travailleurs du savoir en général, y compris le personnel des opérations, peuvent être confrontés à de nombreuses tâches routinières et répétables dans leur travail quotidien qui ne nécessitent pas un niveau de compétence qui causerait un problème si cette compétence était perdue. Toutes ces tâches de routine sont soumises à l’automatisation sans souci.
À l’autre extrême, les organisations peuvent aspirer à des environnements de production « éteints », si entièrement automatisés qu’il n’y a aucune raison de garder les lumières allumées, car il n’y a personne de service. Toute organisation avec un environnement aussi peu éclairé est susceptible de perdre tout membre du personnel qui pourrait être en mesure de réparer quelque chose en cas de problème, soit par déqualification, soit par attrition.
À mesure que l’automatisation basée sur l’IA devient de plus en plus sophistiquée, les organisations atteindront un point optimal où les avantages de l’automatisation compenseront suffisamment les inconvénients.
La recherche de cet optimum dépend des personnes impliquées – les travailleurs qualifiés qui doivent d’une manière ou d’une autre s’adapter à l’automatisation dans leur travail quotidien.
Assurez-vous d’écouter les personnes de haut niveau qui sont douées pour l’analogie. Ils peuvent résoudre des problèmes que l’automatisation ne pourra jamais résoudre. Faites tout ce qu’il faut pour les retenir et les garder suffisamment stimulés, à la fois pour maintenir le moral mais aussi pour les aider à maintenir leurs compétences.
N’oubliez pas non plus que la seule façon de recruter des seniors est de commencer avec des juniors et de les perfectionner. Cependant, la formation basée sur les connaissances est insuffisante car elle ne traite pas le biais d’automatisation.
La formation basée sur la simulation est plus efficace et, ironiquement, l’IA peut piloter des technologies de formation basées sur la simulation. Mais même ce type de formation ne suffit pas.
Aucune quantité de formation, basée sur les connaissances ou la simulation, ne peut enseigner de manière adéquate l’analogie. La meilleure approche pour développer cette compétence est une combinaison de mentorat et d’expérience – en d’autres termes, l’apprentissage traditionnel.
La formation par apprentissage, bien sûr, existe depuis des millénaires, plusieurs siècles avant que l’automatisation ne devienne une réalité.
Maintenant que l’IA est à l’origine d’un changement de paradigme dans la façon dont les organisations trouvent et exploitent l’expertise, il est essentiel de se souvenir des leçons du passé, en particulier face aux progrès de l’automatisation.