Il est beaucoup question d’intelligence artificielle en ce moment et chacun y va de sa petite idée sur la place qu’elle prendra dans notre vie. Dans le domaine de l’aviation, on peut se demander quelle sera son apport dans les avions et quelles évolutions attendre des prochaines magnifiques machines que nous utiliserons. Il n’est pas question de remettre en cause l’intérêt ou la pertinence de l’intelligence artificielle , ni de nier les évolutions qu’elle apportera dans notre vie.
Mais, comme tout ce que l’homme a créé, ce ne sera qu’un outil supplémentaire. Et même le meilleur des outils n’a rien d’universel car il ne peut ni tout faire, ni tout remplacer. C’est pourquoi, contrairement à ce que le Dr Laurent Alexandre a pu écrire (avec tout le respect que j’ai pour lui), on peut douter que l’intelligence artificielle remplace prochainement les pilotes. Affirmer le contraire, c’est méconnaître les exigences de ce métier.
Ces exigences, on les devine au travers des objectifs des tests de sélection :
- être capable d’analyser une situation complexe et inconnue,
- de partager et trier les informations dont on dispose,
- de construire en groupe une stratégie innovante,
- de la mettre en œuvre dans un temps limité.
Si des systèmes experts sont tout à fait capables d’analyser une situation complexe, ils ne savent pour l’instant le faire que dans un cadre restreint, celui pour lequel ils ont été conçus, sans capacité d’innovation. Il y a également un gros paradoxe à constater que la tendance récente dans la conception des systèmes a été de restreindre la communication de certaines informations à un dialogue inter-systèmes, en évinçant le pilote… Ainsi, un Airbus ne « dit » pas qu’il a détecté une incohérence dans les mesures de vitesse. Il dit : « je ne sais plus faire, à toi les commandes », tout en proposant une C/L qui ne résout pas le problème initial et n’oriente pas vers la solution… De son côté, Boeing ne juge pas toujours utile d’informer les pilotes de la mise en place de nouveaux systèmes, ce qui cause l’incompréhension lorsque cet automatisme dysfonctionne.
Pas sûr qu’un humain passerait les sélections avec ce genre de comportements…
Le métier de pilote
Enfin, pour revenir sur les exigences du métier de pilote, il faut aussi savoir que le doute raisonnable, la capacité à se remettre en cause et à considérer que l’erreur fait partie du mode de fonctionnement des humains sont des éléments décisifs dans la sécurité des vols. L’exemple de l’incident grave de l’A380 d’Air France qui a perdu la moitié d’un moteur en vol est particulièrement intéressant pour l’illustrer. Voici un avion qui a connu une panne qui ne doit pas arriver, et pour laquelle le constructeur n’avait donc rien défini. Les performances n’étaient plus respectées, l’équipage a eu des informations contradictoires, et leurs doutes sur l’étendue réelle des dégâts les a poussés à choisir une solution qui n’était pas celle qui aurait logiquement découlé de la simple analyse des alarmes. L’histoire de l’aviation est ponctuée d’autres exemples de ce type tels l’accident de l’A380 Quantas, celui de l’A310 DHL cible d’un missile ou du DC-10 de Sioux City, ainsi que plein d’autres moins connus où les pilotes ont sauvé des vies en inventant une solution inédite. Certes, ces évènements où les pilotes ont pu limiter les pertes en vies humaines ne sont pas statistiquement majoritaires. Mais les systèmes n’ont pas encore démontré leur supériorité puisqu’il y a toujours des hommes pour les surveiller…
Demander les mêmes compétences à l’intelligence artificielle que celles recherchées chez les candidats pilote, cela reviendrait à exiger qu’elle soit capable de douter de la pertinence de sa conception, de détecter ses propres failles et d’écrire ou modifier du code dynamiquement pour corriger ses propres bugs ou étendre ses capacités. Même s’il est évident que ce sera possible un jour, je doute que la technologie le permette aujourd’hui ou dans quelques années ! En attendant, c’est toujours le pilote qui doit, à tout moment, être capable de surpasser manuellement la machine lorsqu’elle réagit mal (ce qui arrive plus souvent qu’on ne l’imagine…) Mais ce n’est possible que si la machine dialogue avec lui ! Sur ce point, les avions dits de « 2nd génération » (A320 et suivants) ne sont pas au niveau des attentes et il faut espérer qu’une 3em génération d’avions verra le jour, qui intègre mieux les pilotes.
A long terme, on nous prédit des systèmes dont la conception se rapprocherait d’un réseau neuronal avec les mêmes capacités d’apprentissage et d’adaptation que les humains. Mais se pose alors la question des données qui seront échangées entre ces différents systèmes. Si nul ne doute qu’une machine qui récupèrerait « l’expérience » de milliers d’autres machines similaires « apprendrait » bien plus vite qu’un homme, il faudra se poser la question du partage et de la sécurité de ces informations. Ces données pourraient être détournées, corrompues ou piratées, avec les mêmes conséquences qu’un bon lavage de cerveau chez un homme qui n’aurait aucun esprit critique !
C’est pourquoi on peut raisonnablement penser que bien avant que les « nouveaux maréchaux-ferrants » ne disparaissent, le permis de conduire aura lui aussi disparu depuis longtemps au profit de véhicules autonomes.
Et l’on sait tous les problèmes soulevés par cette « petite » (r)évolution…
Auteur : Christophe C