Emergence d’un nouveau métier

Par Jean-François Geneste

Abonnez-vous au canal Telegram Strategika pour ne rien rater de notre actualité

Pour nous soutenir commandez les livres Strategika : “Globalisme et dépopulation” , « La guerre des USA contre l’Europe » et « Société ouverte contre Eu

Durant la Deuxième Guerre mondiale, on constata, côté américain, que des matériels envoyés neufs sur
le champ de bataille arrivaient en panne. Les ingénieurs de l’époque se posèrent un certain nombre de
questions et c’est ainsi que naquit une nouvelle discipline appelée « fiabilité ». Mathématiquement
parlant, la fiabilité d’un matériel est sa probabilité de bon fonctionnement relativement au temps.
Contrairement à ce que pourrait penser le quidam, il ne s’agit pas d’usure, mais bien de pannes dites
« aléatoires ». Une bonne image consiste à considérer les pneus d’une voiture. On ne s’intéresse pas à
l’usure, mais aux clous qui sont sur la route et pourraient causer une crevaison.
Cette discipline a fait florès et il n’y a aucun domaine industriel qui n’échappe à sa spécification. Ainsi,
et, par exemple, une fiabilité est imposée à votre téléphone mobile, votre ordinateur ou encore votre
voiture, réfrigérateur, lave-linge, lave-vaisselle ou autre élément de votre vie courante. Et selon ce qui
sera exigé, les contraintes de conception, d’architecture, de choix de matériels, etc., feront que votre
produit aura telles ou telles caractéristiques qui se traduiront pour vous par deux points essentiels : le
coût et votre temps de possession jusqu’au changement de produit.
Profitons de l’occasion trop belle pour dénoncer le discours écologiste qui parle d’obsolescence
programmée. La fiabilité en tient compte dans le sens où, avec le temps, il arrivera fatalement une panne.
Typiquement, le dispositif de freinage dans votre voiture finira par avoir des problèmes qui peuvent être
de diverses origines (circuit hydraulique bouché, ou fuite de ce même circuit, cassure en fatigue d’une
pièce mécanique, disque voilé, etc.) et cela engage votre sécurité. Tout cela est donc calculé et vérifié
régulièrement imposant des maintenances préventives absolument nécessaires, car tout élément a une
obsolescence programmée et d’elles vont dépendre votre sécurité, et vos coûts de possession.
Prenons le cas des lanceurs de type Ariane. La charge utile a une masse de l’ordre de 2 % du total. Le
vol dure environ vingt minutes. Si vous vouliez un engin indéfiniment réutilisable, cela vous coûterait
bien plus de 2 % de la masse et vous ne pourriez ainsi accomplir aucune mission. Ces calculs sont donc
nécessaires. Remarquez aussi que si nous roulions toujours en Traction de Citroën, nos voitures ne
dépasseraient pas les 150 km/h et consommeraient entre 15 et 20 litres aux 100 km. L’obsolescence
programmée a donc du bon et se trouve dans tous les bons manuels d’ingénierie.
Revenons un instant sur la fiabilité. Dès lors que vous êtes capable d’évaluer une probabilité de bon
fonctionnement relativement au temps écoulé, vous pouvez déterminer la probabilité d’événements
indésirables et engageant la sécurité. Il y a alors bien des manières d’améliorer celle-là et c’est un bien
quand on regarde, par exemple, le nombre de morts sur les routes qui a, fort heureusement, diminué de
manière drastique.
Certaines pannes sur des parcs importants, comme l’automobile, finissent par se produire, chacun en a
fait l’expérience. Il faut alors réparer. Mais cela peut coûter très cher, comme ce fut le cas sur la Modus
de Renault, où le changement d’une ampoule de phare nécessitait une main-d’œuvre importante. La
fiabilité s’est alors étendue à la maintenabilité qui prend en compte les temps de réparation avec un
traitement en général via des chaînes de Markov à temps continu.
Et enfin, quand vous regardez la finale de la coupe du monde de football, vous ne souhaitez pas
d’interruption du service du tout pendant une heure et demie. Entre alors en compte la disponibilité des
matériels qui, là encore, est un sous-produit de la fiabilité et a une incidence importante sur l’architecture
des systèmes.
Ces métiers, qui ne sont pas nouveaux, ont été regroupés sous le terme de « sûreté de fonctionnement »
en français et « dependability » en anglais et ont toujours cours avec des méthodes qui n’ont guère
changé.

Mais notre sujet est l’émergence d’un nouveau métier, car le contexte industriel a quelque peu changé.
L’intelligence artificielle (IA) est en train d’envahir tous les domaines. Avant de continuer sur la lancée
de ce texte, je vous partage très rapidement mon expérience. Je me sers essentiellement de Copilot,
Gemini et Grok, en mathématique, physique et pour la vie courante. Dans le premier domaine, je n’ai
presque que des louanges à tresser, essentiellement à Gemini : pas d’erreurs, connaissance profonde des
sujets, très bonnes synthèses, explications claires, etc. Pour ce qui est de la physique, je suis nettement
moins satisfait : il apparaît des sortes de barrières « psychologiques » qui essaient de garder une
cohérence globale à une discipline qui n’est cohérente que localement et encore parfois, est-ce pis quand
on s’intéresse, par exemple, au noyau de l’atome. Pour ce qui est de la vie courante, c’est carrément
catastrophique pour les trois IA : erreurs, confusions, voire mensonges !
Or, le champ géré par l’IA est général. Récemment, après les « brillants » exploits de MM. Trump et
Netanyahou en Iran qui ont consisté à commettre des assassinats ciblés sur les dignitaires de ce pays,
Kim Jong Un, leader de Corée du Nord, a fait passer une loi de déclenchement automatique du feu
nucléaire si une telle mésaventure devait lui arriver. Au-delà du fait que cette réaction soit légitime, on
ne peut ignorer que très sûrement, dès maintenant ou à terme, cela sera géré par une IA. Quid si elle fait
une erreur ou ment ?
De la même façon concernant le conflit entre Russie et Ukraine, si l’OTAN place des missiles à trois
minutes de Moscou qui pourraient justifier une réplique nucléaire stratégique, ce temps n’est pas
compatible d’une décision humaine réfléchie et prenant en compte une multitude de paramètres. C’est
donc, là encore, une IA qui est ou sera à l’œuvre. Et sa fiabilité est en question.
Or, qui, actuellement, est compétent en ce domaine et peut dire si, face à une situation donnée,
inattendue, la réponse sera fiable, voire, même, sûre ?
Rappelons que l’IA donne une réponse statistique à un stimulus et qu’en conséquence, nous ne pouvons
avoir de fiabilité de la réponse à 100 %. Par ailleurs, dans sa façon d’apprendre un concept1
, la
représentation interne à la machine est inintelligible pour l’homme. Donc, pour « dépouiller » un
résultat, il est extrêmement compliqué de savoir pourquoi il y a eu erreur et comment remédier au
problème.
Enfin, et c’est peut-être le plus grave, pour une IA donnée, il existe des zones de sensibilité extrême où
un changement mineur va appeler une réponse radicalement différente. Chacun comprendra donc qu’il
vaudrait mieux éviter cela, mais est-ce seulement possible ?
Un nouveau métier, majeur pour la société, va donc naître, celui de ceux qui seront en charge de la
fiabilité des IA, notamment celles qui gèrent ou géreront certaines fonctions essentielles de la société.
Ces personnes, non seulement devront avoir un large spectre de connaissances scientifiques, mais elles
devront aussi connaître tous les recoins et méthodes de l’IA. En particulier, cela disqualifiera, pour la
sécurité, toute IA propriétaire. Seule « l’open source » pourra offrir une potentielle garantie si les
préposés à la fiabilité de l’IA sont suffisamment compétents. Et que dire s’ils l’utilisent pour la
fiabiliser ? Voici une question technique et philosophique fondamentale. Une exigence du public devrait
l’interdire, mais l’écoutera-t-on ?
Cependant le problème, hélas, ne s’arrête pas là. Jusqu’à présent, pour protéger un système d’une action
malveillante, il suffisait de s’assurer que l’intrus ne pouvait pas le pénétrer. Là, la question est d’une
nature totalement différente. Encore une fois, du fait même de la sensibilité d’une IA à certaines
situations, la leurrer peut se révéler facile et, le cas échéant, bon marché. Mais pour une IA qui se
construit en permanence en se nourrissant des données quotidiennes, il suffit de lui fournir, le cas échéant
1 Rappelons ce en quoi consiste l’apprentissage pour une machine. Supposons que nous voulions lui apprendre un
concept. On se pose alors la question suivante. Pendant une phase dite de supervision, on va lui présenter des
exemples positifs et négatifs et on lui donnera, selon le cas, un signal 1 ou 0. La question que l’on se pose est de

savoir s’il existe un algorithme que peut dérouler la machine qui va élaborer un concept qui lui est interne, c’est-
à-dire un autre algorithme qui reconnaîtra le concept avec la même fiabilité que le superviseur une fois que la

machine sera autonome. La réponse mathématique à cette question est oui, à condition que la dimension de Vapnik-
Chervonenkis du concept à apprendre soit finie, et nous n’en dirons pas davantage ici.

au niveau mondial, de faux signaux qui soient suffisamment « puissants » pour ne pas être considérés
comme des valeurs aberrantes (outliers en anglais). Dès lors, ces informations seront prises en compte
et pourront être utilisées dans les réponses qui se comporteront selon le schéma décidé par ceux qui ont
des visées malveillantes.
La question n’est pas près d’être réglée. Il faudra donc former du personnel à un tout nouveau métier et
qui aura à s’occuper d’un système extrêmement complexe dont l’acteur essentiel, in fine et au moins
pour l’instant, reste l’homme, avec tous ses travers. Cependant, même si une telle fonction d’ingénierie
et sociale paraît nécessaire et évidente à mettre en place, nous ne voyons rien en la matière actuellement,
sinon, comme c’est la dérive depuis maintenant assez longtemps, les censeurs qui prolifèrent, et tuent à
l’avance une approche éthiquement saine du sujet.
Il est urgent de se saisir de cette question et commencer à recruter, au moins dans certains secteurs
d’activité, des personnes qui vont devoir construire une manière de faire dans un champ aujourd’hui
largement inexploré. Il est urgent d’arrêter les dérives qui consistent à limiter certaines capacités tout en
laissant la porte ouverte à des abus notoires de contrôle des populations. Il est urgent d’ouvrir les règles
qui se cachent pour manipuler les opinions dans le sens des gouvernants. Si tout cela n’est pas fait, avec
des ingénieurs en fiabilité pour les IA qui soient honnêtes et objectifs, alors nous vivrons dans le pire
des mondes et nous sommes bien partis pour cela.