Une technologie de rupture qui renverse la table
L’intelligence artificielle est probablement l’un des tournants technologiques majeurs de ce siècle, dont on peut observer les conséquences directes sur le théâtre ukrainien en particulier, et dans le monde militaire de manière générale. En France, il convient d’analyser ces changements profonds pour mieux les anticiper : « l’intelligence artificielle se positionne comme un levier stratégique incontournable ; elle redéfinit profondément le paysage tactique et opérationnel des Armées », souligne Bertrand Rondepierre, directeur de l’Agence ministérielle pour l’intelligence artificielle de défense (AMIAD). « Sur les champs de bataille modernes, l’IA est déjà une réalité et couvre un spectre immense, de l’assistance algorithmique aux décisions stratégiques en état-major, jusqu’aux systèmes d’armes autonomes. »
« Forte de son héritage scientifique, technologique et militaire », la France dispose de toutes les capacités pour devenir une référence en matière d’IA de confiance militaire grâce à « une expertise métier et des données opérationnelles autonomes ; une ressource nationale de chercheurs et d’ingénieurs IA de niveau mondial, un tissu industriel foisonnant ; des acteurs de l’armement qui délivrent des capteurs et effecteurs d’une performance reconnue; une solide infrastructure de calcul, y compris dans des environnements classifiés », précise le directeur.
Les défis d’une avancée technologique
L’avancée de l’IA sur le champ de bataille permet de renforcer la cybersécurité des installations en multipliant les capacités de réponse en cas d’attaque, toutefois, « elle induit également de nouveaux risques notamment liés à une possible compromission lors de la phase d’entraînement. Le caractère probabiliste des réponses apportées par les modèles d’IA implique également une grande vigilance, et la mise en place des processus métier incluant des contrôles humains réguliers, ainsi qu’une évaluation des risques en cas d’incident », expliquent les responsables de la Division industrie et technologie de l’ANSSI.
Vincent Blot, doctorant en incertitude des modèles d’IA (Capgemini Invent, LISN, CNRS), considère que le meilleur équilibre serait de coupler l’outil d’intelligence artificielle avec une décision humaine, seule façon de créer une IA de confiance. « Dans un environnement aussi sensible que le domaine militaire, un contrôle aveugle laissé à une IA serait irresponsable. En combinant des méthodes avancées de quantification d’incertitude avec l’expertise humaine, il est possible de concevoir des systèmes hybrides fiables. L’objectif n’est pas de supprimer l’erreur, mais de la minimiser et de la rendre acceptable », témoigne-t-il.
Avancée technologique et le contrôle humain
L’enjeu du développement de l’intelligence artificielle ne repose pas uniquement sur son développement technologique mais aussi sur la façon d’encadrer une technologie de rupture, surtout quand il s’agit d’un usage militaire.
De nombreux biais interviennent lors de la création des technologies d’intelligence artificielle et il convient que ces biais aient le moins de conséquences possibles lors de l’utilisation de l’outil, surtout lorsque celui-ci a une portée militaire. Sans contrôle humain, difficile de vérifier que les technologies d’IA respectent les principes de proportionnalité et de distinction, selon Olivia Breysse experte indépendante et membre du Collège numérique France 2030. « Une partie de la solution consiste ainsi à créer un comité d’éthique dans chaque structure qui développe en interne des systèmes d’IA ou qui en achète à un fournisseur tiers », propose-t-elle.
Quelques pistes d’évolution pour une IA de confiance
Fonder une IA de confiance au service des Armées va nécessiter plusieurs améliorations, selon les auteurs du Livre blanc :
- une sensibilisation des talents notamment au travers de « la formation et de la sensibilisation »
- un investissement dans les infrastructures critiques
- la création d’un cadre légal équilibré, avec pour objectif de gagner en efficacité mais sans oublier l’importance de respecter une certaine éthique et un respecte des « valeurs fondamentales »
- la recherche d’un équilibre entre indépendance technologique et souveraineté : qui passera par « une coopération européenne renforcée »
L’IA est un enjeu de puissance dont la France doit se saisir. « En conciliant innovation technologique et principes éthiques, la France peut non seulement répondre aux défis actuels mais également poser les bases d’une IA militaire qui inspire confiance, tant au niveau national qu’international », partagent Karl Neuberger et Olivier Denti, animateurs du groupe de travail IA de confiance dans la Défense et auteurs du Livre blanc éponyme.
Conclusion
L’intelligence artificielle est probablement l’innovation récente la plus spectaculaire pour le grand public mais prend son essor aux côtés de nombreuses autres technologies qui émergent tels que les drones ou les technologies laser. Développer une IA éthique nécessitera donc de prendre en compte l’ensemble de cette grappe d’innovation tout en respectant un équilibre entre efficacité technologie et respect des règles éthiques. Tout reste à construire, au service d’une meilleure sécurité publique et de la défense nationale.
Simon DOUAGLIN
Source : https://www.pole-excellence-cyber.org/general/livre-blanc-ia-confiance-defense/
