ANALYSES

Armes autonomes : la difficile lecture du cas français

Tribune
15 novembre 2019
Par Martin Antonini, étudiant à IRIS Sup', sous la direction de Charles Thibout, chercheur associé à l'IRIS


« La France refuse de confier la décision de vie ou de mort à une machine qui agirait de façon pleinement autonome et échapperait à tout contrôle humain. De tels systèmes sont fondamentalement contraires à tous nos principes. Ils n’ont aucun intérêt opérationnel pour un État dont les armées respectent le droit international, et nous n’en déploierons pas ».[1] Voilà ce que déclarait Florence Parly au mois d’avril dernier à Saclay lors de son discours consacré au rôle de l’intelligence artificielle (IA) dans le secteur de la défense. Dans son discours, la ministre des Armées confirma les déclarations du chef de l’État sur la nécessité pour la France d’investir massivement dans l’intelligence artificielle, avec l’ambition de devenir l’un des pays leaders de cette technologie qui est amenée à bouleverser tous les pans de nos sociétés. Cependant, comme elle le rappelait alors, l’utilisation de l’IA devrait s’effectuer dans le respect du droit international et sans franchir certaines lignes rouges comme le développement de SALA (système d’arme létal autonome).

Pourtant, si de nombreuses déclarations, côté français, se rejoignent pour confirmer l’opposition de la France au développement et à l’utilisation d’armes autonomes[2], les doutes persistent. Beaucoup d’ONG membres de la campagne « Stop Killer Robots » émettent des doutes quant à la sincérité de la position française.[3] Doutes qui semblent justifiés.

En effet, depuis 2013, la question des armes autonomes est débattue au sein des institutions internationales, notamment dans le cadre de la CCAC (Convention sur Certaines Armes Classiques), où la France a d’abord affiché son opposition au développement de telles armes. Les représentants français se sont même montrés favorables à l’instauration de mesures contraignantes pour interdire le déploiement des SALA. Toutefois, le pays s’est peu à peu éloigné de cette position initiale pour, finalement, s’opposer à toute mesure contraignante qui pourrait limiter le développement de systèmes armés autonomes. La France s’aligne ainsi sur la position de l’ensemble des grandes puissances militaires (Chine, États-Unis, Russie ou encore Royaume-Uni).

Ce changement d’attitude sur la scène internationale s’accompagne de la mise en œuvre de nombreux programmes militaires impliquant à la fois robotique et IA, permettant de développer des systèmes armés, à vocation défensive ou offensive, avec des niveaux d’autonomie de plus en plus élevés.[4] Ces projets portés par le ministère des Armées à travers des institutions comme la Direction Générale de l’Armement (DGA) et l’Agence de l’Innovation de Défense (AID) s’appuient sur plusieurs fleurons de l’industrie de défense française ainsi que sur tout un écosystème de PME et start-ups spécialisées dans divers domaines liés à l’intelligence artificielle (traitement et reconnaissance d’images, solutions logicielles pour le calcul de haute performance, robotique, machine learning, collecte et partage de données, etc.). Si ces projets n’impliquent pas un niveau d’autonomie « total » et que l’homme reste pour l’instant dans la boucle de décision, c’est-à-dire qu’il est le seul capable de prendre une décision, la machine ayant pour unique rôle d’exécuter les tâches qui lui sont confiées, de nombreuses voix issues de la société civile s’élèvent pour dénoncer ce qu’elles perçoivent comme la première étape vers une autonomie complète. Par ailleurs, certains observateurs font remarquer qu’il est déjà très compliqué avec les systèmes « semi-autonomes » développés actuellement d’affirmer avec certitude que l’homme reste bien responsable de toutes les décisions et ne soit pas simple observateur des décisions de la machine.[5]

En outre, l’intérêt porté par les autorités françaises à l’intelligence artificielle militaire semble principalement guidé par des motivations d’ordre économique et stratégique. Économique d’abord, car l’IA et la robotique appliquées au secteur de la défense représentent un marché évalué aujourd’hui à 3,2 milliards d’euros et devrait atteindre les 10,4 milliards d’euros d’ici quatre ans.[6] De plus, en France, les entreprises qui composent la base industrielle et technologique de défense (BITD) représentent 20 % des exportations du pays, et la défense est un des secteurs économiques dont la France est un acteur majeur.[7] Cet enjeu économique touche également le secteur civil, car les technologies développées dans le domaine de l’intelligence artificielle et de la robotique sont le plus souvent duales. Ainsi, les avancées dans le secteur militaire peuvent potentiellement bénéficier à l’ensemble de la société civile, et ce d’autant plus que les innovations d’origine militaire sont en moyenne plus souvent des innovations de rupture et ont une durée d’utilisation plus longue (une dizaine d’années) que les innovations dans le civil. À noter cependant que dans le cas de l’intelligence artificielle, un certain nombre d’innovations sont issues du secteur privé civil et sont ensuite récupérées par le secteur militaire. D’où la volonté du gouvernement français de multiplier les synergies entre secteurs civil et militaire.

Par ailleurs, l’enjeu stratégique est immense, car ces nouvelles armes impliquant autonomie et robotique sont amenées à transformer durablement la façon de faire la guerre. D’aucuns affirment aussi que l’utilisation des SALA aurait une portée stratégique équivalente à la doctrine de dissuasion nucléaire.[8] La France en tant que puissance militaire souhaite à tout prix maintenir son autonomie stratégique et la supériorité opérationnelle de ses armées. Face à ces nouvelles formes d’armements, le pays se doit d’investir massivement dans ces technologies afin de s’adapter aux mutations de la guerre. Comme l’expliquait Florence Parly dans son discours d’avril en déclarant que « les principales puissances militaires affûtent déjà leurs algorithmes », et que la France ne peut pas manquer ce virage technologique sous peine d’être durablement distancée. En outre cette volonté de la France de vouloir conserver sa souveraineté et sa supériorité opérationnelle peut sembler justifiée quand le Secrétariat général de la défense et de la sécurité nationale (SGDSN) considère que : « Les robots et systèmes autonomes seront bien au cœur de la transformation des armées et de la conduite des opérations dans les décennies à venir » et que « tout retard capacitaire en systèmes autonomes, civils et militaires, induira potentiellement un déclassement opérationnel, puis industriel et enfin politique ».[9]

Cette déclaration du SGDSN, qui n’est pas une institution anodine — celle-ci relève directement du Premier ministre — apparaît cependant à rebours des discours de la ministre des Armées et du président de la République. Cet organisme officiel dont le cœur de mission est de garantir l’adaptation, la cohérence et la continuité de l’action de l’État dans le domaine de la défense et de la sécurité, formule une recommandation à peine voilée en faveur du développement des SALA. Ce document officiel prouve l’existence d’une double parole au sein des plus hautes institutions de l’État, entre un discours officiel promettant de ne jamais laisser émerger de systèmes autonomes, et une autre voix, plus discrète, clamant au contraire la nécessité de développer de tels systèmes autonomes afin de garantir l’autonomie stratégique du pays sur le long terme.

Ainsi, la France est bel et bien engagée dans cette course à l’IA et à l’armement intelligent, au même titre que les autres principales puissances militaires de la planète, même si tous les pays ne semblent pas donner autant d’importance aux enjeux éthiques et juridiques que soulèvent ces armes autonomes. Pour autant, les déclarations du gouvernement français sur sa volonté de ne pas développer ce type d’arme pourraient ne pas peser bien lourd dans les années à venir si les progrès technologiques en IA et en robotique permettaient le développement de SALA et si ces derniers venaient à être déployés par d’autres puissances.

Alors que les progrès techniques et les développements militaires impliquant des niveaux d’autonomie de plus en plus élevés sont chaque année plus importants, les discussions internationales sur le sujet des SALA semblent être au point mort. Parmi les vingt-neuf pays aujourd’hui favorables à une interdiction préventive de ces systèmes, les puissances militaires sont absentes. Plusieurs pays comme la Chine, la Russie, ou les États-Unis considèrent que l’utilisation de telles armes pourrait être intéressante et ces pays ne cachent pas leurs ambitions en la matière. Si la nécessité d’établir un contrôle légal sur le développement de telles armes semble nécessaire, la France conserve à ce jour une position très ambiguë sur le sujet, qui ne sera sans doute pas tenable à long terme.

________________________

[1] Ministère des armées, « Discours de Florence Parly, ministre des Armées : Intelligence artificielle et Défense », avril 2019, disponible sur : https://www.defense.gouv.fr/salle-de-presse/discours/discours-de-florence-parly/discours-de-florence-parly-ministre-des-armees_intelligence-artificielle-et-defense

[2] Voir notamment l’interview du président Emmanuel Macron pour le magazine américain Wired : « Emmanuel Macron talks to WIRED about France’s AI strategy », Interview, avril 2018, disponible sur : https://www.wired.com/story/emmanuel-macron-talks-to-wired-about-frances-ai-strategy/ ;

La réponse du ministère des Armées après une question sur les armes autonomes à l’Assemblée nationale : Assemblée Nationale, « Question n°15 168 de M. Erwan Balanant – Position de la France sur les armes létales autonomes », mars 2019, disponible sur : http://questions.assemblee-nationale.fr/q15/15-15168QE.htm

[3] Campagne contre les robots tueurs, « Pourquoi la France doit s’opposer au développement des robots tueurs », rapport, novembre 2018, disponible sur : https://admin.hrw.org/sites/default/files/supporting_resources/112018arms_france_campaign_robots_report.pdf

[4] Parmi les programmes importants : nEUROn, SCAF, Scorpion ou encore FURIOUS.





[5] Maïwenn Bordron, France Culture « Armes létales autonomes : les doctrines des Etats », novembre 2018, disponible sur : https://www.franceculture.fr/geopolitique/armes-letales-autonomes-les-doctrines-des-etats

[6] Wintergreen Research, Étude de marché, 2014. Cité par Secrétariat général de la défense et de la sécurité nationale (SGDSN), « Chocs futurs. Étude prospective à l’horizon 2030 : impacts des transformations et ruptures technologiques sur notre environnement stratégique et de sécurité », 2018, p.185-198

[7] En 2018, la France était le 5ème plus gros exportateur d’armes et le 4ème pays producteur d’armes de la planète. Source: Stockholm International Peace Reseach Institute (SIPRI), “Military expenditure”, 2018, available on: https://www.sipri.org/research/armament-and-disarmament/arms-transfers-and-military-spending/military-expenditure

[8] Peter Singer, ‘War of the Machines: A Dramatic Growth in the Military Use of Robots Brings Evolution in Their Conception’, Scientific American, vol. 303, July 2010

[9] Secrétariat général de la défense et de la sécurité nationale (SGDSN), Chocs futurs. Étude prospective à l’horizon 2030 : impacts des transformations et ruptures technologiques sur notre environnement stratégique et de sécurité, 2018, p.185-198
Sur la même thématique
Peut-on vaincre le terrorisme ?