Le champ de bataille silencieux : Comment les armes autonomes réinventent la guerre avant même un accord sur les règles

Le changement est déjà en cours. En 2021, un rapport des Nations Unies sur le conflit en Libye a suggéré qu'un drone Kargu-2 de fabrication turque, un type de munition rôdeuse, aurait traqué et « engagé » des soldats en retraite de manière totalement autonome. Bien que les détails restent contestés, l'incident a marqué un tournant potentiel. C'est peut-être la première fois qu'il est documenté qu'une machine a tué un humain en se basant sur sa propre intelligence artificielle. Les grandes puissances militaires, dont les États-Unis, la Chine et la Russie, investissent des milliards dans la guerre basée sur l'IA. Elles sont convaincues que la vitesse des systèmes autonomes leur donnera un avantage insurmontable. Une IA peut analyser les données de capteurs, identifier une menace et lancer une contre-attaque en quelques millisecondes. C'est un cycle de décision qu'un opérateur humain ne peut tout simplement pas égaler.

La course à l'autonomie est motivée par une puissante logique de nécessité militaire. À l'ère des missiles hypersoniques et de la guerre électronique complexe, les nations craignent d'être vulnérables si leurs systèmes de défense dépendent des lents réflexes humains. L'argument est souvent présenté sous l'angle de la sécurité. On suggère que les systèmes autonomes peuvent être plus précis que les soldats humains, qui souffrent de la fatigue, de la peur et d'erreurs de jugement. En retirant les humains du combat direct, leurs partisans affirment que nous pouvons réduire les pertes dans nos propres rangs. Ce raisonnement crée une dynamique puissante, et peut-être irréversible. Cela crée un dilemme de sécurité classique : même si un pays hésite à développer ces armes, il doit le faire de peur que ses adversaires n'obtiennent un avantage décisif.

Cependant, cette course technologique à l'armement comporte des risques profonds qui vont bien au-delà du champ de bataille immédiat. Le plus grand danger est le risque d'une escalade catastrophique et involontaire. Des simulations de guerre menées par des groupes de réflexion comme la RAND Corporation ont montré à plusieurs reprises que lorsque des systèmes autonomes s'affrontent, les conflits peuvent dégénérer hors de contrôle à la vitesse de la machine. Une escarmouche frontalière mineure pourrait être mal interprétée par des algorithmes concurrents. Cela pourrait déclencher une réaction en chaîne de réponses automatisées, qui ferait éclater une guerre totale avant même que les diplomates puissent décrocher leur téléphone. Dans cet environnement hyper-rapide, l'espace pour la délibération humaine, la désescalade et la diplomatie disparaît.

De plus, l'autonomie létale crée un vide juridique et éthique. Tout le cadre du droit international humanitaire, qui régit la conduite de la guerre, repose sur le principe de la responsabilité humaine. Des principes comme la distinction (différencier un soldat d'un civil) et la proportionnalité (s'assurer qu'une attaque n'est pas excessive par rapport à l'objectif militaire) exigent un jugement moral complexe et sensible au contexte. On ne sait pas si une IA pourra un jour vraiment reproduire cela. Si une arme autonome commet une erreur et frappe une école ou un hôpital, qui est responsable ? Est-ce le programmeur qui a écrit le code, le commandant qui a déployé le système, ou le fabricant qui l'a construit ? Ce « vide de responsabilité » menace de transformer les crimes de guerre en simples bugs logiciels, sans que personne ne soit vraiment tenu pour responsable de la perte de vies innocentes.

Le défi est aggravé par la menace de la prolifération. Alors que les systèmes les plus sophistiqués sont actuellement développés par les superpuissances, la technologie sous-jacente devient moins chère et plus accessible. La perspective terrifiante est la propagation d'essaims de drones autonomes à des acteurs non étatiques ou à des groupes terroristes. Dans un avenir proche, une petite organisation pourrait acquérir la capacité de lancer une attaque avec des milliers de petits drones coordonnés qui pourraient submerger les défenses d'une ville. Cela abaisse considérablement le seuil pour mener des attaques de masse, créant une menace de sécurité mondiale omniprésente et persistante.

Depuis des années, les diplomates débattent de cette question aux Nations Unies à Genève, mais les progrès sont terriblement lents. Une coalition mondiale d'organisations non gouvernementales, sous la bannière de la « Campagne pour interdire les robots tueurs », milite pour une interdiction préventive, semblable aux traités qui proscrivent les armes chimiques et biologiques. Ils soutiennent qu'un contrôle humain significatif doit être maintenu sur les décisions de vie ou de mort. De l'autre côté, les grandes puissances militaires ont résisté à un traité contraignant, préférant des codes de conduite vagues qui ne limiteraient pas le développement de ces systèmes. Le résultat est une impasse dangereuse, où la technologie progresse bien plus vite que la diplomatie.

Le développement des armes autonomes représente un des changements les plus fondamentaux de l'histoire des conflits, comparable à l'invention de la poudre à canon ou de la bombe atomique. Ce n'est pas seulement une nouvelle arme, mais un nouveau type d'acteur sur le champ de bataille, un acteur qui ne ressent rien, n'a pas peur et ne remet pas en question ses ordres. Le débat n'est plus de savoir si nous pouvons déléguer la force létale aux machines, mais si nous devons le faire. La fenêtre d'opportunité pour établir des règles internationales claires, fixer des limites fermes et garantir que l'humanité garde le contrôle ultime sur l'acte de guerre est en train de se refermer. Si nous n'agissons pas, nous risquons de créer un avenir où les conflits se dérouleront à un rythme et à une échelle qui dépassent l'entendement et le contrôle humains, avec des conséquences que nous ne pourrons peut-être pas inverser.