Les experts ont déjà exprimé leurs craintes de voir une intelligence artificielle malveillante de type Terminator développer suffisamment d’intelligence pour représenter un risque pour les humains dans le futur, mais les dangers très réels de la guerre robotique deviennent déjà un problème.
Malgré tous les efforts déployés par une vaste coalition de scientifiques et de leaders technologiques demandant l’interdiction du développement de systèmes d’armes autonomes, l’incapacité des Nations unies à réglementer efficacement l’industrie des “robots tueurs” permet déjà aux fabricants de technologies dangereuses, selon un rapport du Guardian.
“Il y a en effet un danger maintenant que [le processus] soit bloqué”, a déclaré Christof Heyns, le rapporteur spécial des Nations unies sur les exécutions extrajudiciaires, sommaires ou arbitraires, comme le rapporte Harriet Grant. “Beaucoup d’argent est investi dans le développement et les gens voudront un retour sur leur investissement. S’il n’y a pas d’interdiction préventive des armes autonomes de haut niveau, une fois que le génie sera sorti de la bouteille, il sera extrêmement difficile de le faire revenir.”
Ces préoccupations sont exprimées alors que les Nations unies tardent à mettre en œuvre une interdiction préventive des armes autonomes, ce qui permet à certains pays et fabricants d’armes de développer des armes pendant l’accalmie.
Dans le même temps, des nations puissantes comme les États-Unis et le Royaume-Uni seraient en train d’édulcorer la proposition d’interdiction en demandant des amendements destinés à permettre à leurs armes autonomes existantes de rester en jeu – ce qui signifie que l’accord final ne ferait qu’interdire effectivement le développement de futures armes robotiques par d’autres pays moins avancés.
“Le Royaume-Uni et les États-Unis insistent tous deux pour que la formulation de tout mandat relatif aux armes autonomes ne porte que sur les technologies émergentes”, a déclaré Noel Sharkey, professeur d’IA et de robotique à l’université de Sheffield (Royaume-Uni) et cofondateur du Comité international pour le contrôle des armes robotiques.
“En apparence, c’est parce que l’on craint que… nous voulions interdire certaines de leurs armes défensives actuelles, comme le Phalanx ou le Dôme de fer. Cependant, si les discussions se poursuivent pendant plusieurs années comme elles semblent le faire, beaucoup des armes qui nous préoccupent auront déjà été développées et potentiellement utilisées.”
Pendant ce délai, les nations s’affairent à tester leurs propres systèmes d’armes autonomes, et les États-Unis et le Royaume-Uni ne sont pas les seuls à le faire. La Corée du Sud et Israël ont déjà déployé des armes semi-autonomes le long de leurs frontières – respectivement, un robot sentinelle et des mitrailleuses semi-autonomes. Si l’idée de ces choses vous semble terrifiante, rassurez-vous – vous n’êtes pas le seul à le penser.
“Nous ne devrions pas déléguer la décision de tuer à une machine tout court”, a déclaré Sharkey au Guardian. “Après avoir rencontré l’ONU, la Croix-Rouge, des roboticiens et de nombreux groupes de la société civile, nous sommes tous d’accord pour dire que ces armes ne pourraient pas respecter les lois de la guerre.”