Les robots tueurs qui alimentent les cauchemars de la science-fiction depuis des décennies pourraient prochainement devenir une réalité. L’université sud-coréenne KAIST s’est associée avec le fabricant d’armes Hanwha Systems afin de développer des armes autonomes. Des experts en IA en provenance de plus de 50 pays appellent au boycott de ce projet.
L’intelligence artificielle est une technologie formidable, offrant à l’humanité de nombreuses possibilités. Elle peut notamment permettre de sauver des vies ou d’améliorer notre quotidien. En revanche, utiliser l’IA pour créer des robots tueurs semblent être une très mauvaise idée.
C’est à quelques mots près le point de vue défendu par Toby Walsh, professeur à l’Université de New South Wales. Cet homme est aussi l’organisateur d’un boycott massif contre le projet de l’université sud-coréenne Korea Advanced Institute of Science and Technology (KAIST) et de son partenaire, le fabricant d’armes Hanwha Systems.
Robots tueurs : le projet terrifiant du KAIST et de Hanwha Systems
Ensemble, les deux entités envisagent de développer des « armes autonomes ». Un centre de recherche « pour la convergence entre la défense nationale et l’intelligence artificielle » a été ouvert le 20 février 2018.
Selon une annonce officielle, le centre développera principalement des systèmes de commandes et de décisions basés sur l’IA, des algorithmes de navigation pour des véhicules sous-marins autonomes, des systèmes d’entraînement basés sur l’IA pour les véhicules aériens, et une technologie de reconnaissance et de tracking d’objet. L’annonce a été supprimée quelques jours après sa publication.
Hanwha Systems : un fabricant d’armes peu scrupuleux
L’appel au boycott n’est pas uniquement stimulé par la peur de voir les armes autonomes mener le monde vers un futur digne de la saga Terminator. Pour reprendre les termes employés par Walsh, il s’agit d’un partenariat « entre une université très respectée et un partenaire très douteux sur le plan éthique qui viole continuellement les lois internationales ».
Hanwha, qui compte parmi les principaux fabricants d’armes de Corée du Sud, fabrique notamment des munitions en grappe. Or, ce type de munitions a été banni par un traité international signé par 120 pays. La Corée du Sud ne fait pas partie des signataires, au même titre que la Russie et les Etats-Unis.
Robots tueurs : un meeting des Nations Unies sur les armes autonomes va se tenir à Genève
Au total, la lettre d’appel au boycott a été signée par plus de 50 experts académiques en provenance de 30 pays différents. Ce boycott survient à quelques jours du meeting des Nations-Unis de Genève sur le sujet des armes autonomes.
Plus de 20 pays ont déjà appelé à l’interdiction mondiale des robots tueurs. De nombreux spécialistes craignent que ces robots deviennent incontrôlables, ou tout simplement incapables de distinguer leurs ennemis de leurs alliés. Pour rappel, Stephen Hawking craignait que l’IA éradique l’humanité.
Dans le cas particulier de la Corée du Sud, les experts redoutent également que la Corée du Nord s’empare des armes autonomes. Cet Etat n’ayant que faire des lois internationales, les robots tueurs seraient alors totalement hors de contrôle.
Le président du KAIST attristé par l’appel au boycott
De son côté, le président du KAIST, Sung-Chul Shin, se dit « attristé » par cet appel au boycott. Le responsable affirme que son institut n’a pas l’intention de développer des armes autonomes léthales et des robots tueurs.
Selon ses dires, le KAIST est une institution académique qui accorde beaucoup d’importance aux droits de l’Homme et aux standards d’éthique. D’après lui, il est hors de question que le KAIST mène des recherches pour créer des armes capables de tuer sans contrôle humain.
Plusieurs armes autonomes sont déjà en circulation
Il est toutefois difficile de savoir quel crédit accorder à ces promesses. Rappelons que le fabricant d’armes sud-coréen Dodaam Systems fabrique déjà une tourelle stationnaire autonome capable de détecter des cibles dans un rayon de 3 kilomètres. Cette arme robotique est utilisée par le Quatar et les Emirats Arabes Unis.
Elle a aussi été testée sur la frontière entre la Corée du Sud et la Corée du Nord. De même, le drone militaire Taranis fabriqué par la firme britannique BAE System est capable d’opérer de façon totalement autonome.
- Partager l'article :
