Slaughterbots : la vidéo buzz et les armes automatisées
La vidéo Slaughterbots produit un buzz impressionnant sur les réseaux sociaux, et vous avez été nombreux à m’en parler.
Les réactions à ce petit film-fiction sont nombreuses et très variées. Il y a la lecture catastrophiste premier degré : « c’est bien la preuve que les drones sont très dangereux ». Il y a les pragmatiques : « c’est un fake, le trucage est grossier ». 
Il y a les paramilitaires (et les gamers) : « cool, headshot ! ». Il y a les conspirationnistes : « on le sait depuis longtemps, ces technologies existent, tout ça c’est pour mieux nous contrôler ». Il y a les défenseurs des drones de loisirs : « c’est une honte de présenter les drones de cette manière, on va encore nous casser les pieds ». Il y a les inquiets : « ça n’existe pas encore, mais ce n’est qu’une question de temps ». Il y a les sceptiques positivistes : « ce n’est qu’une théorie trop sombre de l’avenir, ça n’arrivera pas ». Et bien d’autres réactions encore…
Le site Ban Lethal Autonomous Weapons
Qui diffuse cette vidéo et dans quel but ? Il faut suivre le lien indiqué pour aboutir sur le site Ban Lethal Autonomous Weapons (« bannir les armes meurtrières automatisées »). C’est une initiative de plusieurs associations aux buts très divers, mais qui se sont regroupées pour s’engager dans une campagne en faveur d’un moratoire sur les robots tueurs (« Campaign to Stop Killer Robots ») présentée à Genève le 17 novembre 2017 (voir ici). Même si elles s’accordent sur le fait qu’il n’existe à ce jour aucune définition universelle des « armes automatisées », leur but est de convaincre les nations à s’interdire d’utiliser des armes capables de choisir automatiquement leurs cibles dans le but de tuer.
C’est un vœu pieux ?
Sans doute. La convention de 1997 dite d’Ottawa (voir ici) visant à interdire la production et l’usage de mines anti-personnel n’a pas éradiqué leur emploi dans les conflits. Mais le fait que 162 pays aient ratifié la convention a permis de nettoyer 30 pays dont le territoire était considéré comme largement miné (source : Encylopédie Canadienne). Voilà qui laisse tout de même de l’espoir. A noter que l’exemple des mines antipersonnel n’est pas comparable à celui des armes automatisées comme celles de la vidéo : les mines tuent sans discernement, ces armes sont conçues pour tuer avec un ciblage.
Technologie ?
Ce que présente la vidéo est-il d’ores et déjà possible ? Les briques de technologies existent toutes, le plus souvent dans des produits déjà commercialisés dans le grand public ! Les nano multirotors sont une réalité, tout comme les technologies de déplacement en extérieur et en intérieur. Les outils de reconnaissance des objets, notamment les formes et les visages, sont opérationnels. Des recherches sont menées par des universitaires pour parfaire la reconnaissance des visages, notamment lorsqu’ils sont dissimulés derrière des lunettes, une pilosité naturelle ou factice, des couvre-chefs (comme celles l’université de Cornwell en Grande-Bretagne, à lire ici). Je ne me prononce pas sur l’emport et l’usage de charges explosives telles que celle montrée dans la vidéo : je n’en sais rien.
Réseaux longue distance, IA et Big Data ?
Les outils de communication à longue distance sont également opérationnels pour le retour vidéo en temps réel. Les calculateurs à bord des multirotors sont, à l’instar des téléphones mobiles, devenus des monstres de calcul prêts, et les outils de communications data permettent de réaliser des calculs lourds sur des unités situées à distance. La combinaison de l’intelligence artificielle capable de prendre des décisions de manière autonome se mêle à la disponibilité de données en grand nombre du Big Data pour établir des schémas statistiques, le tout profitant aussi des bases de données d’informations personnelles qui comprennent désormais la géolocalisation. Le tout offre de quoi réaliser des algorithmes et les alimenter avec des données pour des scénarios proches de ceux évoqués dans la vidéo : attaques ciblées, vols en essaims.
Demain !
Pourtant si tous les blocs de technologies existent déjà, ils sont encore trop peu évolués pour être miniaturisés et enfermés dans des appareils de si petite taille. Mais les progrès sont très rapides, on peut imaginer qu’un scénario proche de celui de la vidéo sera possible demain. Quand ? Demain, c’est-à-dire dans 6 mois, 1 an, 2 ans, 10 ans, ce n’est qu’une question de temps. Souvenez-vous, il y a 5 ans, il y avait la Ladybird de Walkera (voir ici). La technologie a bien progressé depuis, comme en témoigne le Spark de DJI. Les chercheurs ajoutent que le prix de ces armes pourrait baisser très rapidement pour être accessible à… trop de monde et en grande quantité, à la différence des armes lourdes conventionnelles, pour un résultat plus « efficace » ! Il y a fort à parier que les outils de détection et de neutralisation soient en retard d’une génération…
Le combat à mener ?
Si l’avenir nous menace avec de telles armes, le combat de Ban Lethal Autonomous Weapons semble légitime, à encourager, même s’il semble utopiste. L’institut Future of Life a publié une lettre ouverte le 28 juillet 2015 pour prévenir des dangers des armes automatisées. Elle a été signée par un nombre impressionnant de scientifiques (dont plus de 3500 spécialistes des technologies de robotique et d’intelligence artificielle) et de particuliers (voir la liste ici). Parmi eux, on note des influenceurs comme Stephen Hawkins, Elon Musk et Steve Wozniak – pour ne citer que les plus connus. Cette lettre ouverte est consultable en ligne (voir ici), avec la possibilité de la signer.
Ca fonctionne, ces pétitions ?
Nous ne vivons pas dans un monde parfait et personne n’est dupe, les usages malveillants des technologies existeront toujours. Pourtant oui, l’avis de scientifiques reconnus est susceptible d’influencer les politiques militaires. Ce fut le cas, comme l’explique un article de l’anthropologue Jeanne Guillemin du MIT, avec les armes biologiques (voir ici). Notez que les armes automatisées avaient déjà été évoquées par un scientifique en 2007 : Noel Sharkey avait publié une tribune sur les guerres menées par des robots dans le Guardian (voir ici).
Ceux qui disent non
Il faudra compter sur l’adversité des états et des organisations voire des individus qui n’auront aucune envie ou aucun intérêt à adhérer à l’idée d’un moratoire sur les armes automatisées. Le Foreign Office anglais a fait savoir dès 2016 qu’il ne comptait pas adouber un moratoire sur les armes automatisées, arguant que les lois internationales existantes étaient suffisantes, par la voix du Dr William Boothby dans une interview accordée à Business Insider (voir ici). Il va plus loin, en ajoutant que les armes automatisées ne sont pas une mauvaise idée : avec elles, « il n’y a pas d’émotion, il n’y a pas de haine, il n’y a pas d’esprit de revanche, il n’y a pas de panique, il n’y a pas de perversité »…
La déclaration de Stuart Russell ?
C’est celle qui est diffusée à la fin de la vidéo du site AutonomousWeapons.org. « Ce petit film est plus qu’une simple supputation, il montre les résultats de l’intégration et de la miniaturisation de technologies dont nous disposons déjà. Je suis Stuart Russell, professeur en informatique à l’université de Berkeley. Je travaille dans l’intelligence artificielle depuis plus de 35 ans. Son potentiel bénéfique pour l’humanité est gigantesque, y compris pour la Défense. Permettre aux machines de choisir de tuer des humains sera dévastateur pour notre sécurité et notre liberté. Des milliers de collègues chercheurs s’accordent à penser que nous avons encore l’opportunité d’éviter un futur comme celui que vous venez de voir. Mais il sera bientôt trop tard pour réagir ».
Le mot de la fin
Regardez intégralement la vidéo publiée par le site AutonomousWeapons.org, prenez un peu de recul, et faites-vous votre propre idée.
En attendant, suite à cette vidéo, il va falloir expliquer calmement et par l’exemple que le Tiny Whoop trouvé sous le sapin de Noël ne sera pas une arme de destruction ciblée, pas même pour le faux vase Ming du salon…
Je viens de découvrir cette vidéo.
Merci pour le partage et le commentaire.
Perso, je fais partie de ceux qui ne se font aucune illusion : les technos étant bientôt prêtes à être intégrées dans des engins de ce type, des gens mal intentionnés en utiliseront, même parmi ceux qui signeront un quelconque pacte de non fabrication, sans même parler des intégristes de toutes causes.
Bien entendu, il existera des contre-mesures, mais comme toujours, l’arme sera prête avant le bouclier et elle évoluera en avance des évolutions du bouclier.
Pessimiste ? Non, juste réaliste !
J y crois pas une seconde.
Quand tu vois qu avec un tiny woop ultra leger t arrive a voler 4 minutes.
Avec le poid de la technologie embarqué et les explosif meme si ce n est que 3g.
Autonomie de 2 min 30 maxi avec une inertie ignoble.
Rien qui puisse etre assez rapide pour avoir un comportement identique à la video presenté.
Ce serait une tres bonne idee pour un bon film ça pui.
Mais impossible que ça fonctionne dans la realité.
Quand ils larguent les petits drone d un avion, c est trop marrant, parce qu une personne connaissant les deones sait tres bien qu il n y aura plus de batterie avant meme qu il soit assez proche du sol pour sniper quelqu un.
Puis pour la reconnaissance facial faut etre connecté en reseau pu avoir un processeur ultra puissant. Autant de technologie qui pese son poids.
Il y a beaucoup d autres manieres plus simple et moin couteuse pour faire un carnage dans une université.
Moi je suis 101 % sur que c’eSt pour bientôt l’electronique Des drones suit aussi la loi de Moore. Pas les batteries mais en 4 minutes on fait des tas de choses !
@ Aurelien :
La nature des conflits a clairement totalement changé depuis les 2 guerres mondiales. Il s’agit désormais souvent de guérillas urbaines, où les joyaux technologiques du genre chasseur à réaction dernier cri sont totalement inutiles.
Les préoccupation actuelles vont surtout vers la nécessité de frapper de manière chirurgicale, et d’éviter au maximum les pertes humaines dans son camp (non pas par pur humanisme, ne rêvez pas, mais tout simplement à cause de la pression de l’opinion publique).
Dans ce cadre, les drones sont la solution idéale. Les solutions technologiques en ce qui concerne les batteries sont à mon avis déjà opérationnelles dans le militaire, même si ça doit couter un bras.
@Aurelien
Il ne faut pas se limiter à ce qu’on connaît aujourd’hui 20 novembre 2017.
L’évolution des technos est extraordinairement rapide. Il n’y a pas besoin d’une autonomie de ouf pour faire beaucoup de mal si on peut lâcher un essaim pas très loin de la cible. Et il faut faire confiance aux militaires pour arriver à faire fabriquer très bientôt (à moins de 10 ans, je pense – et 10 ans, c’est demain) des trucs de ce genre.
On va y arriver, ce n’est qu’une question de temps. L’appel de la video me semble assez irresponsable, 1) car il propose une « non-solution » et 2) ne cherche qu’à entretenir une peur ambiante.
Les technologies impliquées sont beaucoup trop simples pour être bannies… Il n’y a qu’une technologie « manquante » qui ne soit pas déjà grand public: des batteries plus puissantes. En pratique il n’y aura pas moyen de bannir quoi que ce soit, sauf à placer la planète sous un régime totalitaire qui sera encore plus liberticide.
Il faudra vivre avec, comme avec les milliers d’armes portatives inventées au cours des millénaires, ou les armes des destruction massives inventées au cours des siècles plus récents (et que tout le monde semble avoir oublié en ce moment)
@ Eric : Il y a demande d’un moratoire des robots automatisés, comme il y a eu moratoire opérationnel sur les mines anti-personnel (après de longues années). C’est donc une vraie solution proposée. L’usage de la peur ne me semble pas gratuit, il a pour but de convaincre de réagir, à tort ou à raison.
Je précise que je ne donne pas de jugement de valeur, je suis très partagé sur le sujet.
Bonjour.
J’ai lu votre article par le biais du forum Air Defense ou il était posté aujourd’hui.
Si vous suivez l’actualité militaire en Irak et Syrie, vous entendu parlé de ces mini (pas micro) drones piégés et/ou porteur de grenades utilisé sur place par Daesh et les forces régulières locales. Rappelons que durant la guerre Iran Irak, les iraniens ont utilisé des avions modèles réduits télécommandés équipés de RPG-7 guidé à vu contre l’armée irakienne, c’était il y 30 ans…
Je ne pense pas que les armes »autonomes » soit demain plus dangereuse que celles téléguidés directement par des humains ou ayant une trajectoire préprogrammé GPS…
Il y a aura certainement des attaques criminelles et terroristes dans les grandes villes avec des drones vu leur succès dans les guérillas du proche orient. Même avec une autonomie limité, si vous êtes planqué dans un bureau à quelques centaines de mètres de votre cible, cela suffit largement à échappé l’immense majorité des mesures de sécurité.
Et que peut y faire ? Interdire la vente au commerce de ces »jouets » made in China fabriqué en masse qu’un bon bricoleur peut transformé en bombe volante dès aujourd’hui ? Cela serait dur à a faire accepté.
Film réaliste on pas on s’en fiche; c’est de la fiction et très probablement cela sera possible très bientôt. Il faut par contre répéter : un drone c’est militaire, un multicoptére/multi-rotor c’est pour rigoler. Toute la problématique « j’ai peur des drones » vient de là : un mot mal utilisé. Un peu comme le terme hacker, très mal utilisé au regard de sa véritable signification, bref. Je pense que ce film montre à quel point une techno peut être mal utilisée et que la parano, alimentée volontairement ou pas dans les médias, conduira des « dirigeants » à de telles conneries : faut bien rassurer les électeurs pour assurer les élections suivantes. La citation de Stuart Russell fait froid dans le dos …
Pour celles et ceux qui s’intéressent à l’usage militaire de ces technologies, je recommande le film de Gavin Hood « Eye in the Sky » qui allie les technologies opérationnelles à d’autres qui le seront probablement dans un avenir relativement proche. Le drone-avion piloté depuis une base terrestre c’est le présent, le nano-drone mimétique servant aux renseignements ou à d’autres missions c’est pour demain.
Boston Dynamics, de gros progrès…, et ça ira de plus en plus vite …
https://youtu.be/fRj34o4hN4I?t=24
« Runaway – L’évadé du futur » avec Tom Select en 1985 !!!
http://www.allocine.fr/film/fichefilm_gen_cfilm=75582.html
on y vient …
à partir du moment où quelqu’un à l’idée …
et quelqu’un a les moyen de la mettre en place …
Vous réagissez en armes conventionnelles.. Mais en bactériologique…. vous pouvez placer un virus où vous voulez… même avec un tyni woop … Non ?
@Fred le moratoire sur les mines a été ignoré par… les USA, la Chine, la Russie, entre autres (https://fr.wikipedia.org/wiki/Convention_sur_l%27interdiction_des_mines_antipersonnel#.C3.89tats_demeur.C3.A9s_en_dehors_de_la_Convention) et quand à la France… http://www.liberation.fr/france-archive/1997/02/06/mines-antipersonnelles-l-industrie-contourne-l-interdit-l-association-handicap-international-denonce_197698
Je ne vois aucune raison pour laquelle un moratoire sur des « robots automatisés » aurait plus d’effet, sans compter qu’il y aura mille et une bonnes raisons de le contourner avec des robots à vocation civile, mais aisément militarisables.
Bref, c’est faire l’autruche: ça n’a aucune chance d’être une solution. Et c’est là ou ça devient irresponsable…
@ Eric : C’est tout le problème. Le moratoire sur les mines n’est évidemment pas suivi par tous les pays et il y a des entorses, on vit dans un monde de commerce d’armes, et les mines de bric et de broc font toujours beaucoup de dégâts. Maintenant est-ce que ça valait le coup de le faire ? Ce que je sais, c’est que certains endroits où je suis allé étaient des champs de mines il y a 30 ans, et ne le sont plus grâce à cette convention. Alors si, ça me semble une solution. Parmi d’autres, puisqu’il faut impérativement prendre en compte le fait que ça n’est qu’un outil partiel.
@Fred est-ce vraiment « grâce » à la convention? Ou juste parce que les guerres en question se sont achevées? Quand les guerres reprennent, les mines reviennent, ce n’est pas moi qui le dit:
http://www.handicap-international.us/news_a_the_ottawa_mine_ban_treaty_turns_20
Et en l’occurrence, les trois états susceptible de fabriquer massivement des technologies de drones militaires sont les USA, la Chine et la Russie. Les moratoires… ils ne connaissent pas. Donc ces drones militaires, s’il est possible d’en réaliser, seront fabriqués, ce n’est qu’une question de temps.
Il y a mon avis plus urgence à réfléchir sur les technologies pour les contrer, plutôt que de déclarer un moratoire et de se retrouver dans quelques années avec des « mais c’était pourtant interdit », « mais on ne savait pas », « mais on ne pouvait pas faire de recherches », etc.
@ Eric : Oui, peut-être… C’est pour ça que j’ai titré un paragraphe « voeu pieux » 🙂 (et corrigé une jolie coquille au passage 😎 )
@ Collectionneur : Merci pour ton intervention, et merci à ceux sur le forum Air Defense qui postent régulièrement des liens vers Helicomicro !
@Fred Ce n’est rien, désolé pour les fautes de frappe et mot oubliés. Il ne faut pas écrire de long discourt après un service de nuit 😉
Les moratoires et conventions sur les armes et technologies dangereuses seront toujours une bonne chose (on à interdit les fusils lasers spécifiquement aveuglant avant leur mise en service dans les années 1990 par exemple) car cela donne du poids justement dans la recherche de contre mesures et met la pression sur les constructeurs. Si vous pour vendre X millions d’euros de matériels vous risqué de vous faire interdire un marché de X milliards dans les pays qui peuvent vous sanctionné, cela fait réfléchir.
Fred, fais du buzz pour la nature, l’air pur et les petits oiseaux arrêtes avec les scénarios catastrophe même si tu as compris que le public adore..
@Collectionneur l’interdiction sur les fusils aveuglants, comme ceux-là par exemple ?
https://en.m.wikipedia.org/wiki/Dazzler_%28weapon%29
Bon il y a déjà 9 ans… BLU 108 avec auto guidage terminal dans le fond c’était déjà le futur présenté sur cette vidéo, seul le vecteur (missile, bombe, mortier) change,
ciblage auto directeur et la charge sont déjà là (mais c’est plus pratique c’est pour les chars et les convois)
http://www.dailymotion.com/video/x6put0
Bienvenue dans le futur !
C’est surprenant de similitudes a un épisode de «black mirror» de la dernière saison , sauf que eux c’est des insectes drones qui peuvent ciblés et tuer également par la tête … pour ceux qui peuvent le voir allez y c’est tt pareil !
@Eric En principe, on ne doit pas construire de laser entraînant une lésion définitive de l’oeil. Les désignateurs lasers utilisés par les armées depuis les années 80 peuvent vous aveugler mais ne ce n’est pas leur destination première :
https://en.wikipedia.org/wiki/Protocol_on_Blinding_Laser_Weapons
Mais on voit avec les lasers made in China vendu dans le commerce que des c… pointe sur le cockpit des avions qu’il suffit que les industriels ne respectent les normes de sécurité pour avoir des problèmes. Bon, on passe en Hors Sujet…
Se fourre sur la gueuler ça passe par des normes industrielles?
Syntaxe error se foutre sur la gueule… 🙂
Je n’ai pas réussi à regarder la vidéo jusqu’au bout tellement c’est nul
@Nanor NC La production de matériel militaire à l’échelle industriel passe aussi, et oui, par des normes industriel pour que le dit matériel soit opérationnel.