Par William D. Hartung
Les sociétés de capital-risque et les start-up militaires de la Silicon Valley ont commencé à vendre agressivement une version de la guerre automatisée qui intégrera profondément l’intelligence artificielle (IA). Ces sociétés et leurs PDG se lancent à présent à corps perdu dans cette technologie nouvelle, en écartant largement le risque de dysfonctionnements qui pourraient conduire à l’avenir au massacre de civils, sans parler de la possibilité de scénarios dangereux d’escalade entre les principales puissances militaires. Les raisons de cette fuite en avant incluent une foi mal placée dans les «armes miracles», mais par-dessus tout, cette vague de soutien aux technologies militaires nouvelles est motivée par la logique ultime du complexe militaro-industriel: de vastes sommes d’argent à gagner.
Les nouveaux techno-enthousiastes
Si certains militaires et membres du Pentagone s’inquiètent effectivement des risques futurs liés à l’armement IA, les dirigeants du département de la Défense, eux, sont tout à fait d’accord. Son engagement énergique en faveur des technologies nouvelles a été révélé au monde entier pour la première fois lors d’un discours prononcé en août 2023 par la secrétaire adjointe à la Défense, Kathleen Hicks, devant la National Defense Industrial Association, le plus grand groupe professionnel de l’industrie de l’armement du pays. Elle a profité de l’occasion pour annoncer ce qu’elle a appelé «l’initiative Replicator», un effort global visant à créer «un nouvel état de la technologie – tout comme l’Amérique l’a fait auparavant – en tirant parti de systèmes robustes et autonomes dans tous les domaines, qui sont moins coûteux, qui mettent moins de personnes dans la zone de tir et qui peuvent être modifiés, mis à jour ou améliorés dans des délais beaucoup plus courts».
Kathleen Hicks n’a pas hésité à souligner la principale raison d’une telle ruée vers la guerre robotisée: devancer et intimider la Chine. «Nous devons nous assurer que les dirigeants de la RPC (République populaire de Chine) en se réveillant chaque jour prennent en compte les risques d’agression et concluent que ce n’est pas le moment – et pas seulement aujourd’hui, mais chaque jour, d’ici à 2027, 2035, 2049 et au-delà», a-t-elle déclaré.
La confiance extrême de Kathleen Hick dans la capacité du Pentagone et des fabricants d’armes américains à mener les futures techno-guerres a été renforcée par un groupe de militaristes du nouvel âge dans la Silicon Valley et au-delà, dirigé par des chefs d’entreprise comme Peter Thiel [il fut conseiller de Donald Trump] de Palantir [entreprise de big data basée à Denver dans le Colorado], Palmer Luckey d’Anduril [société de technologie de défense créée en 2017 en lien avec Palantir et avec SpaceX d’Elon Musk], et des investisseurs en capital-risque comme Marc Andreessen d’Andreessen Horowitz [fondé en 2009 par Marc Andreessen et Ben Horowitz, son siège se situe à Menio Park en Californie].
Patriotes ou profiteurs?
Ces entreprises qui promeuvent une nouvelle façon de faire la guerre se considèrent également comme une nouvelle race de patriotes, prêts et capables de relever avec succès les défis militaires de l’avenir.
Le long manifeste «Rebooting the Arsenal of Democracy», publié sur le blog d’Anduril, en est un bon exemple. Il vante la supériorité des start-up de la Silicon Valley sur les mastodontes militaro-industriels de la vieille école, comme Lockheed Martin, pour fournir la technologie nécessaire à la victoire dans les guerres du futur:
«Les plus grandes entreprises de défense sont composées de patriotes qui, néanmoins, n’ont pas l’expertise logicielle ou le modèle commercial pour construire la technologie dont nous avons besoin… Ces entreprises ont construit les outils qui ont assuré notre sécurité dans le passé, mais elles ne sont pas l’avenir de la défense.»
Contrairement à l’approche industrielle qu’ils critiquent, Palmer Luckey et ses compatriotes d’Anduril cherchent à développer et à vendre des armes d’une manière entièrement nouvelle:
«Les logiciels changeront la façon dont la guerre est menée. Le champ de bataille du futur regorgera de systèmes artificiellement intelligents, sans pilote, qui combattront, recueilleront des données de reconnaissance et communiqueront à des vitesses époustouflantes.»
A première vue, Palmer Luckey semble être un candidat tout à fait improbable pour s’être hissé aussi haut dans les rangs des dirigeants de l’industrie de l’armement. Il a fait fortune en créant l’appareil de réalité virtuelle Oculus, une nouveauté que les utilisateurs peuvent attacher à leur tête pour découvrir une variété de scènes en 3D (avec la sensation d’y être immergé). Ses goûts vestimentaires se portent sur les sandales et les chemises hawaïennes, mais il s’est maintenant entièrement tourné vers le domaine militaire. En 2017, il a fondé Anduril, en partie avec le soutien de Peter Thiel et de sa société d’investissement, Founders Fund. Anduril fabrique actuellement des drones autonomes, des systèmes de commande et de contrôle automatisés et d’autres dispositifs destinés à accélérer la vitesse à laquelle le personnel militaire peut identifier et détruire des cibles.
Peter Thiel, mentor de Palmer Luckey, illustre la différence entre les dirigeants des nouvelles entreprises d’armement et les titans de l’époque de la guerre froide. Tout d’abord, il est entièrement acquis à Donald Trump. Il fut un temps où les dirigeants des grands fabricants d’armes comme Lockheed Martin s’efforçaient de maintenir de bonnes relations avec les démocrates et les républicains, en apportant des contributions substantielles aux campagnes électorales des deux partis et à leurs candidats, et en engageant des lobbyistes ayant des relations dans les deux camps. La logique de cette démarche n’aurait pas pu être plus claire à l’époque. Ils voulaient cimenter un consensus bipartisan en faveur de dépenses toujours plus importantes pour le Pentagone, l’une des rares choses sur lesquelles la plupart des membres clés des deux partis étaient d’accord. Ils voulaient également entretenir des relations particulièrement bonnes avec le parti qui contrôlait, à un moment donné, la Maison Blanche et/ou le Congrès.
Les «jeunes pousses» de la Silicon Valley et leurs représentants sont également beaucoup plus virulents dans leurs critiques à l’égard de la Chine. Ils sont les plus froids (ou devrais-je dire les plus chauds?) des nouveaux guerriers froids de Washington, employant une rhétorique plus dure que celle du Pentagone ou des grands entrepreneurs. En revanche, les grands entrepreneurs dissimulent généralement leurs critiques de la Chine et leur soutien aux guerres dans le monde qui ont contribué à gonfler leurs bénéfices par l’intermédiaire de groupes de réflexion qu’ils ont financés à hauteur de dizaines de millions de dollars par an.
La principale société de Peter Thiel, Palantir, a également été critiquée pour avoir fourni des systèmes qui ont permis aux services états-uniens de l’immigration et des douanes (ICE-Immigration and Customs Enforcement) de mener des opérations de répression sévères aux frontières et de mettre en place une «police prédictive». Cette dernière (vous ne serez pas surpris de l’apprendre) implique la collecte de vastes quantités de données personnelles, sans autorisation, en s’appuyant sur des algorithmes dotés de préjugés raciaux intégrés qui conduisent au ciblage et au traitement injustes et systématiques des personnes de couleur.
Pour bien comprendre comment les militaristes de la Silicon Valley envisagent la guerre de nouvelle génération, il faut consulter les travaux de Christian Brose, directeur de la stratégie de Palantir. C’est un innovateur militaire de longue date et un ancien conseiller de feu le sénateur John McCain [républicain, présent au Sénat de janvier 1987 à août 2018]. Son livre Kill Chain: Defending America in the Future of High-Tech Warfare, Hachette Books, 2020, est une sorte de bible pour les partisans de la guerre automatisée. Sa principale observation est que le vainqueur d’un combat est celui qui parvient à raccourcir le plus efficacement la «chaîne de la mort» (le temps qui s’écoule entre l’identification et la destruction d’une cible). Son livre part du principe que l’adversaire le plus probable dans la prochaine guerre technologique sera effectivement la Chine. Il se livre à l’exagération des capacités militaires de Pékin, tout en exagérant ses ambitions militaires et en insistant sur le fait que surpasser ce pays dans le développement de technologies militaires nouvelles est la seule voie vers une victoire future.
Il ne faut pas oublier que la vision de Christian Brose, qui consiste à raccourcir la «chaîne de la mort», comporte d’immenses risques. A mesure que le temps nécessaire pour décider des actions à entreprendre diminue, la tentation de mettre les humains «hors circuit» ne fera que croître, laissant les décisions de vie ou de mort à des machines dépourvues de sens moral et vulnérables à des dysfonctionnements catastrophiques, inhérents à tout système logiciel complexe.
Une grande partie de la critique de Christian Brose sur le complexe militaro-industriel actuel est vraie. Quelques grandes entreprises s’enrichissent en fabriquant des plates-formes d’armes gigantesques toujours plus vulnérables, telles que des porte-avions et des chars, tandis que le Pentagone dépense des milliards dans un vaste et coûteux réseau de bases mondiales qui pourrait être remplacé par une implantation militaire beaucoup plus petite et plus dispersée. Malheureusement, cette vision alternative pose plus de problèmes qu’elle n’en résout.
Tout d’abord, il n’y a aucune garantie que les systèmes logiciels promus par la Silicon Valley fonctionneront comme annoncé. Après tout, il existe une longue histoire d’«armes miracles» qui ont échoué, depuis le champ de bataille électronique au Vietnam (voir l’article de Drew Middleton, 27 octobre 1970, New York Times) jusqu’au désastreux bouclier antimissile de la guerre des étoiles du président Ronald Reagan. Même lorsque la capacité de trouver et de détruire des cibles plus rapidement s’est effectivement améliorée, des guerres comme celles d’Irak et d’Afghanistan, menées à l’aide de ces mêmes technologies, ont été des échecs cuisants.
Une récente enquête du Wall Street Journal, «American Drones Failed to Turn the Tide in Ukraine» (10 avril 2024), suggère que la nouvelle génération de technologies militaires est également surestimée. Le WSJ a constaté que les nouveaux petits drones américains haut de gamme fournis à l’Ukraine pour sa guerre défensive contre la Russie se sont révélés beaucoup trop «défectueux et coûteux», à tel point que, ironie du sort, les Ukrainiens ont choisi d’acheter à la place des drones chinois moins chers et plus fiables.
Enfin, l’approche préconisée par Christian Brose et ses acolytes va rendre la guerre plus probable, car l’orgueil technologique incite à croire que les Etats-Unis peuvent effectivement «battre» une puissance nucléaire rivale comme la Chine dans un conflit, si seulement nous investissons dans une nouvelle force de pointe de haute technologie.
Le résultat, comme mon collègue Michael Brenes et moi-même l’avons souligné récemment (Quincy Brief 57, 3 juin 2024), ce sont les milliards de dollars d’argent privé qui se déversent aujourd’hui dans les entreprises cherchant à repousser les frontières de la techno-guerre. Les estimations (Financial Times, Wall Street Journal) vont de 6 à 33 milliards de dollars par an et, selon le New York Times, 125 milliards de dollars au cours des quatre dernières années. Quels que soient les chiffres, le secteur technologique et ses bailleurs de fonds sentent qu’il y a d’énormes sommes d’argent à gagner dans l’armement de nouvelle génération et ils ne laisseront personne se mettre en travers de leur chemin.
Entre-temps, une enquête menée par Eric Lipton du New York Times (du 30 décembre 2023) a révélé que les sociétés de capital-risque et les startups qui sont déjà à l’avant-garde de la guerre basée sur l’IA s’emploient également à recruter d’anciens responsables de l’armée et du Pentagone pour les mettre à leur service. L’ancien secrétaire à la Défense de Trump, Mark Esper, figure en bonne place sur cette liste. De tels liens peuvent être motivés par une ferveur patriotique, mais une motivation plus probable est simplement le désir de s’enrichir. Comme l’a fait remarquer Ellen Lord (citée par Eric Lipton), ancienne responsable des acquisitions au Pentagone, «les liens entre la communauté de la défense et le capital-risque sont désormais pimpants. Mais ils espèrent aussi pouvoir encaisser des sommes importantes et gagner des tonnes d’argent.»
Le roi philosophe
L’ancien PDG de Google, Eric Schmidt, est une autre figure centrale de la construction d’une machine de guerre de haute technologie. Ses intérêts vont bien au-delà de la sphère militaire. Il est devenu un philosophe roi virtuel lorsqu’il s’agit de savoir comment les nouvelles technologies vont remodeler la société et, en fait, ce que cela signifie d’être un humain. Il réfléchit à ces questions depuis un certain temps et a exposé ses vues dans un ouvrage de 2021 modestement intitulé The Age of AI and Our Human Future(Little, Brown and Company, 2021), coécrit avec nul autre que feu Henry Kissinger. Eric Schmidt est conscient des dangers potentiels de l’IA, mais il est également au cœur des efforts visant à promouvoir ses applications militaires. Bien qu’il renonce à l’approche messianique de certaines figures montantes de la Silicon Valley, on peut se demander si son approche apparemment plus réfléchie contribuera au développement d’un monde plus sûr et plus raisonnable en matière d’armement par l’IA.
Commençons par la chose la plus fondamentale: la mesure dans laquelle Eric Schmidt pense que l’IA va changer la vie telle que nous la connaissons est extraordinaire. Dans son livre et celui de Kissinger, ils affirment que l’IA déclenchera «la transformation de l’identité et de l’expérience humaines à des niveaux jamais atteints depuis l’aube de l’ère moderne», en soutenant que le fonctionnement de l’IA «présage un progrès vers l’essence des choses, un progrès que les philosophes, les théologiens et les scientifiques ont recherché, avec un succès partiel, pendant des millénaires».
D’autre part, le groupe d’experts gouvernementaux sur l’intelligence artificielle au sein duquel Eric Schmidt a siégé a pleinement reconnu les risques posés par les utilisations militaires de l’IA. La question demeure: soutiendra-t-il, au moins, la mise en place de garanties solides contre l’utilisation abusive de l’IA? Pendant son mandat à la tête du Defense Innovation Board du Pentagone de 2017 à 2020, il a contribué à préparer le terrain pour les lignes directrices du Pentagone sur l’utilisation de l’IA qui promettaient que les humains seraient toujours «dans la boucle» lors du lancement des armes de nouvelle génération. Mais comme l’a fait remarquer un critique de l’industrie technologique, une fois la rhétorique enlevée, les directives «n’empêchent pas vraiment de faire quoi que ce soit».
En fait, la sénatrice Elizabeth Warren (démocrate du Massachusetts) et d’autres défenseurs de la «bonne gouvernance» se sont demandé si le rôle d’Eric Schmidt à la tête du Defense Innovation Board ne représentait pas un conflit d’intérêts potentiel. Après tout, alors qu’il contribuait à l’élaboration des lignes directrices sur les applications militaires de l’IA, il investissait également dans des entreprises susceptibles de tirer profit du développement et de l’utilisation de l’IA. Son entité d’investissement, America’s Frontier Fund, investit régulièrement dans des start-up de technologie militaire. Une organisation à but non lucratif qu’il a fondée, le Special Competitive Studies Project, décrit sa mission comme étant de «renforcer la compétitivité à long terme de l’Amérique à mesure que l’intelligence artificielle (IA) [remodèle] notre sécurité nationale, notre économie et notre société». Le groupe est en relation avec un grand nombre de dirigeants de l’armée et de l’industrie technologique et fait pression, entre autres, pour que le développement de la technologie militaire soit moins réglementé. En 2023, Eric Schmidt a même fondé une entreprise de drones militaires, White Stork, qui, selon Forbes, a secrètement testé ses systèmes dans la banlieue de Menlo Park, dans la Silicon Valley.
La question est maintenant de savoir si l’on peut persuader Eric Schmidt d’user de son influence considérable pour freiner les utilisations les plus dangereuses de l’IA. Malheureusement, son enthousiasme à l’égard de l’utilisation de l’IA pour améliorer les capacités de combat laisse présager le contraire:
«De temps en temps, une nouvelle arme, une nouvelle technologie arrive et change les choses. Dans les années 1930, Einstein a écrit une lettre à Roosevelt dans laquelle il disait que cette nouvelle technologie – les armes nucléaires – pourrait changer la guerre, ce qu’elle a manifestement fait. Je dirais que l’autonomie [alimentée par l’IA] et les systèmes décentralisés et distribués [décision prise par plusieurs nœuds] sont tout aussi puissants.»
Compte tenu des risques déjà cités, comparer l’IA militarisée au développement d’armes nucléaires ne devrait pas vraiment être rassurant. La combinaison des deux – des armes nucléaires contrôlées par des systèmes automatiques sans intervention humaine – a jusqu’à présent été exclue, mais il ne faut pas s’attendre à ce que cela dure. C’est toujours une possibilité, en l’absence de garanties solides et applicables sur le moment et la manière dont l’IA peut être utilisée.
L’IA arrive, et son impact sur nos vies, que ce soit en temps de guerre ou en temps de paix, risque de frapper l’imagination. Dans ce contexte, une chose est claire: nous ne pouvons pas nous permettre de laisser les personnes et les entreprises qui profiteront le plus de son application débridée avoir le dessus dans l’élaboration des règles relatives à son utilisation. N’est-il pas temps d’affronter les guerriers du nouvel âge? (Article publié sur le site Tom Dispatch le 25 juin 2024; traduction rédaction A l’Encontre)
William D. Hartung est chercheur principal au Quincy Institute for Responsible Statecraft et auteur de Prophets of War: Lockheed Martin and the Making of the Military-Industrial Complex.
Soyez le premier à commenter