Champ de bataille et grandes données. Intelligence artificielle dans les guerres futures
Il est répandu que le monde soit au seuil de la prochaine révolution militaire. Shoi est sur le point de changer la nature de la guerre, comme la poudre à canon, les chars, les avions et la bombe atomique dans les époques précédentes. Les États modernes essaient activement d'utiliser le pouvoir de l'IA à des fins militaires. La Chine, par exemple, a annoncé son intention de devenir un leader mondial dans le domaine de l'IA d'ici 2030.
Dans son "nouveau plan directeur, l'IA" proclame que "l'IA est une technologie stratégique qui mènera à l'avenir". Pour sa part, le président russe Vladimir Poutine a déclaré: "Celui qui deviendra le leader dans ce royaume deviendra le souverain du monde". En réponse au défi lancé par la Chine et la Russie, les États-Unis se sont engagés dans la stratégie de «troisième transition».
Ils investiront des fonds considérables dans l'IA, l'autonomie et la robotique pour maintenir leur avantage en défense. Focus a traduit le texte d'Anthony King, dédié à la revue du livre de Paul Sharre et aux questions de l'IA dans la guerre. Compte tenu de ces événements dramatiques, les commentateurs militaires étaient sérieusement intéressés par les questions d'utilisation militaire de l'IA.
Par exemple, dans la récente monographie, Ben Buchen et Andrew Imry affirment que l'IA est une «nouvelle puissance de feu». Les armes autonomes, gérées par l'IA, pas une personne, deviendront plus précises, plus rapides et mortelles. Il incarne l'avenir de la guerre. De nombreux autres scientifiques et experts sont d'accord avec eux.
Par exemple, Stuart Russell, un ordinateur de premier plan et une IA pionnière, a consacré l'une de ses conférences à la BBC en 2020 au potentiel militaire de l'IA.
Il a déclaré l'apparition de robots et de robots tueurs et a décrit un scénario dans lequel un quadcoptère mortel est armé d'un appareil explosif en taille: "Les mines anti-personnectes peuvent détruire tous les hommes de la ville âgés de 16 à 60 ans ou tous les citoyens juifs d'Israël , et, contrairement aux armes nucléaires, ils laisseront intact l'infrastructure urbaine.
" Russell a résumé: "8 millions de personnes surprendront pourquoi il est impossible de les protéger contre la formation et la tuée. " Beaucoup d'autres scientifiques, comme Christian Broze, Ken Payne, John Arkilla, David Gambling et John Antal, partagent l'opinion de Russell qu'avec le développement de la deuxième génération, l'apparition de l'exemple d'armes autonomes mortelles, Swarms of Drones-Killer- presque inévitable.
Les révolutions militaires sont souvent moins radicales que leurs partisans initialement supposés. La révolution dans les affaires militaires des années 1990 a certainement joué un rôle important dans la découverte de nouvelles capacités opérationnelles, mais elle n'a pas éliminé l'incertitude.
De même, certaines discussions sur l'autonomie mortelle de l'IA sont clairement hyperbolisées, déformant l'idée du fonctionnement de l'AIS et de son impact potentiel sur les opérations militaires dans un avenir possible. Bien que les systèmes éloignés et autonomes deviennent de plus en plus importants, la probabilité que les essaims de drones autonomes soient remplacés par des troupes sur le champ de bataille ou que les superordinateurs remplaceront les commandants humains.
L'IA est devenue un programme de recherche majeur dans les années 1950. Il a ensuite travaillé sur la base de la logique symbolique: les programmeurs ont codé l'entrée pour le traitement de l'IA. Ce système est devenu connu comme une vieille bonne intelligence artificielle. L'IA a fait quelques progrès, mais comme il était basé sur la manipulation des symboles donnés, son applicabilité était très limitée, en particulier dans le monde réel.
Par conséquent, depuis la fin des années 1970 et au cours des années 1980, il y avait "la stagnation de l'IA". Depuis la fin des années 1990, l'IA de deuxième génération a fait plusieurs percées en raison de ses grandes données, de ses énormes capacités informatiques et des algorithmes. Il y a eu trois événements d'époque. Le 11 mai 1997, la société Blue Deep IBM a remporté Harry Kasparov, champion du monde d'échecs. En 2011, l'ordinateur d'IBM Watson a remporté "Jeopardy!".
Il est encore plus remarquable qu'en mars 2016, Alphago a battu le champion du monde du groupe Sidol avec un score de 4: 1. Le bleu profond, Watson et Alphago étaient des jalons importants dans une trajectoire inhabituelle. En deux décennies, l'IA est passée de la déception et de l'échec à des triomphes incroyables. Cependant, il est important de comprendre ce que la deuxième génération ne peut pas et ce que la deuxième génération peut.
Il a été développé sur la base des réseaux de neurones. Les programmes de formation à la machine traitent d'énormes quantités de données via leurs réseaux, en ajustant le poids que le programme attache certains fragments de données jusqu'à ce qu'il génère finalement des réponses connectées. Le système est probable et inductif. Les programmes et les algorithmes ne savent rien.
Ils ne connaissent pas le monde réel et au sens humain ne comprennent pas la valeur des données traitées. En utilisant des algorithmes, l'apprentissage automatique AI construit simplement un modèle de probabilité statistique basé sur la répétition massive des expériences. Ainsi, l'IA de la deuxième génération montre de nombreuses corrélations dans les données. Bien qu'il ait suffisamment de données, l'induction probabiliste reste un puissant outil de prédiction.
Cependant, l'IA ne reconnaît pas la cause et l'effet ou les intentions. Peter Til, l'un des principaux entrepreneurs technologiques de la Silicon Valley, a formulé avec éloquence les restrictions de l'IA: "Oubliez les fantasmes scientifiques et fantastiques. Le véritable pouvoir de l'IA réel est de l'appliquer dans des tâches relativement quotidiennes, telles comme vision informatique et analyse des données.
" Ainsi, bien que l'apprentissage automatique soit bien supérieur à une personne en tâches mathématiques limitées, elle est très fragile. En raison de la pleine dépendance aux données sur lesquelles elle a été formée, même le moindre changement dans l'environnement réel ou les données le rend futile. La fragilité de l'apprentissage automatique inductif basé sur les données est très importante pour la perspective de la révolution militaire de l'IA.
Les partisans et les opposants de l'IA impliquent que dans le proche futur, les drones autonomes seront relativement faciles à voler, à identifier et à frapper des objectifs, par exemple dans les zones urbaines. En fin de compte, les commutateurs autonomes des drones ont déjà été démontrés - cependant, dans des conditions artificielles et contrôlées. Cependant, en réalité, il sera très difficile d'enseigner aux contrôles autonomes pour mener des opérations de combat sur terre.
L'environnement est dynamique et complexe, en particulier dans les villes où les civils et les soldats sont mélangés. Il n'y a pas de données évidentes sur lesquelles un essaim de drones pourrait être appris de manière fiable - la situation est trop variable. Il n'est pas non plus facile de comprendre comment l'algorithme peut prendre des décisions d'équipe.
De telles décisions nécessitent l'interprétation des informations hétérogènes, l'équilibre des facteurs politiques et militaires, et pour tout cela, il faut du jugement. Dans son récent article, Avold Farb et John R. Lindsey affirment que l'IA est mieux adaptée à des solutions simples avec des données parfaites. Les décisions du commandement militaire sont liées à la complexité et à l'incertitude.
Il est à noter que bien que Google et Amazon soient les principaux sociétés de traitement des données, leurs dirigeants ne pensent pas que la journée viendra lorsque l'algorithme fera pour eux des solutions stratégiques et opérationnelles. Les données, qui sont rapidement traitées par des algorithmes, aident leurs dirigeants à comprendre le marché avec une telle profondeur et précision avec lesquelles leurs concurrents ne peuvent pas comparer.
L'avantage de l'information les a conduits à la domination. Cependant, l'apprentissage automatique n'a pas déplacé la fonction exécutive. Par conséquent, il est peu probable que des drones autonomes mortels ou des œuvres de tueur, gérés par l'intelligence artificielle, se produisent sur le champ de bataille dans un avenir proche. Il est également peu probable que les commandants remplaceront les ordinateurs ou les superordinateurs.
Cependant, cela ne signifie pas que l'IA, la formation des données et des machines ne sont pas cruciales pour les opérations militaires modernes et futures. Il est important de comprendre que les fonctions de l'IA et des données ne sont pas principalement liées à la mortalité - elles ne sont pas une nouvelle puissance de tir, selon certains.
Les données - les informations numérisées stockées dans le cyberespace - sont cruciales, car elles donnent aux États une idée plus large, plus profonde et plus correcte d'eux-mêmes et de leurs adversaires. Lorsque d'énormes tableaux de données sont effectivement traités par l'intelligence artificielle, il permettra aux commandants militaires de percevoir l'espace de combat avec une profondeur, une vitesse et une résolution encore inaccessibles.
Les données et l'IA sont également cruciales pour les cyberopératives et les campagnes d'information. Ils sont devenus indispensables pour la défense et l'attaque. L'IA et les données ne sont pas tant une nouvelle puissance d'incendie qu'une nouvelle forme d'intelligence militaire numérisée qui utilise le cyberespace comme une nouvelle énorme ressource d'information. L'IA est une façon révolutionnaire de regarder «l'autre côté de la colline».
Les données et l'IA sont une fonction critique de l'intelligence pour la guerre moderne. Paul Sharre, un commentateur militaire bien connu, a fait valoir qu'elle conduirait inévitablement à une autonomie mortelle. En 2019, il a publié son livre de l'armée de BestAneller, qui retrace le développement de systèmes d'armes à distance contrôlés et autonomes.
Dans ce document, Sharre a suggéré qu'elle allait provoquer une révolution dans les affaires militaires: "Dans les guerres futures, les voitures peuvent prendre des décisions sur la vie et la mort". Malgré le fait que le potentiel de l'IA est toujours l'admiration pour lui, il a maintenant changé d'avis. Le nouveau livre de Sharre "Four Fields of Battle", publié en février 2023, examine fondamentalement ses premiers arguments.
L'auteur s'écarte de l'image catastrophique, qu'il a représentée dans le livre "Army of Nobody". Si «l'armée» était un essai dans le genre de la science-fiction, alors «quatre domaines de la bataille» - travaillent sur l'économie politique. Il traite des questions spécifiques de rivalité entre les grandes puissances et les stratégies industrielles et les systèmes de réglementation qui le sous-tendent.
Le livre décrit les conséquences de l'intelligence numérique pour la confrontation militaire. Sharre analyse le cadre réglementaire requis pour l'utilisation des données. Il déclare substantiellement que l'avantage des données et de l'IA pour leur traitement sera décisif dans le plan militaire dans la rivalité entre les États-Unis et la Chine. Les données fourniront un sérieux avantage en matière d'intelligence.
Selon Sharre, il existe quatre ressources critiques qui détermineront qui remportera l'intelligence dans ces race: "Les pays qui mènent dans quatre domaines - données, calculs, talents et institutions [sociétés technologiques] - gagneront un sérieux avantage en capacité à Ai. " Il soutient que les États-Unis et la Chine sont venus au combat non pas à la vie, mais à mort pour ces quatre ressources.
La Chine et les États-Unis sont désormais pleinement conscientes que celle qui a un avantage dans l'IA aura des avantages politiques, économiques et, surtout, importants. Il en saura plus que l'ennemi, pourra utiliser la force militaire plus efficacement, dominer les informations et le cyberespace et devenir plus mortel. Le livre de quatre domaines de la bataille décrit la concurrence des données et de l'IA entre la Chine et les États-Unis.
Le livre décrit les événements récents et évalue les avantages relatifs des deux pays. La Chine est toujours derrière les États-Unis dans plusieurs domaines. Les États-Unis attirent les talents et les dirigeants de la recherche et de la technologie: "La Chine est une sourde sur la production de puces. " Cependant, Sharre avertit les États-Unis contre les lauriers. Le livre est imprégné de crainte que les États-Unis ne soient à l'origine des données.
Par conséquent, Sharre souligne les avantages de la Chine et ses progrès rapides. Avec 900 millions d'internet, la Chine génère beaucoup plus de données que les États-Unis. Certaines sphères d'économie, comme le transport des passagers, sont beaucoup plus numérisées qu'aux États-Unis. WeChat, par exemple, n'a pas d'analogue américain. De nombreuses applications chinoises sont supérieures à l'Américain.
De plus, l'État chinois ne se limite pas aux frontières légales ou aux préoccupations de la société civile concernant la vie privée. Le Parti communiste chinois surveille activement les profils numériques de ses citoyens - il recueille leurs données et enregistre leurs actions, et dans les villes utilise la technologie de reconnaissance faciale pour identifier la personnalité.
Le contrôle de l'État est bénéfique pour les sociétés technologiques chinoises: "Les investissements du PCC à grande échelle dans la surveillance du renseignement et le contrôle social ont contribué à la croissance des sociétés d'IA chinois et les ont liées à des conseils étroits avec le gouvernement. " La synergie entre le gouvernement et la technologie en Chine est très proche. La Chine a également des avantages de réglementation importants par rapport aux États-Unis.
Le Parti communiste chinois soutient les géants technologiques tels que Baidu et Alibaba: "Les investissements chinois dans la technologie apportent des dividendes". Sharre résume: "La Chine constitue non seulement un nouveau modèle d'autoritarisme numérique, mais l'exporte également activement.
" Comment le gouvernement américain résistera-t-il au désir de la Chine de données dans le domaine des données et de l'IA? Il y a "quatre champs de bataille" très intéressants ici - et ils contrastent considérablement avec le raisonnement de Charrr dans "l'armée de personne". Pour que le gouvernement américain puisse utiliser le potentiel militaire des données, de graves changements dans le cadre réglementaire sont nécessaires.
Les forces armées doivent former des partenariats profonds avec le secteur technologique. Ils "devront aller au-delà des entrepreneurs de défense traditionnels et attirer des startups". Ce n'est pas facile.
Partager note un environnement réglementaire complexe aux États-Unis par rapport à la Chine: "Aux États-Unis, les grandes sociétés technologiques d'Amazon, Apple, Meta (ancienne Facebook) et Google sont des centres de gouvernement indépendants, qui sont souvent hostiles au gouvernement sur des questions spécifiques .
" Share parle d'une manifestation à haut niveau dans Google en 2017, lorsque les employés ont refusé de travailler sur le contrat du ministère de la Défense au projet de Maven. L'attitude sceptique à l'égard de l'utilisation militaire de l'IA est stockée dans certaines parties du secteur technologique américain.
Les sociétés technologiques américaines ne veulent peut-être pas travailler avec les forces armées, mais le ministère de la Défense entrave également involontairement le partenariat des militaires avec le secteur technologique. Le ministère de la Défense a toujours eu une relation étroite avec l'industrie de la défense. Par exemple, en 1961, le président Dwight D. Eisenhower a mis en garde contre la menace que le «complexe militaire-industriel» est pour la démocratie.
Le ministère de la Défense a développé le processus d'achat et de conclusion des contrats, qui a été conçu principalement pour l'achat de plates-formes en technologie élevée: réservoirs, navires et avions. Lockheed Martin et Northrop Grumman sont devenus des fournisseurs d'armes qui répondent aux spécifications spécifiques du ministère de la Défense. Les entreprises technologiques travaillent différemment.
Comme les personnes interrogées de Sharre l'ont noté: "Vous ne pouvez pas acheter l'IA comme vous achetez des munitions. " Les entreprises technologiques ne vendent pas d'opportunités spécifiques en tant qu'armes. Ils vendent des données, des logiciels, des capacités informatiques - après tout, ils vendent de l'expérience. Les algorithmes et les programmes sont mieux développés par celui-ci en relation avec des tâches très spécifiques.
Le plein potentiel de certains programmes ou algorithmes pour résoudre une tâche militaire peut ne pas être immédiatement évident, même pour l'entreprise technologique elle-même. Par conséquent, les sociétés technologiques opérant sur des marchés concurrentiels préfèrent un système plus flexible et indéfini de contrats avec le ministère de la Défense - elles ont besoin de sécurité et de rendement financier rapide.
Les entreprises technologiques recherchent la coopération, pas seulement un contrat de plate-forme. L'armée américaine, et en particulier le ministère de la Défense, n'a pas toujours trouvé facilement une nouvelle approche des contrats. Dans le passé, la bureaucratie était trop lente pour répondre à leurs besoins - le processus d'achat a pris de 7 à 10 ans.
Cependant, malgré le fait qu'il existe de nombreuses contradictions et le système loin de la perfection, Share note la transformation de l'environnement réglementaire. Il décrit la formation d'un nouveau complexe militaire technique aux États-Unis. Le projet de Maven est un exemple de ce processus. En 2017, Bob Work a publié une note qui est devenue célèbre, dans laquelle il a annoncé la création d'un "groupe interfonctionnel sur une guerre algorithmique" - le projet Maven.
Depuis l'émergence de drones et de satellites militaires pendant la guerre mondiale avec le terrorisme, l'armée américaine a commencé à recevoir des documents vidéo complets. Ces tirs étaient inestimables. Par exemple, à l'aide de Gorgon Stare, un système de surveillance aérien rond-the-bloc, l'US Air Force a pu retracer l'explosion d'une voiture remplacée à Kaboul en 2019, qui a tué 126 civils et trouver l'emplacement des appartements conspiratoires utilisés pour attaque.
Cependant, ce processus était trop lent. Par conséquent, l'Air Force a commencé à expérimenter avec des algorithmes de vision par ordinateur pour tamiser une vidéo à plein essor. Le projet de Maven était destiné à étendre l'étendue du succès de l'Air Force, mais un nouvel environnement contractuel était nécessaire. Au lieu d'un long processus d'approvisionnement, les travaux ont introduit 90 jours Sprint. Les entreprises avaient trois mois pour montrer leur utilité.
S'ils ont fait des progrès, leurs contrats ont continué, sinon - ils ont décollé. Dans le même temps, les travaux ont supprimé le secret des véhicules aériens sans pilote afin que le projet de Maven puisse enseigner ses algorithmes. Jusqu'en juillet 2017, le projet de Maven avait un système d'exploitation initial capable d'identifier 38 classes différentes d'objets.
До кінця року її було розгорнуто в операціях проти ІДІЛ: "Інструмент був відносно простим, він ідентифікував і відстежував людей, транспортні засоби й інші об'єкти на відео з безпілотників ScanEagle, які використовували спецпризначенці".
Після появи проєкту Maven Міністерство оборони висунуло низку інших ініціатив, спрямованих на стимулювання партнерства між військовими й технологіями.
Відділ оборонних інновацій прискорив розвиток відносин між міністерством і компаніями в Силіконовій долині, укладаючи контракти за 26 днів, а не за місяці або роки. За перші п'ять років своєї роботи Відділ оборонних інновацій видав контракти 120 "нетрадиційним" компаніям.
Під керівництвом генерал-лейтенанта Джека Шанахана Об'єднаний центр штучного інтелекту зіграв важливу роль у розвитку партнерства між збройними силами й технологічними компаніями для надання допомоги людям і операцій із ліквідації наслідків стихійних лих, а також розробляючи програмне забезпечення для картографування лісових пожеж і оцінки наслідків стихії — чи передбачають ці приклади в тексті Шарре ширше військове застосування, неясно.
Після перших труднощів Об'єднана інфраструктура оборони, створена генералом Джеймсом Меттісом під час його перебування міністром оборони, реформувала систему закупівель технологій.
Наприклад, 2021 року Міністерство оборони допомогло компанії Anduril розробити систему протидії безпілотникам на основі штучного інтелекту, виділивши на це майже 100 мільйонів доларів.
"Чотири поля бою" — це чудове й інформативне доповнення до сучасної літератури з ШІ та воєнних дій. Книга доповнює нещодавно опубліковані роботи Ліндсі, Голдфарба, Бенджаміна Дженсена, Крістофера Вайта і Скотта Куомо. Головна думка цієї роботи зрозуміла.
Дані та ШІ мають і матимуть велике значення для збройних сил.
Однак дані та ШІ не призведуть до радикальної трансформації бойових дій як таких — люди, як і раніше, у переважній більшості випадків керуватимуть летальними системами зброї, зокрема дистанційними, як показує жорстока війна в Україні Ситуація в бою складна та заплутана.
Людські судження, навички та хитрість необхідні для того, щоб використовувати зброю з максимальною ефективністю.
Однак будь-яка військова сила, яка хоче здобути перемогу на полях битв майбутнього, муситиме використати потенціал великих даних — їй доведеться оволодіти оцифрованою інформацією, яка заполоняє бойовий простір. Люди просто не здатні зробити це самотужки.
Тому штабам знадобляться алгоритми та програмне забезпечення для обробки цих даних.
Їм потрібне тісне партнерство з технологічними компаніями для створення таких систем, а також фахівці з вивчення даних, інженери та програмісти на самих оперативних командних пунктах, щоб змусити їх працювати.
Якщо збройні сили зможуть це зробити, дані дадуть їм змогу бачити всю глибину та широту бойового простору. Це не вирішить проблем військових операцій — туман і тертя війни залишаться.
Але, спираючись на дані, командири зможуть ефективніше та раціональніше використовувати свої сили. Дані підвищать летальну міць збройних сил і їхніх бойових груп.
Російсько-українська війна вже дає початкове уявлення про переваги військових операцій, орієнтованих на дані, перед противником, який досі діє в аналоговому режимі. Книга Шарре — це заклик до того, щоб США не спіткала доля російської армії в Україні.
Ентоні Кінг — завідувач кафедри військових досліджень у Ворикському університеті. Його остання книга "Urban Warfare in the Twenty-First Century" була опублікована видавництвом Polity Press у липні 2021 року.