Algoritmernas krig

När det kommer till användningen av artificiell intelligens i militären vaknar mardrömmen av science fiction omedelbart, en rebellisk och dödlig AI som reser sig mot mänskligheten för att förstöra den. Tyvärr är militärens och ledarnas rädsla för att "fienden kommer ikapp oss" lika stark i utvecklingen av krigföringsalgoritmer.

Algoritmisk krigföringvilket, enligt mångas åsikt, i grunden skulle kunna förändra slagfältet som vi känner det, främst för att krigföringen skulle bli snabbare, långt före människors förmåga att fatta beslut. Amerikansk general Jack Shanahan (1), chef för US Joint Center for Artificial Intelligence, betonar dock att innan vi introducerar artificiell intelligens i arsenaler måste vi säkerställa att dessa system fortfarande är under mänsklig kontroll och inte kommer att starta krig på egen hand.

"Om fienden har maskiner och algoritmer kommer vi att förlora den här konflikten"

Körförmåga algoritmisk krigföring bygger på användningen av framsteg inom datateknik inom tre huvudområden. Först decennier av exponentiell tillväxt i datorkraftdetta har avsevärt förbättrat prestandan för maskininlärning. Andra snabb tillväxt av resurser "Big data", det vill säga enorma, vanligtvis automatiserade, hanterade och kontinuerligt skapade datamängder lämpade för maskininlärning. Den tredje gäller snabb utveckling av molntekniker, genom vilken datorer enkelt kan komma åt dataresurser och bearbeta dem för att lösa problem.

Krigsalgoritmenligt definitionen av experterna måste det först uttryckas med datorkod. För det andra måste det vara resultatet av en plattform som kan både samla in information och göra val, fatta beslut som åtminstone i teorin inte kräver mänskligt ingripande. För det tredje, vilket verkar självklart, men inte nödvändigtvis så, för det är först i handling som det blir klart om en teknik avsedd för något annat kan vara användbar i krig och vice versa, den måste kunna fungera under förhållanden. beväpnad konflikt.

En analys av ovanstående riktningar och deras interaktion visar det algoritmisk krigföring det är inte en separat teknik som t.ex. energivapen eller hypersoniska missiler. Dess effekter är omfattande och blir gradvis överallt i fientligheter. För första gången militära fordon de blir intelligenta, vilket potentiellt gör de försvarsstyrkor som implementerar dem mer effektiva och effektiva. Sådana intelligenta maskiner har tydliga begränsningar som måste förstås väl.

"" sa Shanahan förra hösten i en intervju med tidigare Google-chefen Eric Schmidt och Googles vicepresident för internationella frågor Kent Walker. "".

USA:s nationella säkerhetsråds utkast till rapport om AI hänvisar till Kina över 50 gånger, vilket lyfter fram Kinas officiella mål att bli världsledande inom AI år 2030 (se även: ).

Dessa ord uttalades i Washington vid en speciell konferens som ägde rum efter att det tidigare nämnda Shanakhan Center presenterat sin preliminära rapport för kongressen, utarbetad i samarbete med kända experter inom området artificiell intelligens, inklusive Microsofts forskningschef Eric Horwitz, AWS CEO Andy Jassa och Google Clouds huvudforskare Andrew Moore. Slutrapporten kommer att publiceras i oktober 2020.

Google-anställda protesterar

För några år sedan engagerade sig Pentagon. algoritmisk krigföring och ett antal AI-relaterade projekt under Maven-projektet, baserat på samarbete med teknikföretag, inklusive Google och startups som Clarifai. Det handlade främst om att jobba på artificiell intelligensför att underlätta identifieringen av föremål på.

När det blev känt om Googles deltagande i projektet våren 2018 undertecknade tusentals anställda i Mountain View-jätten ett öppet brev som protesterade mot företagets inblandning i fientligheter. Efter månader av arbetsoro Google har antagit sin egen uppsättning regler för AIsom innefattar förbud mot deltagande i evenemang.

Google har också åtagit sig att slutföra Project Maven-kontraktet i slutet av 2019. Googles exit avslutade inte Project Maven. Den köptes av Peter Thiels Palantir. Flygvapnet och US Marine Corps planerar att använda speciella obemannade flygfarkoster, som Global Hawk, som en del av Maven-projektet, som vart och ett är tänkt att visuellt övervaka upp till 100 kvadratkilometer.

Med anledning av det som händer kring Project Maven blev det klart att USA:s militär akut behöver ett eget moln. Detta är vad Shanahan sa under konferensen. Detta var uppenbart när videofilmer och systemuppdateringar måste transporteras till militära installationer utspridda över fältet. I byggnad unified cloud computing, som kommer att hjälpa till att lösa problem av denna typ, som en del av ett enhetligt IT-infrastrukturprojekt för Jedi-armén, Microsoft, Amazon, Oracle och IBM. Google är inte på grund av deras etiska koder.

Det är tydligt från Shanahans uttalande att den stora AI-revolutionen inom militären bara har börjat. Och dess centrums roll i USA:s väpnade styrkor växer. Detta syns tydligt i den beräknade JAIC-budgeten. 2019 uppgick det till knappt 90 miljoner dollar. År 2020 borde det redan vara 414 miljoner dollar, eller cirka 10 procent av Pentagons AI-budget på 4 miljarder dollar.

Maskinen känner igen en överlämnad soldat

Amerikanska trupper är redan utrustade med system som Phalanx (2), som är en typ av autonoma vapen som används på amerikanska flottans fartyg för att attackera inkommande missiler. När en missil upptäcks slås den på automatiskt och förstör allt i dess väg. Enligt Ford kan han attackera med fyra eller fem missiler på en halv sekund utan att behöva gå igenom och titta på varje mål.

Ett annat exempel är den semi-autonoma Harpy (3), ett kommersiellt obemannat system. Harpyn används för att förstöra fiendens radar. Till exempel, 2003, när USA inledde en attack mot Irak som hade luftburna radaravlyssningssystem, hjälpte israeliskt tillverkade drönare till att hitta och förstöra dem så att amerikanerna säkert kunde flyga in i det irakiska luftrummet.

3. Lansering av drönaren till IAI Harpy-systemet

Ett annat välkänt exempel på autonoma vapen är Koreanskt Samsung SGR-1-system, som ligger i den demilitariserade zonen mellan Nord- och Sydkorea, utformad för att identifiera och skjuta inkräktare på ett avstånd av upp till fyra kilometer. Enligt beskrivningen kan systemet "särskilja en person som ger sig och en person som inte ger sig" utifrån ställningen av sina händer eller erkännande av vapnets position i sina händer.

4. Demonstration av upptäckten av en överlämnande soldat av Samsung SGR-1-systemet

Amerikaner är rädda för att bli lämnade

För närvarande använder minst 30 länder runt om i världen automatiska vapen med olika utvecklingsnivåer och användning av AI. Kina, Ryssland och USA ser artificiell intelligens som ett oumbärligt element för att bygga sin framtida position i världen. "Den som vinner AI-loppet kommer att styra världen", sa Rysslands president Vladimir Putin till studenter i augusti 2017. Folkrepubliken Kinas president Xi Jinping har inte gjort så högprofilerade uttalanden i media, men han är den främsta drivkraften bakom direktivet som kräver att Kina ska bli den dominerande kraften inom området AI år 2030.

Det finns en växande oro i USA för "satelliteffekten", som har visat att USA är extremt dåligt rustat att möta de nya utmaningar som artificiell intelligens innebär. Och detta kan vara farligt för freden, om så bara för att landet som hotas av dominans kan vilja eliminera fiendens strategiska fördel på annat sätt, det vill säga genom krig.

Även om det ursprungliga syftet med Maven-projektet var att hjälpa till att hitta islamiska ISIS-krigare, är dess betydelse för den fortsatta utvecklingen av militära artificiella intelligenssystem enorm. Elektronisk krigföring baserad på inspelare, monitorer och sensorer (inklusive mobila, flygande sådana) är förknippad med ett stort antal heterogena dataflöden, som endast kan användas effektivt med hjälp av AI-algoritmer.

Hybridslagfältet har blivit militär version av IoT, rik på viktig information för att bedöma taktiska och strategiska hot och möjligheter. Att kunna hantera dessa data i realtid har stora fördelar, men att inte lära sig av denna information kan vara katastrofalt. Möjligheten att snabbt bearbeta informationsflödet från olika plattformar som verkar inom flera områden ger två huvudsakliga militära fördelar: hastighet i nå. Artificiell intelligens låter dig analysera de dynamiska förhållandena på slagfältet i realtid och slå snabbt och optimalt, samtidigt som du minimerar risken för dina egna styrkor.

Detta nya slagfält är också allestädes närvarande och. AI är kärnan i de så kallade drönarsvärmarna som har fått stor uppmärksamhet de senaste åren. Med hjälp av allestädes närvarande sensorer tillåter inte bara drönare att navigera i fientlig terräng, utan kan så småningom tillåta bildandet av komplexa formationer av olika typer av obemannade flygfarkoster som opererar i många områden, med ytterligare vapen som tillåter sofistikerad stridstaktik, som omedelbart anpassar sig till fiende. manövrar för att dra fördel av slagfältet och rapportera förändrade förhållanden.

Framsteg inom AI-stödd målbeteckning och navigering förbättrar också möjligheterna till effektivitet i ett brett spektrum av taktiska och strategiska försvarssystem, särskilt missilförsvar, genom att förbättra metoderna för att upptäcka, spåra och identifiera mål.

ökar ständigt kraften i simuleringar och spelverktyg som används för att forska om kärnvapen och konventionella vapen. Massmodellering och simulering kommer att vara avgörande för att utveckla ett omfattande flerdomänsystem av målsystem för stridskontroll och komplexa uppdrag. AI berikar också interaktioner med flera parter (5). AI:n tillåter spelare att lägga till och modifiera spelvariabler för att utforska hur dynamiska förhållanden (vapen, allierat engagemang, ytterligare trupper, etc.) kan påverka prestanda och beslutsfattande.

För militären är objektidentifiering en naturlig utgångspunkt för AI. För det första behövs en omfattande och snabb analys av det växande antalet bilder och information som samlas in från satelliter och drönare för att hitta föremål av militär betydelse, såsom missiler, trupprörelser och annan underrättelserelaterad data. Idag sträcker sig slagfältet över alla landskap – hav, land, luft, rymden och cyberrymden – på global skala.

Cyberrymdensom en i sig digital domän är den naturligtvis lämpad för AI-applikationer. På den offensiva sidan kan AI hjälpa till att hitta och rikta in sig på enskilda nätverksnoder eller individuella konton för att samla in, störa eller felinformera. Cyberattacker mot intern infrastruktur och kommandonätverk kan vara katastrofala. När det gäller försvaret kan AI hjälpa till att upptäcka sådana intrång och hitta destruktiva anomalier i civila och militära operativsystem.

Förväntad och farlig hastighet

Men snabbt beslutsfattande och snabbt utförande kanske inte tjänar dig väl. för effektiv krishantering. Fördelarna med artificiell intelligens och autonoma system på slagfältet ger kanske inte tid för diplomati, vilket, som vi vet från historien, ofta har varit framgångsrikt som ett sätt att förhindra eller hantera en kris. I praktiken kan avmattning, paus och tid att förhandla vara nyckeln till seger, eller åtminstone avvärja en katastrof, särskilt när kärnvapen står på spel.

Beslut om krig och fred kan inte överlåtas till prediktiv analys. Det finns grundläggande skillnader i hur data används för vetenskapliga, ekonomiska, logistiska och prediktiva syften. mänskligt beteende.

Vissa kan uppfatta AI som en kraft som försvagar den ömsesidiga strategiska känsligheten och därmed ökar risken för krig. Oavsiktligt eller avsiktligt skadad data kan få AI-system att utföra oavsiktliga åtgärder, som att felidentifiera och rikta in sig på fel mål. Handlingshastigheten som postuleras i fallet med utvecklingen av krigsalgoritmer kan innebära för tidig eller till och med onödig upptrappning som hindrar en rationell hantering av krisen. Å andra sidan kommer algoritmer inte heller att vänta och förklara, eftersom de också förväntas vara snabba.

Störande aspekt artificiell intelligenss algoritmer presenterades också av oss nyligen i MT. Inte ens experter vet exakt hur AI leder till de resultat som vi ser i resultatet.

När det gäller krigsalgoritmer har vi inte råd med sådan okunskap om naturen och hur de "tänker" dem. Vi vill inte vakna mitt i natten av kärnvapenbloss eftersom "vår" eller "deras" artificiell intelligens har bestämt att det är dags att äntligen göra upp spelet.