Skräckkabinettet

Maskinernas framväxt och maktövertagandet av artificiell intelligens. En värld av total övervakning och social kontroll. Kärnvapenkrig och civilisationens degeneration. Många mörka framtidsvisioner, ritade för många år sedan, borde ha hänt idag. Och under tiden ser vi tillbaka och det verkar som att de inte var där. Är du säker?

Det finns en ganska stereotyp repertoar av populära dystopiska profetior (om den svarta framtidsvisionen). Förutom de vanligaste som är förknippade med förstörelsen av den naturliga miljön och resurserna, är det en allmän uppfattning att den senaste tekniken skadar interpersonell kommunikation, relationer och samhället.

Virtuella utrymmen kommer bedrägligt att ersätta verkligt deltagande i världen. Andra dystopiska synsätt ser den tekniska utvecklingen som ett sätt att öka social ojämlikhet, koncentrera makt och rikedom i händerna på små grupper. Den moderna teknikens höga krav koncentrerar kunskap och färdigheter i snäva kretsar av privilegierade individer, ökar övervakningen av människor och förstör integriteten.

Enligt många futurister kan högre produktivitet och större synliga valmöjligheter skada människors livskvalitet genom att orsaka stress, äventyra jobb och göra oss allt mer materialistiska om världen.

En av de berömda tekniska "dystopierna", James Gleick, ger ett till synes trivialt exempel på en TV-fjärrkontroll som en klassisk uppfinning som inte löser ett enda betydande problem, vilket ger upphov till många nya. Gleick, citerar en teknisk historiker Edward Tenner, skriver att möjligheten och enkelheten att byta kanal med hjälp av fjärrkontrollen i första hand tjänar till att distrahera tittaren mer och mer.

Istället för tillfredsställelse blir folk alltmer missnöjda med kanalerna de tittar på. Istället för att tillfredsställa behov finns en känsla av oändlig besvikelse.

Kommer bilar att hålla oss på reservationer?

Kommer vi att kunna kontrollera denna sak som är oundviklig och förmodligen kommer snart? Över artificiell intelligens? Om detta ska vara fallet, som många dystopiska visioner förkunnar, så nej. (1).

Det är svårt att kontrollera något som är många gånger starkare än oss. med en ökning av antalet arbetsuppgifter. För tjugo år sedan skulle ingen ha trott att de kunde läsa känslor i en persons röst och möta mycket mer exakt än vi själva kan göra det. Samtidigt är de för närvarande tränade algoritmerna redan kapabla att göra detta, analysera ansiktsuttryck, klang och hur vi talar.

Datorer ritar bilder, komponerar musik, och en av dem vann till och med en poesitävling i Japan. De har slagit folk i schack länge och lärt sig spelet från grunden. Detsamma gäller det mycket mer komplexa spelet Go.

den lyder lagarna för allt snabbare acceleration. Vad AI har uppnått – med hjälp av människor – under de senaste decennierna kommer att fördubblas under de närmaste åren, kanske bara månader, och sedan tar det bara veckor, dagar, sekunder...

Som det visade sig nyligen kan algoritmerna som används i smartphones eller på flygplatser för att analysera foton från allestädes närvarande kameror inte bara känna igen någon i olika ramar, utan också bestämma intima psykologiska egenskaper. Att säga att detta är en enorm integritetsrisk är som att inte säga någonting. Det handlar inte om enkel övervakning, att titta på varje steg, utan om information som uppstår som ett resultat av själva utseendet på en person, om hans dolda önskningar och personliga preferenser. 

Algoritmer kan lära sig detta relativt snabbt genom att analysera hundratusentals fall, vilket är mycket mer än vad även den mest skarpsinniga personen kan se under en livstid. Beväpnade med en sådan rikedom av erfarenhet kan de skanna en person mer exakt än till och med den mest erfarna psykologen, kroppsspråks- och gestanalytikern.

Så den verkliga kyliga dystopin är inte att datorer spelar schack eller går emot oss, utan att de kan se vår själ djupare än någon annan än vi själva, fulla av förbud och blockeringar i att känna igen dessa eller andra böjelser.

Elon Musk tror att när AI-system börjar lära sig och resonera i en ständigt ökande skala, kan "intelligens" utvecklas någonstans djupt i webblager, omärkligt för oss.

Enligt en amerikansk studie publicerad 2016 har artificiell intelligens under de kommande 45 åren 50 procents chans att överträffa människor i alla uppgifter. Prognosmakare säger att ja, AI kommer att lösa problemet med cancer, förbättra och påskynda ekonomin, tillhandahålla underhållning, förbättra livskvaliteten och varaktigheten, utbilda oss så att vi inte kan leva utan det, men det är möjligt att en dag, utan hat, bara för baserat på logiska beräkningar tar det bara bort oss. Kanske kommer det inte att fungera fysiskt, för i varje system är det värt att spara, arkivera och lagra resurser som "kan komma väl till pass någon gång". Ja, det här är resursen vi kan vara för AI. Skyddad arbetskraft?

Optimister tröstar sig med att det alltid finns möjlighet att dra ut kontakten ur uttaget. Allt är dock inte så enkelt. Människolivet har redan blivit så beroende av datorer att ett radikalt steg mot dem skulle vara en katastrof för oss.

När allt kommer omkring skapar vi alltmer AI-baserade beslutssystem, ger dem rätten att flyga flygplan, sätta räntor, driva kraftverk – vi vet att algoritmer kommer att göra det mycket bättre än oss. Samtidigt förstår vi inte helt hur dessa digitala beslut tas.

Det finns farhågor för att superintelligenta kommandosystem som "Minska trängseln" kan få dem att dra slutsatsen att det enda effektiva sättet att få jobbet gjort är att... minska befolkningen med en tredjedel eller till och med hälften.

Ja, det är värt att ge maskinen den viktigaste instruktionen som "Först av allt, rädda ett människoliv!". Men vem vet om då digital logik kommer att leda till att mänskligheten fängslas eller under ladan, där vi kanske är säkra, men absolut inte fria.

Cyberbrottslighet som en tjänst

Förr utspelade sig dystopier och bilder av den postapokalyptiska världen inom litteratur och film vanligtvis i den postnukleära eran. Idag verkar kärnvapenförintelse inte nödvändigt för katastrofen och förstörelsen av världen som vi känner den, även om det inte är på det sätt vi föreställer oss. , det är osannolikt att förstöra världen som i "Terminator", där det kombinerades med kärnvapenförintelse. Om hon gjorde det skulle hon inte vara en superintelligens, utan en primitiv kraft. När allt kommer omkring har inte ens mänskligheten ännu insett det globala scenariot med en förödande kärnvapenkonflikt.

En riktig maskinapokalyps kan vara mycket mindre imponerande.

Cyberkrigföring, virusattacker, systemhackning och ransomware, ransomware (2) förlamar och förstör vår värld inte mindre effektivt än bomber. Om deras omfattning expanderar, kan vi gå in i en fas av heltäckande krig där vi kommer att bli offer och gisslan för maskiner, även om de inte är skyldiga att agera självständigt, och det är möjligt att människor fortfarande kommer att stå bakom allt.

Förra sommaren utnämnde U.S.A. Cyber ​​​​Security and Infrastructure Security Agency (CISA) ransomware-attacker till "det mest synliga cybersäkerhetshotet."

CISA hävdar att många aktiviteter där en cyberbrottsling fångar upp och krypterar en persons eller organisations data och sedan utpressar en lösensumma aldrig rapporteras eftersom offret betalar cyberbrottslingarna och är ovillig att offentliggöra problem med deras osäkra system. På mikronivå riktar sig cyberkriminella ofta till äldre personer som har svårt att skilja på ärligt och oärligt innehåll på Internet. De gör detta med skadlig programvara inbäddad i en e-postbilaga eller ett popup-fönster på en infekterad webbplats. Samtidigt ökar attackerna mot stora företag, sjukhus, myndigheter och regeringar.

De sistnämnda var särskilt riktade på grund av de känsliga uppgifter de hade och förmågan att betala stora lösensummor.

Viss information, som hälsoinformation, är mycket mer värdefull för ägaren än annan och kan tjäna kriminella mer pengar. Tjuvar kan fånga upp eller sätta stora block av klinisk data som är viktiga för patientvården i karantän, såsom testresultat eller läkemedelsinformation. När livet står på spel finns det inget utrymme för förhandling på sjukhuset. Ett av de amerikanska sjukhusen stängdes permanent i november förra året efter terrorattacken i augusti.

Det kommer nog bara att bli värre med tiden. Under 2017 meddelade USA:s Department of Homeland Security att cyberattacker kan rikta sig mot kritisk infrastruktur som vattenverk. Och de verktyg som behövs för att utföra sådana åtgärder blir alltmer tillgängliga för mindre operatörer, till vilka de säljer lösenprogrampaket som Cerber och Petya-programvara och tar ut en lösensumma efter framgångsrika attacker. Baserat på cyberbrott som en tjänst.

Farlig störning i arvsmassan

Ett av de populära ämnena för dystopi är genetik, DNA-manipulation och uppfödning av människor - dessutom "programmerad" på rätt sätt (myndigheter, företag, militär).

Den moderna gestaltningen av dessa ångest är en metod för popularisering CRISPR-genredigering (3). Mekanismerna den innehåller är i första hand oroande. framtvinga önskade funktioner i efterföljande generationer och deras potential sprids till hela befolkningen. En av uppfinnarna av denna teknik, Jennifer Doudna, till och med nyligen krävde ett moratorium för sådana "groddlinje"-redigeringstekniker på grund av potentiellt katastrofala konsekvenser.

Minns att för några månader sedan, en kinesisk vetenskapsman På Jiankui har fått stor kritik för att ha redigerat generna från mänskliga embryon för att immunisera dem mot AIDS-viruset. Anledningen var att de förändringar han gjorde kunde överföras från generation till generation med oförutsägbara konsekvenser.

Särskilt oroande är det så kallade d (genomskrivning, gendrift), d.v.s. en genetiskt modifierad mekanism som kodar för ett redigeringssystem i en given individs DNA CRISPR/CAS9-genom med att ställa in den för att redigera denna variant av den oönskade genen. På grund av detta skriver ättlingarna automatiskt (utan medverkan av genetiker) över den oönskade genvarianten med den önskade.

En oönskad genvariant kan dock tas emot av avkomma "som en gåva" från en omodifierad annan förälder. Så gendrift låt oss bryta Mendelska ärftlighetslagarsom säger att hälften av de dominerande generna går till avkomman från en förälder. Kort sagt kommer detta på sikt leda till att den aktuella genvarianten sprids till hela befolkningen.

Biolog vid Stanford University Christina Smolke, tillbaka på en panel om genteknik 2016, varnade för att denna mekanism kan få skadliga och i extrema fall skrämmande konsekvenser. Gendriften kan mutera när den går genom generationerna och orsaka genetiska störningar som hemofili eller hemofili.

Som vi läser i en artikel publicerad i Nature Reviews av forskare vid University of California, Riverside, även om en drift fungerar som avsett i en population av en organism, kan samma ärftliga egenskap vara skadlig om den på något sätt introduceras i en annan population. . samma utseende.

Det finns också en fara att forskare skapar gendrivningar bakom stängda dörrar och utan peer review. Om någon avsiktligt eller oavsiktligt introducerar en skadlig gendrift i det mänskliga genomet, till exempel en som förstör vår resistens mot influensa, kan det till och med innebära slutet för homo sapiens-arten...

Övervakningskapitalism

En version av dystopi som tidigare science fiction-författare knappast kunde ha föreställt sig är verkligheten på Internet, och särskilt sociala medier, med alla dess brett beskrivna konsekvenser som förstör människors integritet, relationer och psykologiska integritet.

Den här världen målas bara upp i nyare konstföreställningar, som det vi kunde se i Black Mirror-serien i 2016 års avsnitt "The Diving" (4). Shoshana Zuboff, en Harvard-ekonom, kallar denna verklighet helt beroende av social självbekräftelse och helt "deprivatiserad". övervakningskapitalism (), och samtidigt kronan på verket för Google och Facebook.

4. Scen från "Black Mirror" - avsnitt "Diving"

Enligt Zuboff är Google den första uppfinnaren. Dessutom utökar man hela tiden sin övervakningsverksamhet, till exempel genom till synes oskyldiga smarta stadsprojekt. Ett exempel är World's Most Innovative Neighborhood-projekt av Sidewalk Labs, ett dotterbolag till Google. brygga i Toronto.

Google planerar att samla in alla de minsta uppgifterna om livet för invånarna vid vattnet, deras rörelser och till och med andning med hjälp av allestädes närvarande övervakningssensorer.

Det är också svårt att välja en internetdystopi som är utesluten på Facebook. Övervakningskapitalismen kan ha uppfunnits av Google, men det var Facebook som tog den till en helt ny nivå. Detta gjordes genom sociala och emotionella virala mekanismer och hänsynslös förföljelse av även de som inte är användare av Zuckerberg-plattformen.

Bevakad AI, nedsänkt i virtuell verklighet, lever med UBI

Enligt många futurister betecknas världens och teknologins framtid med fem förkortningar - AI, AR, VR, BC och UBI.

Läsare av "MT" vet nog väl vad de är och vad de tre första består av. Den välbekanta visar sig också vara den fjärde, "BC", när vi förstår vad det handlar om. Och den femte? UBD är en förkortning av begreppet, som betyder "universell basinkomst » (5). Detta är en allmännytta, postulerad från tid till annan, som kommer att ges till varje person som släpps från jobbet när andra teknologier utvecklas, särskilt AI.

5. Universell grundinkomst - UBI

Schweiz lade till och med idén till en folkomröstning förra året, men dess medborgare förkastade den, av rädsla för att införandet av en garanterad inkomst skulle leda till en flod av invandrare. UBI bär också med sig en rad andra faror, inklusive risken att vidmakthålla befintliga sociala ojämlikheter.

Var och en av de tekniska revolutionerna bakom akronymen (se även:) – om den sprider sig och utvecklas i den förväntade riktningen – har enorma konsekvenser för mänskligheten och vår värld, inklusive, naturligtvis, en enorm dos dystopi. Till exempel tror man att det skulle kunna ersätta fyraåriga valcykler och leda till folkomröstningar i en myriad av frågor.

Virtuell verklighet kan i sin tur "utesluta" en del av mänskligheten från den verkliga världen. Som det hände till exempel med koreanen Jang Ji Sung, som efter sin dotters död 2016 i en obotlig sjukdom sedan dess har träffat sin avatar i VR. Det virtuella utrymmet skapar också nya typer av problem, eller överför faktiskt alla gamla kända problem till den "nya" världen, eller till och med till många andra världar. Till viss del kan vi redan se detta i sociala nätverk, där det händer att för få likes på inlägg leder till depression och självmord.

Profetiska berättelser mer eller mindre

När allt kommer omkring, historien om skapandet av dystopiska visioner lär också ut försiktighet i att formulera förutsägelser.

6. Omslag till "Öar i nätet"

Förra året filmades Ridley Scotts berömda sci-fi-mästerverkandroid hunter» Sedan 1982. Det är möjligt att diskutera uppfyllelsen eller inte av många specifika element, men det är obestridligt att den viktigaste profetian om existensen i vår tid av intelligenta, humanoida androider, på många sätt överlägsna människor, ännu inte har blivit verklighet.

Vi skulle vara redo att tolerera många fler profetiska träffar."Neuromancerar»dvs romaner William Gibson sedan 1984, som populariserade begreppet "cyberrymden".

Men under det decenniet dök en lite mindre känd bok upp (i vårt land nästan helt, eftersom den inte översattes till polska), som förutspådde dagens tid mycket mer exakt. Jag pratar om romantikÖar på webben"(6) Bruce Sterling sedan 1988, utspelad 2023. Den presenterar en värld nedsänkt i vad som liknar Internet, känt som "webben". Det kontrolleras av stora internationella företag. "Öar på webben" är kända för att tillhandahålla kontroll, övervakning och monopolisering av det påstådda fria Internet.

Det är också intressant att förutse militära operationer som utförs med hjälp av obemannade flygfarkoster (drönare) mot onlinepirater/terrorister. Operatörer tusentals mil bort med säkra stationära datorer – hur vet vi det? Boken handlar inte om den oändliga konflikten med islamisk terrorism, utan om kampen mot de krafter som motsätter sig globaliseringen. Världen av Islands in the Net är också fylld med konsumentenheter som ser mycket ut som smartklockor och smarta sportskor.

Det finns en annan bok från 80-talet som, även om några av händelserna verkar mer fantastiska, gör ett bra jobb med att illustrera vår moderna dystopiska rädsla. denna"Georadar programvara", Historia Rudy Rookerutspelar sig 2020. Världen, samhällets tillstånd och dess konflikter verkar otroligt lika det vi har att göra med idag. Det finns också robotar som kallas boppers som har fått självkännedom och rymt till städer på månen. Detta element har ännu inte materialiserats, men maskinernas revolt blir en ständig refräng för svarta förutsägelser.

Vår tids visioner i böckerna är också slående träffsäkra på många sätt. Octavia Butler, speciellt iLiknelser om såmannen» (1993). Handlingen börjar 2024 i Los Angeles och utspelar sig i Kalifornien, ödelagd av översvämningar, stormar och torka orsakade av klimatförändringar. Mellan- och arbetarfamiljer möts i gated communities när de försöker fly omvärlden med beroendeframkallande droger och virtual reality-kit. Nya religioner och konspirationsteorier växer fram. Flyktingkaravanen beger sig norrut för att undvika ekologisk och social kollaps. En president kommer till makten som använder kampanjsloganen "Make America Great Again" (detta är Donald Trumps slogan) ...

Butlers andra bok, "Liknelsen om talangernaberättar hur medlemmar av en ny religiös kult lämnar jorden i ett rymdskepp för att kolonisera Alpha Centauri.

***

Vad är lärdomen av denna omfattande undersökning av förutsägelser och visioner som gjordes för flera decennier sedan angående vårt dagliga liv?

Sannolikt är faktum att dystopier inträffar ofta, men oftast bara delvis.