Vem kommer att dödas av en självkörande bil? Maskin, rädda så många människor du kan, men framför allt, rädda mig!

Om det uppstår en situation där det autonoma systemet i en bil måste göra ett snabbt val av vem som ska offras i händelse av en nära förestående olycka, hur ska den reagera? Att offra passagerare för att rädda fotgängare? Om det behövs, döda en fotgängare för att skona, till exempel en familj på fyra personer som reser i en bil? Eller kanske han alltid ska skydda sig själv först?

Med mer än sextio företag som redan godkänts för personliga tester bara i Kalifornien, är det svårt att säga att branschen förbereder sig för att möta etiska dilemman. För tillfället kämpar det med mer grundläggande problem - driften och navigeringseffektiviteten hos systemen och helt enkelt undvika kollisioner och oväntade händelser. I situationer som dödandet av en fotgängare nyligen i Arizona eller efterföljande olyckor (1) har diskussionen hittills bara handlat om systemfel och inte om något "etiskt val" av bilen.

Rädda de rika och unga

De frågor som är involverade i att fatta den här typen av beslut är inte abstrakta problem. Alla erfaren förare kan intyga detta. Förra året analyserade forskare från MIT Media Lab över fyrtio miljoner svar från respondenter från hela världen, som de samlade in under forskning som inleddes 2014. Enkätsystemet de kallade "Ethical Machine" visade att liknande frågor ställs i olika delar av världen. världen, olika svar.

De mest allmänna slutsatserna är förutsägbara. I extrema situationer människor föredrar att rädda människor framför att ta hand om djur, i syfte att rädda så många liv som möjligt, och tenderar att vara yngre än äldre människor (2). Det finns också vissa, men mindre tydliga, preferenser när det gäller att rädda kvinnor framför män, människor med högre status framför fattigare och fotgängare framför bilpassagerare..

2. Vem ska maskinen rädda?

Eftersom nästan en halv miljon respondenter fyllde i demografiska frågeformulär var det möjligt att korrelera deras preferenser med ålder, kön och religiös övertygelse. Forskarna drog slutsatsen att dessa skillnader inte "påtagligt påverkade" människors beslut, men noterade vissa kulturella influenser. Fransmännen tenderade till exempel att väga beslut utifrån det uppskattade antalet dödsfall, medan tonvikten i Japan var minst. Men i Land of the Rising Sun värderas de äldres liv mycket mer än i väst.

"Innan vi låter våra bilar fatta sina egna etiska beslut måste vi ha en global debatt om detta. När företag som arbetar med autonoma system lär sig om våra preferenser kommer de att utveckla etiska algoritmer i maskiner baserade på dem, och politiker kan börja införa adekvata lagbestämmelser”, skrev forskarna i oktober 2018 i Nature.

En av forskarna som var involverade i Moral Machine-experimentet, Jean-François Bonnefon, fann preferensen för att rädda människor med högre status (som chefer snarare än hemlösa) som bekymmersam. Enligt hans mening är detta mycket relaterat till nivå av ekonomisk ojämlikhet i ett visst land. Där ojämlikheten var större, gavs uppoffringar till de fattiga och hemlösa.

En tidigare studie fann särskilt att respondenterna trodde att en autonom bil skulle skydda så många människor som möjligt, även om det innebar att man förlorade passagerare. De tillfrågade uppgav dock att de inte skulle köpa en bil programmerad på detta sätt. Det förklarade forskarna Även om människor känner att det är mer etiskt att rädda fler människor, motiveras de också av sitt eget intresse, vilket kan vara en signal till tillverkarna om att kunderna kommer att dra sig för att köpa bilar utrustade med altruistiska system.. För en tid sedan sa representanter för Mercedes-Benz att om deras system bara räddade en person skulle de välja föraren snarare än fotgängaren. En våg av offentliga protester tvingade företaget att dra tillbaka sin deklaration. Men forskning visar tydligt att det fanns mycket hyckleri i denna heliga indignation.

Detta händer redan i vissa länder första försök till lagreglering i fält. Tyskland har antagit en lag som kräver att förarlösa bilar till varje pris undvika skador eller dödsfall. Lagen säger också att algoritmer aldrig kan fatta beslut utifrån egenskaper som ålder, kön, hälsa eller fotgängare.

Audi tar ansvaret

Designern kan inte förutse alla konsekvenser av att använda bilen. Verkligheten kan alltid ge en kombination av variabler som aldrig har testats tidigare. Detta undergräver vår tro på möjligheten att överhuvudtaget "etiskt programmera" en maskin. Det verkar för oss att i situationer där ett fel inträffar och en tragedi inträffar "på grund av bilens fel", bör tillverkaren och utvecklaren av systemet bära ansvaret.

Kanske är detta resonemang korrekt, men kanske inte för att det var fel. Snarare för att en rörelse var tillåten som inte 2019% var fri från möjligheten till dess provision. Detta verkar vara anledningen, och det övergripande ansvaret undandras inte av företaget, som nyligen meddelade att det skulle ta ansvar för olyckor med den 8-åriga A3:an när den använde det automatiska Traffic Jam Pilot-systemet.

3. Audi Traffic Jam Pilot-gränssnitt

Å andra sidan finns det miljontals människor som kör bil och dessutom gör misstag. Så varför ska maskiner, som statistiskt sett gör mycket färre misstag än människor, vilket framgår av många fel, diskrimineras i detta avseende?

Om någon tycker att dilemman med etik och ansvar i autonoma fordons värld är enkla, fortsätt att tänka...