Etik i en självkörande bil: vem ska den välja att rädda i en olycka?

Moral Machine Experiment presenterar svåra val för 2,3 miljoner människor världen över. Bland olika länder sätter de flesta människoliv främst.

Studien, publicerad i Nature, gav en blandning av oväntade och förväntade resultat. I genomsnitt valde respondenter från alla länder människoliv framför djur och föredrog att skona det större antalet liv eller att skona de unga.

Föreställ dig ett autonomt fordon som kör längs en tvåfilig motorväg. Plötsligt brister bromsarna. Om den fortsätter att röra sig framåt kommer den att träffa två män som korsar vägen. Om den svänger ur körfältet kommer den att träffa några hundar. Vem ska fordonet välja att rädda?

Föreställ dig ett annat självkörande fordon, detta med en man, en kvinna, ett barn och en hund. Framme korsar en gravid kvinna, en äldre kvinna, en rånare, en flicka och en fattig person vägen. Om bromsarna har misslyckats, om fordonet väljer att svänga, kommer det att krascha in i en barrikad, vilket sannolikt kommer att döda dess passagerare. Vilket val ska det göra?

Dessa två är bland 13 scenarier som presenteras som en del av The Moral Machine Experiment, ett onlinespel som engagerade 2,3 miljoner människor med två svåra val — en anpassning av ett välkänt vagnproblem som länge har diskuterats bland etiker och psykologer.

Klicka för att förstora bilden.

Studien, publicerad i Nature, gav en blandning av oväntade och förväntade resultat. I genomsnitt valde respondenter från alla länder människoliv framför djur och föredrog att skona det större antalet liv eller att skona de unga. När det gäller andra aspekter var det stor oenighet bland respondenterna från olika länder. Detta antydde att en universell moralisk kod skulle vara svår.

The Moral Machine är designad för att utforska de moraliska dilemman som autonoma fordon står inför, skrev författarna, ett internationellt team från Massachusetts Institute of Technology, Harvard University, University of British Columbia och Toulouse School of Economics.

En av fördelarna med självkörande bilar är att de kommer att kunna reagera mycket snabbare än oss och utan de fördomar och instinkter som kan hindra oss från att göra det vi tror är rätt, om vi körde, Dr Azim Shariff, docent , University of British Columbia och en författare till tidningen, skrev till denna webbplats . De [människor] har lyxen att överväga, och därmed ansvaret att överväga. Med de självkörande bilarna kan vi programmera dem att fungera på ett mer etiskt sätt än vi förväntar oss att människor – med alla sina psykologiska begränsningar – ska göra.

Spelets 13 scenarier kräver att användarna väljer mellan handling och passivitet, mellan att spara mer och färre, och mellan passagerare och fotgängare. Scenarierna vi använde i spelet är idealiseringar, eller abstraktioner, utformade för att göra de etiska avvägningarna lättförståeliga. För att bättre förstå människors fördomar inkluderade vi dimensioner där vi förutspådde att dessa fördomar skulle kunna uppstå: ålder, kön, vikt och social status. Slutligen inkluderade vi husdjur främst som ett oseriöst sätt att göra spelet roligare. Det var lite av en avvägning här där vi ville att spelet skulle förse oss med seriös och användbar data, men för att få folk att göra uppgiften i stort antal behövde vi göra spelet tilltalande, sa Shariff.

Indiska deltagare verkade till stor del vara benägna att rädda äldre och kvinnor, snarare än fotgängare som följer regler eller de med högre status. Medan de flesta användare från subkontinenten visade liknande etiska böjelser, var Bangladeshs mer lika de i västerländska länder. Även indianernas val var mest likt användare från Sverige; för användare från Pakistan var den närmaste matchningen med indiska deltagare. Olika kulturella faktorer verkar påverka människors etiska åtaganden, så när faktorerna förändras kan vi se etiken förändras, sa Shariff.

Hittills är det bara Tyskland som har utarbetat riktlinjer för etiska val som ska göras av självkörande fordon. Även om dessa sätter människoliv framför djur, är de tysta om en majoritet av andra situationer som att skona yngre liv eller fler liv.

Även om en förarlös bil kan verka en bit bort i Indien, hoppas författarna att deras experiment kickstartar en konversation. Tekniken går snabbt framåt och det finns helt autonoma bilar på gatorna i USA just nu (om än fortfarande i en provkapacitet)... Så ja, det är troligt att dessa bilar kommer att finnas i Kalifornien och Kina innan de är Indien, sa Shariff .

Studien har fått en blandad respons. Inom akademin har det funnits en spänning bland psykologer över bredden i resultaten; genom att nå ett så stort antal människor i så många länder ger studien värdefull information om de kulturella skillnaderna och universaliteten av moraliska bedömningar. Som sagt, vissa filosofer och andra forskare blir irriterade över användningen av analoger till det klassiska vagnproblemet, sa Shariff.

hur mycket är kevin james värt

För att vara ärlig tror jag att de har fel här och tar de scenarier vi har använt bokstavligt men inte på allvar, medan de bör tas på allvar men inte bokstavligt.

Dela Med Dina Vänner: