torsdag 22 mars 2018

Vad gäller om din bil dödar någon?

Ubers olycka tidigare i veckan - den första dödsolyckan med en fotgängare och en autonom bil - har redan juridiska pekfingrar åt alla håll, men det är fortfarande för tidigt att säga vem som är ansvarig. Intrigen tätnar dagligen, med nya rykten och information.

En kvinna, på fel ställe på vägen nattetid. På en cykel. Eventuellt hemlös. På en upptagen gata som är känd för fyllefester. Inblandning av Uber, ett företag med tveksam etik. Som hade anlitat en f.d. kriminell som säkerhetsförare i det autonoma fordonet.

Medan vi väntar på en fullständig utredning kan vi analysera ansvaret, som inkluderar följande möjligheter.

1. Offret

Först bör det vara uppenbart att Elaine Herzberg, det 49-åriga offret, kan ha varit hemlös. Även om sociala fördomar mot de hemlösa utnyttjas så är det ingen grund för att skuldsätta. Hypotetiskt, om hon hade druckit på en av de många barerna i närheten - intill Arizona State University, som en gång var Playboy's # 1 "party school" - så kan det vara relevant. Att snedda över vägen trots närliggande korsningar skulle också vara relevant.

Men även om Uber-bilen hade förtursrätt så ändrar det inte mycket. Tänk dig om det var en småbarn som drog ut i vägen: ska skuldbördan ändras bara för att en robotbil har förtursrätt? Även om det var en oundviklig krasch kan man naturligtvis ifrågasätta om bilen borde ha körts långsammare, så att hastigheten anpassats efter  bilens förmåga?

2. Uber

Tempes polischef Sylvia Moir noterade: "Det verkar som om Uber sannolikt inte kan hållas ansvariga för denna olycka." Även om detta är sant talar polischefen bara om trafiklagar, inte om etisktt ansvar. All teknik har sina gränser; om Uber inte har redogjort för dessa gränser, exempelvis att en fotgängare som kan vara dold bakom ett träd eller parkerad lastbil ligger farligt till, skulle företaget då kunna hållas ansvariga?

Även om offret här cyklar ut från mörka skuggor, skulle dålig belysning inte vara ett problem med den LIDAR (i grunden en laserbaserad radar) som används av Uber. Men som Uber medger är vissa system bättre än andra. Om belysning är en faktor så kanske mörkhyade människor måste vara extra försiktiga, eftersom AI idag har svårt att upptäcka mörkhyade ansikten.

AI har också svårt att känna igen cyklar. Är det en riskfaktor borde det ha redovisats för autonoma fordon. Dessa och andra tekniska gränser, särskilt förutsägbara fel, kan innebära att AI-tekniker inte är klar för våra vägar. Uber har tidigare tänjt på lagar och förordningar.

3. Volvo

Ubers fordon var en Volvo XC90 SUV. Med tanke på att den modifierades och inte körde Volvos ursprungliga programvara så slipper Volvo kanske direkt ansvaret i detta fall. Men Volvo riskerar sitt goda rykte som partner med ett företag som ändrar mjukvaran så att detta nu hänt. I media kan Volvo anses vara skyldiga.

4. Ubers förare / operatör

Rafaela Vasquez-Uber, anställd övervakande passiv förare- hade tjänstgjort några år i fängelse för försök till väpnat rån. Denna kriminella bakgrund gör inte henne ansvarig för olyckan; men om hon visat sig vara ouppmärksam kan hon bli en lätt syndabock, med tanke på sociala fördomar mot ex-kriminella på arbetsplatsen. Dessutom kan Uber vara ansvarig för att inte korrekt utläsa, träna eller ställa förväntningar hos sina anställda, till exempel om de anställda har en falsk känsla av förtroende för fordonets förmåga.

5. Samhället fel - eller ingens?

Regeringen ska skydda sina medborgare. Så det är alltid oroande att se kommersiella projekt som spelar på kostnaden för allmän säkerhet. Arizona är redan känt för en av landets högsta antal dödsfall av fotgängare. Om stadsplanering, brottsbekämpning och andra faktorer är inblandade i den trenden och fortsätter att vara oadresserade, kan staten i viss utsträckning bära ansvaret. Den nuvarande federala förvaltningen kan också dela med sig av den skulden. AI-riktlinjer för säkerhet som den tidigare administrationen hade infört har senare tagits bort.

Eller så kanske ingen är ansvarig? Olyckor är bara en naturlig faktor i en ofullkomlig värld, och allt är en fråga om säkerhet och rörlighet.

6. Robotars rättigheter och skyldigheter?

Som ett första i sitt slag tar det här fallet oss till okänt territorium, även om vissa juridiska experter och etiker har tänkt på problemen. Stephen Wu, advokat vid Silicon Valley Law Group, har författat underlag om ansvar för ett scenario som detta; han instämmer i att även om fotgängaren var skyldig och en mänsklig förare inte kunde ha gjort bättre så är det fortfarande komplicerat.

"Det kan vara att medan en mänsklig förare inte kunde bromsat i tid, kunde ett automatiserat system kunnat", föreslår Wu. "Var det då något som var fel så att det här systemet misslyckades med att bromsa och en annan skulle ha kunnat? Det är den intressanta frågan. Om så är fallet kan vi hålla Uber ansvariga, även om en mänsklig förare inte kunde ha undvikit olyckan. "
Innan dess att robotar har fått mänskliga rättigheter som medborgarskap kvarstår detta faktum: ägaren är den som ska hållas till svars för sin robots - eller självkörande bils - moral och handlingar.

Denna artikel är en fri översättning från IEEE Spectrum

Inga kommentarer:

Skicka en kommentar

KMA - för Bygg & Anläggning?

K M A – Kvalitets-, miljö- och arbetsmiljöstyrning  Företag strävar idag efter att integrera ledningssystemen för kvalitet, miljö och arb...