Bør teknologi vælge mellem liv og død?

Tegning: Rasmus Juul.

Nogle forskere mener, at den selvstyrende bil kun er 10-15 år ude i fremtiden. Bilerne skal forprogrammeres til at træffe valg i ulykkessituationer, som i dag træffes af mennesker. Fremtidens biler rejser dermed både etiske, moralske og juridiske spørgsmål

En togvogn er kørt løbsk og kommer susende mod fem mennesker, som ligger bundet på skinnerne. Den eneste mulighed for at sikre deres overlevelse er at afspore toget. Ved siden af står en person med muligheden for at trække i et håndtag, som kan afspore toget. Men der ligger en person på sidesporet. Der er ikke mulighed for at afspore toget, uden at nogen mister livet. Derfor er der to valgmuligheder. Enten at trække i håndtaget og aktivt slå et menneske ihjel for at redde de fem. Eller at se passivt til og lade togvognen slå de fem mennesker ihjel. Hvad er det rigtige at gøre?

Hidtil har tankeeksperimentet været netop dét. Et hypotetisk tankeeksperiment. Men hvis de førerløse biler bliver en realitet, vil det være en afgørelse, som teknologien skal kunne give et svar på. Og der er tilsyneladende blot få år til, at de første førerløse biler triller ud i trafikken. Den amerikanske teknologigigant Google lagde i forrige uge en film på internettet, hvor selvstyrende biler kører rundt i et aflukket område i den amerikanske storby Los Angeles med menneskelige passagerer, som er ude af stand til at gribe ind i bilens færdsel. Og ud over Google er også bilproducenter som svenske Volvo og tyske BMW langt i udviklingen af selvstyrende køretøjer, men modsat Googles biler, som er designet til at erstatte behovet for den almindelige bil i byen, satser Volvo og BMW på biler, der er designet til langdistancekørsel på motorveje.

Fordi bilerne er selvstyrende og dermed uden mulighed for menneskelig indgriben, skal de programmeres til at tage højde for uforudsete situationer, hvor de kan komme til at vælge mellem liv og død, allerede inden de sættes på gaden. Og det skaber store udfordringer for dem, der arbejder på at gøre bilerne klar:

”Man skal foretage nogle afvejninger, hvor man skal vælge, hvem der skal påkøres, hvis situationen opstår. Det er jo i sagens natur vanskeligt og indebærer nogle moralske afvejninger af, hvordan man så skal programmere de her systemer,” siger Søren Riis, der er lektor i filosofi ved Roskilde Universitet og forsker i teknologifilosofi.

Tankeeksperimentet med togvognen blev fremsat af den britiske filosof Philippa Foot i 1967 og har dannet basis for utallige videreudviklinger af eksperimentet. Det baserer sig på et spørgsmål, som har hundredevis af år og filosofiske forsøg på løsninger bag sig: Kan der opstilles en endegyldig moralsk handleforskrift, som i enhver tænkelig situation kan fortælle mennesket, hvordan det skal handle, så det altid ved, hvad der er det rigtige og forkerte at gøre?

Med de selvstyrende biler vil producenterne nu blive nødt til at programmere bilerne ud fra en sådan bestemt moralsk forskrift, lyder det fra Søren Riis:

”Vælger producenterne at kode bilen sådan, at den sikrer ejeren, selvom det kan koste andre mennesker livet i trafikken, eller vil de i stedet sætte ejerens egen sikkerhed og liv på spil og eksempelvis vælge at lade bilen køre i grøften med høj hastighed for at undgå skade på andre?”

Programmørerne sidder i en praktisk vanskelig situation, hvor de selvstyrende biler skal programmeres til at agere selvstændigt. I USA, hvor teknologien er nået længst, har debatten drejet sig om forsikringsspørgsmål. Hvem skal holdes ansvarlig, hvis det pludselig ikke længere er føreren bag rattet? Juridisk set er det problematisk, når det ikke længere er en menneskelig chauffør, som har forvoldt ulykken. For hvem kan i så fald betegnes som den ansvarlige, når det går galt?

”Det bliver lige pludselig kompliceret at afgøre, hvem der bærer ansvaret. For er det bilisten, der sidder i bilen, er det Google, der har produceret bilen, eller er det programmøren, der har lavet den algoritme, der ligger til grund for programmeringen af bilen?” spørger lektor Søren Riis.

Selvom der kan være etiske og juridiske udfordringer allerede inden, de selvstyrende biler sættes på gaden, fordi de skal programmeres til i yderste konsekvens at vælge mellem liv og død, så er hensigten bag bilerne overordnet set at mindske antallet af ulykker, hvor menneskelig fejlbarlighed ofte er en medvirkende og erstatningsansvarsudløsende faktor, hvad enten ulykken skyldes spritbilisme eller generel uopmærksomhed:

”Som det er nu, ved vi aldrig, hvad manden i bilen foran os tænker. Når bilerne er maskinelt programmerede og kan kommunikere med hinanden, vil man have en anden form for sikkerhed, fordi bilerne med det samme ved, når en anden bil bremser, eller der er et problem, som kræver en hurtig reaktion,” siger Søren Riis.

”Men for at kunne betjene et transportmiddel, som skal kunne køre i et menneskefyldt miljø, hvor utilregnelighed spiller en rolle, så er det på sin vis også nødvendigt at kunne tænke og agere ligesom et menneske. Den sammensatte og komplekse menneskelige erfaring kan ikke bare genskabes ved forsøget på at programmere en bestemt moralsk algoritme. Det er i hvert fald uhyre vanskeligt, og man kan nok i bedste fald på sigt kun komme til at lave noget, der minder om det,” siger Søren Riis.

Samtidig peger han på, at teknologien vil udelukke, at der laves undtagelser til reglerne, fordi bilerne netop på forhånd programmeres til, hvad de må og ikke må. Også selvom der vil være undtagelser, som i visse tilfælde ville kunne retfærdiggøres moralsk:

”Der vil ikke kunne tages højde for særlige situationer, hvor det måske kunne være nødvendigt at køre hurtigere, end man egentlig må. Hvis man nu skulle køre sin gravide kæreste til sygehuset, er det jo et nødstilfælde, så vil man pludselig blive bremset i det, selvom det godt ville kunne retfærdiggøres i situationen at overskride den fastlagte hastighedsgrænse.”

Problemerne er til stede, men ud over øget sikkerhed, er der samtidig mange fordele ved de selvstyrende biler, siger Klaus Æ. Mogensen, der beskæftiger sig med teknologi ved Instituttet for Fremtidsforskning.

”Ud over at det bliver mere sikkert, så bliver det også mere komfortabelt. Man behøver ikke tænke på, hvem der skal holde sig ædru, når man er til fest. Bilerne kan indrettes anderledes, så man kan sove eller sidde rundt om et bord, mens man kører. Man kan sidde og arbejde, mens bilen holder i kø. Men selve det at holde i kø kan helt forsvinde, fordi de selvstyrende biler kan køre tættere og bedre tilrettet forholdene, og de vil kunne blive omdirigeret efter, hvor der er ledig kapacitet på vejene.”

”Selvfølgelig vil mange sidde med hjertet i halsen, men det gør man jo i forvejen, hvis man er passager i en bil. Jeg har tit siddet ved siden af en chauffør, hvor jeg ville ønske, jeg havde en bremse ved min fod,” siger Klaus Æ. Mogensen.

Han forestiller sig, at der vil komme et tidspunkt, hvor bilerne, som de ser ud i dag, vil blive forbudt, fordi sikkerhedsfordelene ved de selvstyrende biler langt vil overstige de eventuelle ulemper:

”Det varer måske nok længe, inden det bliver forbudt at køre bil selv, så mange vil stadig tage kørekort. Men en dag vil det ikke være nødvendigt mere, og så bliver bilkørsel noget, folk dyrker mere som en hobby. Formentlig kommer der et tidspunkt i løbet af 25 år, hvor almindelige biler vil blive forbudt, fordi det simpelthen er for farligt at slippe mennesker løs på gaden.”

Steen Brock, lektor i filosofi ved Aarhus Universitet, mener ikke, at noget ikke-menneskeligt som selvstyrende biler en dag vil kunne tilskrives ansvar og pligter. Noget, som er programmeret, vil aldrig kunne handle moralsk, fordi moral er en særlig menneskelig kvalitet:

”Det, der adskiller mennesket fra alt andet, er, at vi er selvbevidste. Moral består ikke nødvendigvis kun i beslutninger og valg, som er rigtige og forkerte, men i selve overvejelsen, der går forud for. Disse moralske overvejelser er noget, som ledsager mennesket hele livet igennem.”

Ligesom lektor Søren Riis ser Steen Brock også et problem i at programmere moral:

”Moral kan aldrig sættes på en endegyldig formel. Som mennesker er vi altid i færd med at tale om moral, og en robot vil aldrig blive en del af denne samtale. Fejlen ved mange etiske teorier er, at de er forsøg på at lave et lukket rum for, hvad der er moralske betragtninger, men moral er ikke en debat, som kan afsluttes. Det er bedre at kigge mod skønlitteraturen, som er én lang kæde af altid nye vanskeligheder og dilemmaer, som den menneskelige eksistens støder på. Den østrigske filosof Ludwig Wittgenstein (1889-1951) har en tanke om, at vi godt kan have teorier om stjerner, men vi kan ikke have en fastlagt teori for det moralske i menneskelivet.”

Derfor præsenterer de selvkørende biler heller ikke et valg mellem moral eller teknologi, fordi de ikke er noget alternativ til det menneskelige, moralske univers. For Steen Brock er det væsentlige i stedet, hvor meget robotter skal have lov at fylde i vores hverdag:

”Robotter er noget, som mennesket fortsat skal bruge og justere. Forholdet mellem menneske og teknologi er som mellem kaptajn og skib, og den menneskelige bruger skal være styrmand,” siger han.

Steen Brock peger på, at vi i dag ser en verden, hvor alt bliver stadig mere skematiseret og regellagt. Heroverfor står den såkaldte livsverden til modsætning, hvor vi som mennesker udfolder vores private følelser af selvstændighed og autonomi. Og netop det er en af årsagerne til, at mange mennesker i dag holder meget af at køre i bil. For ganske vist er normal bilkørsel også underlagt visse regler, men graden af autonomi er stadig høj. Fratager man mennesket denne frihed, så er det endnu et skridt i retningen af en mere regelbaseret og kontrolleret hverdag:

”Hvis man kigger på debatten om velfærdssamfundet i dag og skellet mellem det offentlige og det private liv, så er det offentlige blevet et system, hvor alt dokumenteres, og der laves regler for alt. Det system kan ende med at blive blindt for livsverdenen den verden, vi rent faktisk lever i. Som den tyske filosof Friedrich Nietzsche (1844-1900) sagde, så bliver det næsten 'menneskeligt, alt for menneskeligt', når alt fastlægges efter regler og principper,” siger Steen Brock.

Men introduktionen af ny teknologi som eksempelvis selvstyrende biler skal heller ikke overdramatiseres. Radikale samfundsændringer har altid været en del af tilværelsen, og derfor skal det ikke være et argument imod introduktionen af selvstyrende biler, at de ikke kan handle moralsk, mener Steen Brock:

”Kig mod jernbanen, da den blev opfundet under industrialiseringen. Det er den samme problematik som med selvstyrende biler. Jernbanen var en ny teknologi, som gjorde en masse nye ting mulige, men samtidig medførte den en kæmpe risiko for ulykker. Den første jernbaneulykke havde enorm kulturel effekt. Det vil være det samme med selvstyrende biler. Faren er til stede, men det hører med til alle nye teknologier. Hele vores kultur bygger på ild, men vi lever jo med brandfaren.”