Ethiek in een zelfrijdende auto: wie moet hij kiezen om te redden bij een ongeval?

Moral Machine Experiment presenteert 2,3 miljoen mensen wereldwijd moeilijke keuzes. Te midden van verschillen tussen landen, stellen de meesten mensenlevens op de eerste plaats.

De studie, gepubliceerd in Nature, leverde een mix van onverwachte en verwachte resultaten op. Gemiddeld verkozen respondenten van alle landen mensenlevens boven dieren, en gaven ze er de voorkeur aan om het grootste aantal levens te sparen, of om de jongeren te sparen.

Stel je voor dat een autonoom voertuig over een snelweg met twee rijstroken rijdt. Plots begeven zijn remmen het. Als het vooruit blijft gaan, zal het twee mannen raken die de weg oversteken. Als hij uitwijkt, zal hij een paar honden raken. Wie moet het voertuig kiezen om te redden?

Stel je een ander zelfrijdend voertuig voor, deze met een man, een vrouw, een kind en een hond. Verderop steken een zwangere vrouw, een oudere vrouw, een overvaller, een meisje en een arme de weg over. Als de remmen niet werken, zal het voertuig, als het besluit uit te wijken, tegen een barricade botsen, waardoor de passagiers waarschijnlijk zullen overlijden. Welke keuze moet het maken?

Deze twee zijn een van de 13 scenario's die worden gepresenteerd als onderdeel van The Moral Machine Experiment, een online game waarbij 2,3 miljoen mensen twee moeilijke keuzes moesten maken: een aanpassing van een bekend trolleyprobleem waarover al lang wordt gesproken onder ethici en psychologen.

Klik om de afbeelding te vergroten.

De studie, gepubliceerd in Nature, leverde een mix van onverwachte en verwachte resultaten op. Gemiddeld verkozen respondenten van alle landen mensenlevens boven dieren, en gaven ze er de voorkeur aan om het grootste aantal levens te sparen, of om de jongeren te sparen. Over andere aspecten was er grote onenigheid onder de respondenten van verschillende landen. Dit suggereerde dat een universele morele code moeilijk zou zijn.

The Moral Machine is ontworpen om de morele dilemma's van autonome voertuigen te onderzoeken, schreven de auteurs, een internationaal team van het Massachusetts Institute of Technology, Harvard University, University of British Columbia en Toulouse School of Economics.

Een van de voordelen van zelfrijdende auto's is dat ze veel sneller kunnen reageren dan wij en zonder de vooroordelen en instincten die ons ervan zouden kunnen weerhouden te doen wat we denken dat juist is, als we aan het rijden waren, Dr. Azim Shariff, universitair hoofddocent , University of British Columbia en een auteur van het artikel, schreef aan: deze website . Zij [mensen] hebben de luxe van overleg, en dus de verantwoordelijkheid van overleg. Met de zelfrijdende auto's kunnen we ze programmeren om op een meer ethische manier te werken dan we zouden verwachten van mensen - met al hun psychologische beperkingen - om te doen.

De 13 scenario's van de game vereisen dat gebruikers kiezen tussen actie en inactiviteit, tussen meer en minder besparen, en tussen passagiers en voetgangers. De scenario's die we in het spel hebben gebruikt, zijn idealiseringen, of abstracties, ontworpen om de ethische afwegingen gemakkelijk te begrijpen. Om de vooroordelen van mensen beter te begrijpen, hebben we dimensies opgenomen waarin we voorspelden dat deze vooroordelen zouden kunnen ontstaan: leeftijd, geslacht, gewicht en sociale status. Ten slotte hebben we huisdieren vooral opgenomen als een frivole manier om het spel leuker te maken. Er was hier een afweging waarbij we wilden dat de game ons serieuze en bruikbare gegevens zou geven, maar om mensen de taak in grote aantallen te laten doen, moesten we de game aantrekkelijk maken, zei Shariff.

Indiase deelnemers leken grotendeels geneigd om ouderen en vrouwen te redden, in plaats van voetgangers die regels volgen of mensen met een hogere status. Terwijl de meeste gebruikers van het subcontinent vergelijkbare ethische neigingen vertoonden, leken die van Bangladesh meer op die van westerse landen. Ook kwamen de keuzes van Indiërs het meest overeen met die van gebruikers uit Zweden; voor gebruikers uit Pakistan was de beste match met Indiase deelnemers. Verschillende culturele factoren lijken de ethische verplichtingen van mensen te beïnvloeden, dus als de factoren veranderen, kunnen we de ethiek zien veranderen, zei Shariff.

Tot nu toe heeft alleen Duitsland richtlijnen opgesteld voor ethische keuzes van zelfrijdende voertuigen. Hoewel deze mensenlevens voor dieren stellen, zwijgen ze over de meeste andere situaties, zoals het sparen van jongere levens of meer levens.

Hoewel een auto zonder bestuurder in India misschien wat ver weg lijkt, hopen de auteurs dat hun experiment een gesprek op gang brengt. De technologie vordert snel en er zijn momenteel volledig autonome auto's in de straten van de Verenigde Staten (zij het nog steeds in een proefcapaciteit) ... Dus ja, het is waarschijnlijk dat deze auto's in Californië en China zullen zijn voordat ze India zijn, zei Shariff .

Het onderzoek heeft gemengde reacties gekregen. Binnen de academische wereld was er opwinding onder psychologen over de reikwijdte van de resultaten; door zo'n groot aantal mensen in zoveel landen te bereiken, levert het onderzoek waardevolle informatie op over de culturele verschillen en universaliteit van morele oordelen. Dat gezegd hebbende, raken sommige filosofen en andere geleerden geïrriteerd door het gebruik van analogen met het klassieke trolleyprobleem, zei Shariff.

jared zwarte acteur

Eerlijk gezegd denk ik dat ze zich hier vergissen en de scenario's die we hebben gebruikt letterlijk maar niet serieus nemen, terwijl ze serieus maar niet letterlijk moeten worden genomen.

Deel Het Met Je Vrienden: