Wat gebeurt er wanneer een ongeluk met een zelfrijdende auto onvermijdelijk is en de auto voor een keuze staat. Bijvoorbeeld, rij ik de afgrond in (en dood ik mijn bestuurder) of rij ik het kind aan dat zich plots op de rijweg bevind? Dat lijkt op het eerste zicht een vergezocht theoretisch probleem, maar dat is niet waar de ontwikkelaars van zelfrijdende auto’s van uitgaan. Er is immers een ontelbare situaties te verzinnen waarin soortgelijke keuzes worden gemaakt. Mensen maken die vaak instinctief, maar auto’s zullen erover redeneren en hun programmatie volgen. Het probleem was nijpend genoeg opdat de Technische Universiteit van München (niet toevallig in het hart van de Duitse autosector) zich over het probleem boog.

Een zelfrijdende auto is plots minder aantrekkelijk, niet?

Een commissie van de TUM stelde de eerste set ethische regels voor zelfrijdende auto’s op. Het panel, waartoe onder meer Christoph Lütge, Prof Zakelijke Ethiek, en Alexander Dobrindt, de Federale Minister voor Transport in Duitsland, maakten er deel van uit. Het resultaat is een set richtlijnen voor de programmeurs, die - zo benadrukken de leden - niet zelf mogen beslissen over leven en dood. We lijsten de voornaamste even op.

• Zelfrijdende auto’s kunnen alleen toegestaan worden wanneer bewezen is dat ze veiliger zijn dan conventionele auto’s.
• De zelfrijdende auto zou nooit bewust mogen beslissen z’n bestuurder te doden. Is een ongeluk onvermijdelijk dan is zo hard mogelijk remmen de enige ethische optie
• Wanneer een ongeluk onvermijdelijk is, is het acceptabel dat de auto bewust kiest voor het ongeluk met het minste aantal slachtoffers, voor zover het bovenstaande niet in het gedrang komt.
• Een auto mag nooit beslissen op basis van menselijke karakteristieken. Wanneer de auto bijvoorbeeld het onderscheid kan maken tussen een kind en een bejaarde, moet het de twee gelijk behandelen.
• Niet de technologie zelf, maar diens ontwikkelaars en fabrikanten dragen verantwoordelijkheid
• Het mag nooit zo zijn dat de mens de controle niet kan overnemen. De mens moet nooit ondergeschikt zijn aan de technologie.

De ethische regels zijn louter een poging om een kader te bieden. Er is op dit ogenblik vanzelfsprekend geen enkel wettelijk kader om ze op te leggen. Bovendien is het verre van ondenkbaar dat overheden in sommige landen andere prioriteiten stellen.