Ich danke den Kollegen Peter Michael Bak und Lutz Becker für ihre Kommentare zu meinem Beitrag Autos, Autonomie und Algorithmen. Beide Kollegen sprechen sich für eine Zulassung sogenannter Autonomer Auto aus und widersprechen meiner kritischen Position in dieser Frage. Zu den Kommentaren möchte ich an dieser Stelle eine kurze Erwiderung geben.
Meine beiden Kernargumente gegen die Zulassung Autonomer Autos lauten: a) Es ist nicht ersichtlich, wer die Verantwortung für die Programmierung der Algorithmen übernehmen kann und darf, und b) gibt keine ethisch vertretbare Programmierung für Dilemma-Situationen. Die Kommentatoren müssten somit die aus diesen Kernargumenten folgenden Fragen schlüssig beantworten: a‘) Wer darf über die Programmierung des Algorithmus entscheiden? b‘) Wie soll der Algorithmus in einer Dilemma-Situation entscheiden?
Die erste Frage (a‘) beantwortet Bak mit dem Vorschlag, die Legislative mit der Entscheidungsfindung zu beauftragen. Damit die Abgeordneten eine Entscheidung über mögliche Optionen treffen können, muss daher die zweite Frage (b‘) zuerst beantwortet werden.
Hierzu antwortet der Kollege Bak mit dem Vorschlag, den Zufall entscheiden zu lassen. Angesichts der Kontingenz menschlicher Entscheidungen ein praktikabler Vorschlag. Der Algorithmus soll also mal für den Schutz der Passanten, mal für den Schutz des Fahrers und seiner Beifahrer entscheiden. Mit anderen Worten: In einer gefährlichen Fahrsituation entscheidet der Algorithmus nicht begründet über Leben und Tod, sondern er würfelt. Die Passanten haben ebenso wie der Fahrer und seine Beifahrer eine fünfzigprozentige Chance zu überleben.
Peter Michael Bak verweist in seinem Kommentar auf die Medizintechnik und Medikamente. Hier geht es aber nicht um Kopfschmerzen, sondern um Leben und Tod. Ehrlicherweise müsste die Analogie dann lauten: Wenn ein Patient an einer lebensgefährlichen Krankheit leidet und ein neues Medikament würde eine fünfzig prozentige Chance auf Heilung versprechen – und eine fünfzig prozentige Chance, an dem Medikament zu sterben -, wer würde dieses Medikament dann zulassen, welcher Arzt würde es verschreiben und welcher Patient würde es einnehmen? Jeder muss diese Frage für sich entscheiden, aber in ethischen Fragen ist ein solches russisches Roulette zynisch und keinesfalls ein ernsthaftes Angebot für technischen oder medizinischen Fortschritt.
Hinzu kommt ein zweites Problem: Nachdem die Begeisterung über den Komfortvorteil Autonomer Autos abgeklungen sein wird und die Menschen nach einem Unfall die Schlagzeile „Auto tötet Fahrer“ auf den Titelseiten der Zeitungen gelesen haben werden, wird die Skepsis einsetzen. Und ein psychologischer Effekt: die Verlustaversion. Die Erkenntnisse der Neuen Erwartungstheorie lassen zumindest erwarten, dass der gewonnene Komfort die Risiken eines würfelnden Algorithmus nicht aufwiegen wird. Die Angst vor dem (zufälligen) Verlust des eigenen Lebens und dem der Beifahrer (Freunde, Ehepartner, Kinder) wird durch einige wenige Unfälle und entsprechende Schlagzeilen sehr schnell zur Ablehnung der neuen Technik führen. Die autonome Funktion wird nicht mehr eingeschaltet werden und Menschen, die sich von Algorithmen fahren lassen, werden als egoistische Hedonisten diskreditiert. Und dann werden die ersten Städte beraten, ob man die Fahrer Autonomer Autos zwingen will, ihre Fahrzeuge vor den Toren der Stadt zu parken.
Können Abgeordnete nun über diesen Algorithmus beschließen und somit die Frage nach der Entscheidungsinstanz (a‘) beantworten? Da es weder um Kopfschmerzen noch um Restrisiken im Promillebereich geht, scheint mir der Vorschlag von Peter Michael Bak erneut ungeeignet. Dass das deutsche Parlament ein Gesetz beschließt, welches das Leben und die Unversehrtheit seiner Bürger dem utilitaristischen Zufallskalkül eines Algorithmus überantwortet, ist nicht nur politisch unwahrscheinlich, sondern auch ein klarer Verstoß gegen die verfassungsrechtliche Garantie der Menschenwürde, zu deren Schutz die Abgeordneten verpflichtet sind.
Insofern sehe bei den Kommentaren keine schlüssige Widerlegung meiner Argumente. Für eine weiterhin notwendige Debatte in der Hochschule und in der Gesellschaft über die Legitimation und die Limitation neuer Techniken bieten die Beiträge den Lesern aber hoffentlich eine Anregung.
Hier gibt’s die PDF-Version des Fachartikels