BLOG

Modernen Technologien mangelt es an menschlichen Kompetenzen

18/02/2016 11:46 CET | Aktualisiert 18/02/2017 11:12 CET
Bloomberg via Getty Images

Selbstfahrende Autos sind derzeit ein heiß diskutiertes Thema. Die Versuche diverser Firmen in diesen Bereich und andere auf künstlicher Intelligenz basierende Technologien einzusteigen, machten es zum Hauptthema der letzten Consumer Electronics Show.

Künstliche Intelligenz kann nicht mit dem menschlichen Verstand mithalten

Das kommende Jahrzehnt bietet einige vielversprechende Chancen für die Entstehung neuer spannender Industriezweige. Aber wie so häufig erfordert diese Form von künstlicher Intelligenz ohne menschliche Komponenten wie Vernunft, Empathie und schlicht gesunden Menschenverstand eine besondere Vorsicht, wenn es darum geht, solche Innovation in unseren Alltag zu integrieren.

Stellen Sie sich vor, Sie sitzen in Ihrem selbstfahrenden Auto, und chatten beiläufig über die Videofunktion mit einem Familienmitglied, während Sie sich mit rund 80 Kilometern pro Stunde fortbewegen.

Plötzlich springt ein Reh aus dem nahegelegenen Wald vor Ihr Auto. Das Gehirn des Autos, ausgestattet mit Sensoren, registriert die Information und kalkuliert die Wahrscheinlichkeit eines Zusammenstoßes. Doch leider stehen die Chancen bei 100 Prozent, dass Ihr Auto nicht genug Zeit hat anzuhalten. Die Kollision mit dem Reh ist unvermeidbar.

Die Sensoren des Autos beobachten auch das weitere Umfeld. Auf der rechten Seite benutzt ein Fahrradfahrer einen gekennzeichneten Fahrradweg. Ein anderes Auto kommt aus der entgegengesetzten Richtung. Diese grobe Skizze soll Ihnen ein Gefühl für die Situation geben.

2016-02-17-1455729380-4534779-skizze.jpg

Angesichts der unmittelbaren Gefahr einer Kollision mit dem Reh, muss sich das Gehirn des Autos für eine Handlung entscheiden. Es gibt drei Möglichkeiten:

Erste Möglichkeit: Kollision mit Reh

Das Auto bleibt auf seiner Spur, bremst so stark wie möglich und kollidiert mit dem Reh. Da der Zusammenstoß mit einem 180 Kilogramm schweren Tier sehr schwerwiegend ist, schätzt das Gehirn das Risiko, dass Sie hierdurch schwer verletzt oder gar getötet werden, als extrem hoch ein - selbst, wenn alle Insassen angeschnallt sind und das Fahrzeug über Airbags verfügt.

Das Tier wird mit hoher Wahrscheinlichkeit getötet werden und Ihr Auto einen schweren Schaden davontragen.

Zweite Möglichkeit: Kollision mit Fahrradfahrer

Das Auto schert nach rechts aus, bremst so stark wie möglich, aber stößt mit dem Fahrradfahrer zusammen. Ihre Chance zu überleben liegt bei 100 Prozent, wenn auch mit einigen eventuellen Verletzungen.

Es besteht jedoch auch eine einhundertprozentige Wahrscheinlichkeit, dass der Fahrradfahrer schwer verletzt oder getötet wird.

Dritte Möglichkeit: Kollision mit Fahrzeug

Das Auto weicht nach links aus, bremst so stark wie möglich und kollidiert mit dem entgegenkommenden Fahrzeug. In diesem Fall liegt Ihre Wahrscheinlichkeit, schwer verletzt oder getötet zu werden, bei 30 Prozent. Die gleiche Wahrscheinlichkeit gilt für die Insassen des anderen Autos.

Die Frage ist somit: Für welche Möglichkeit wird sich das Gehirn des Autos entscheiden? Die Antwort ist: Es kommt auf die Metrik an, die das Gehirn zu optimierten trainiert wurde.

Wenn die Optimierungs-Funktion lautet "Rette die Leben der Fahrzeuginsassen", wird das Auto nach rechts ausweichen und mit dem Fahrradfahrer zusammenstoßen. Der Unfall könnte zum Tod oder zur schweren Verletzung eines Menschen führen.

Wenn die Optimierungs-Funktion jedoch lautet „Minimiere den Gesamtverlust von Leben", wird das Auto nach links ausweichen und mit dem entgegenkommenden Auto zusammenstoßen. Die kumulierte Wahrscheinlichkeit für schwere Verletzungen oder den Verlust eines Lebens läge bei 60 Prozent.

Es ist eindeutig, dass es keine einfachen Antworten gibt. Sehr wahrscheinlich werden Objektivisten wie auch Subjektivisten meine Berechnungen zur kumulierten Wahrscheinlichkeit fehlerhaft finden. Doch die Intention hinter diesem Beispiel ist es, die wahrscheinlichkeitstheoretische Analyse zu einem extremen Grad zu vereinfachen, um mein Argument zu Optimierungsmetriken deutlich zu machen.

Der springende Punkt hinter diesem einfachen Beispiel ist die Darstellung einer sehr komplexen ethischen Frage, die sich durch technologische Innovation stellt.

Alan Turing, der Mathematiker, der die Voraussetzungen für künstliche Intelligenz geschaffen hat und Teil des Teams war, das den Enigma-Code im zweiten Weltkrieg geknackt hat, sah sich derselben Herausforderung gegenüber: Direkt auf potentielle feindliche Attacken reagieren, um einige Leben zu retten, aber somit die Information darüber, dass der Code geknackt wurde, an den Feind verraten? Oder aber die Information für die höhere Sache, den Kriegsgewinn, zurückstellen?

Die Szenarios zu der Frage, wie intelligente Technologien unser Leben beeinflussen, können abschreckend sein. Aus diesem Grund können menschliche Elemente wie Empathie und gesunder Menschenverstand nicht durch Maschinen ersetzt werden, nicht einmal durch solche mit den anspruchsvollsten und intelligentesten Programmierungen.

Es ist vielleicht keine große Überraschung, dass Elon Musk uns vor dem Langzeit-Effekt von künstlicher Intelligenz warnt. Kürzlich spendete er 20 Millionen US-Dollar an das Future of Life Institut, dessen Mission es ist, dafür zu sorgen, dass künstliche Intelligenz dem Allgemeinwohl dient.

Doch wir sollten unseren gesunden Menschenverstand benutzen, wenn wir festlegen, wie solche Technologien am besten angewandt werden können.

Das selbstfahrende Auto ist eine spannende neue Entwicklung, die Welten voller neuer Möglichkeiten eröffnet, insbesondere für Menschen mit physischen Einschränkungen, die praxistaugliche Transportmöglichkeiten für ein erfüllendes Leben benötigen.

Wenn wir uns wieder unserem Beispiel vom fahrerlosen Auto zuwenden - es ist nicht klar wie der angeborene gesunde Menschenverstand und die Empathie des Fahrers ihn in dem Moment reagieren lassen würde oder welche Auswirkungen dies hätte.

Abhängig von den Reflexen des Fahrers oder der Entscheidung des Menschen, das Gehirn des Autos außer Kraft zu setzen, kann es zu allen möglichen unterschiedlichen Ausgängen kommen.

Es ist also ebenso gut möglich, dass der Fahrer bereits ein Warnschild zu Rehen beachtet und als Resultat seine Geschwindigkeit reduziert und seine Aufmerksamkeit erhöht hat, sodass es am Ende gar nicht zu einer derartigen Situation kommt.

Auch auf HuffPost:

Lesenswert

Ihr habt auch ein spannendes Thema?

Die Huffington Post ist eine Debattenplattform für alle Perspektiven. Wenn ihr die Diskussion zu politischen oder gesellschaftlichen Themen vorantreiben wollt, schickt eure Idee an unser Blogteam unter blog@huffingtonpost.de.