Als der amerikanische Mathematiker und Philosoph Norbert Wiener in den 1940er Jahren die theoretischen Grundlagen für lernende Maschinen formulierte, konnte er noch nicht wissen, wie fundamental sich dadurch die Welt verändern würde. Denn künstliche Intelligenzen und autonome Roboter gab es bis auf Weiteres nur in der Welt der Science-Fiction.  Trotzdem ahnte Wiener bereits, dass das Selbstverständnis der Menschen eines Tages durch eine neue Generation von Maschinen auf eine schwere Probe gestellt werden würde. Heute sind wir es bereits gewohnt, dass Maschinen nicht nur immer komplexere Informationen verarbeiten, sondern inzwischen auch eigenständig Entscheidungen fällen können. 

Die Verantwortung der Maschinen 

Der enorme Erfolg der künstlichen Intelligenzen löst jedoch nicht nur Bewunderung aus, sondern wirft auch grundsätzliche Fragen nach ihrer Verantwortung auf. Aus diesem Grund hat die Philosophin Dagmar Fenner eine Einführung in die „Digitale Ethik“ vorgelegt, die sich ausdrücklich als angewandte Ethik für das neue Maschinenzeitalter versteht: 

Unter einer Angewandten Ethik im erweiterten Sinn soll hier sowohl eine wissenschaftliche Disziplin als auch eine transakademische Beratertätigkeit in Kommissionen und Gremien verstanden werden, sofern mit philosophischen Mitteln […] zur Lösung konkreter moralischer Probleme in einer Gesellschaft beigetragen wird.

Quelle: Dagmar Fenner – Digitale Ethik

Die Berechnung der Gesellschaft 

Unabhängig davon, ob man die künstlichen Intelligenzen begrüßt oder mit Sorge betrachtet, stellen sich bereits jetzt zahlreiche ethische Fragen, die beantwortet werden müssen. Das betrifft nicht nur den Umgang mit den massenhaft erhobenen Daten, sondern auch die Prinzipien, die bei den algorithmischen Entscheidungen zum Einsatz kommen.   Auch wenn Computer im Vergleich zu Menschen weit mehr Faktoren in ihre Berechnungen einbeziehen können, werden sie dennoch manchmal genötigt sein, aus mehreren schlechten Alternativen eine auszuwählen. So muss ein selbstfahrendes Auto im Fall eines absehbaren Aufpralls entscheiden, wohin es ausweicht und wen es dadurch gefährdet: 

2016 verlautbarte ein Mercedes-Benz-Manager für Fahrassistenzsysteme, die Passagiere im Auto sollten immer gerettet werden. Im Gegensatz zu Pflegerobotern für die individuelle Nutzung dürfen moralische Regeln für autonome Fahrzeuge sich aber nicht an teils egoistischen Moralvorstellungen der Fahrzeugbesitzer orientieren oder den Herstellern überlassen bleiben.

Quelle: Dagmar Fenner – Digitale Ethik

Die Zukunft der Steuerung 

In Zukunft wird es vermutlich noch um viel weitreichendere Entscheidungen gehen als um die von selbstfahrenden Autos. In Fenners umfassender Einführung werden alle gesellschaftlichen Bereiche, in denen schon jetzt künstliche Intelligenzen zum Einsatz kommen, wie bei der medizinischen Versorgung oder der polizeilichen Ermittlung, ausführlich behandelt.  Sie folgt dabei dem »Wiener Manifest für digitalen Humanismus« von 2019, mit dem sich zahlreiche Experten dafür eingesetzt haben, möglichst viele Nutzer an der Entwicklung von gesellschaftlich relevanten Algorithmen zu beteiligen. Denn nur so könne sichergestellt werden, dass die Gesellschaft insgesamt von den neuen Technologien profitiere:  

Da Technologien wie gesehen Teil eines soziotechnischen Systems sind, müssten möglichst alle Betroffenen an ihrer Gestaltung beteiligt und mehr öffentliche und demokratische Reflexions- und Verhandlungsräume geschaffen werden. 

Quelle: Dagmar Fenner – Digitale Ethik

Im Verlauf seiner Karriere machte sich Norbert Wiener zunehmend Sorgen, seine Erkenntnisse könnten in die falschen Hände geraten. Er nahm sich vor, die Öffentlichkeit mehr über die Folgen seiner Forschung aufzuklären. In dieser Tradition steht auch Dagmar Fenner, der es gelungen ist, äußerst kompetent in die komplexe Materie der lernenden Maschinen einzuführen.