carls zukunft der woche #267 Toni Loh – Wenn Algorithmen diskriminieren
Sexroboter mit Barbie-Figur und voreingestellter Persönlichkeit wie „Frigid Farrah“ oder „Young Yoko“ offenbaren nicht nur ein frauenverachtendes Technikverständnis, sondern das ganze Elend einer KI-getriebenen Zukunft, die vor allem eines ist: retrospektiv. Toni Loh, lehrend in Angewandter Ethik, seziert die technoide Gegenwart mit chirurgischer Schärfe – und legt offen, dass Technologie häufig nichts anderes tut, als bestehende Ungerechtigkeiten zu wiederholen. Warum? Weil sie von Menschen gemacht wird, die genau in diesen Strukturen sozialisiert wurden. Ob Sexroboter oder Algorithmen im Bewerbungsprozess, am Ende spiegelt sich darin ein Weltbild, das vorgibt, neutral zu sein, aber zutiefst normativ wirkt.
Und doch ist Toni nicht technikskeptisch. Die große Hoffnung liegt auf pluralen Teams und pluralen Interfaces – ein Design, das Vielfalt nicht nur erlaubt, sondern voraussetzt. Gerechtigkeit beginnt für sie nicht bei der Technik, sondern bei den Menschen, die sie gestalten. Und bei einem Bildungssystem, das „Zurücktreten“ als Kulturtechnik lehrt.
Wer ernsthaft darüber nachdenkt, KI Rechte einzuräumen, sollte laut Toni vielleicht zuerst klären, warum viele Menschen – Demenzkranke, Schwangere, rassifizierte Gruppen – diese Rechte noch nicht oder nur bedingt genießen. Ein Denkimpuls, der bleibt: Ethische Technologie braucht keine moralischen Maschinen. Sie braucht moralisch reflektierende Gesellschaften.
Mehr Informationen zu Toni Lohs aktuellem Buch „Feministische Technikphilosophie“: https://www.transcript-verlag.de/978-3-8252-6427-7/feministische-technikphilosophie
Zu Gast:
Toni Loh, Professur für Angewandte Ethik, Hochschule Bonn-Rhein-Sieg
Create your podcast today! #madeonzencastr
Mentioned in this episode:
AI first – Das Praxisbuch für den Mittelstand
Jetzt auf carls-zukunft.de Sonst lesen’s wieder nur die Anderen.