#320 Erklär mir die Psychologie der KI, Martina Mara
Oct 15, 2024
auto_awesome
Martina Mara ist Professorin für Psychologie der Künstlichen Intelligenz an der Johannes-Kepler-Universität Linz und leitet das Robo-Psychology Lab. Sie spricht über unsere Tendenz, KI und Robotern menschliche Eigenschaften zuzuschreiben. Dieses vermenschlichen kann zu Missverständnissen führen, denn KI hat keine echten Emotionen, sondern simuliert lediglich menschliche Interaktionen. Außerdem thematisiert sie die Risiken des blinden Vertrauens in KI-Systeme und die emotionalen Bindungen, die Benutzer entwickeln, was zu einer verzerrten Wahrnehmung führen kann.
Menschen neigen dazu, Maschinen menschliche Eigenschaften zuzuschreiben, was unsere Wahrnehmung und Interaktion mit Technologie beeinflusst.
Die Verwendung von KI-Systemen wie ChatGPT kann zu einer stärkeren sozialen Einflussnahme führen, indem Menschen deren Empfehlungen als gleichwertig mit menschlichen Ratschlägen betrachten.
Der kritische Umgang mit Technologien ist notwendig, um ethische Bedenken zu adressieren und mögliche Manipulationen in der Mensch-Maschine-Interaktion zu vermeiden.
Deep dives
Dankbarkeit gegenüber Unterstützern
Der Podcast hebt die Bedeutung der UnterstützerInnen hervor, die dazu beitragen, die Produktionskosten zu decken und die Qualität der Inhalte zu sichern. Die Host bedankt sich insbesondere bei den 401 Unterstützern und betont, wie wichtig ihre Hilfe ist, um den Podcast am Laufen zu halten. Es wird darauf hingewiesen, dass finanzielle Unterstützung für die Mitarbeiter und die Produktion unumgänglich ist. Diese Wertschätzung unterstreicht die Gemeinschaft, die um den Podcast entstanden ist, und motiviert Zuhörer, weiterhin aktiv zu unterstützen.
Anthropomorphismus und menschliche Wahrnehmung
Das Konzept des Anthropomorphismus, bei dem Menschen Maschinen menschliche Eigenschaften zuschreiben, wird eingehend erläutert. Der Begriff setzt sich aus den griechischen Wörtern für Mensch und Gestalt zusammen und beschreibt, wie Menschen dazu tendieren, Absichten und Gefühle in nicht-menschlichen Objekten zu sehen. Beispiele aus dem Alltag verdeutlichen, wie leicht es ist, Maschinen wie einen Staubsaugerroboter oder einen Computer als 'müde' oder 'launisch' zu interpretieren. Der Podcast diskutiert die psychologischen Prozesse, die zu dieser Wahrnehmung führen, und hebt die Relevanz dieses Phänomens in der heutigen technologiegetriebenen Gesellschaft hervor.
Einfluss anthropomorphisierter Maschinen auf Entscheidungen
Die Tendenz, Maschinen menschliche Eigenschaften zuzuschreiben, hat direkte Auswirkungen auf unsere Entscheidungen und unsere Interaktion mit Technologie. Studien zeigen, dass Menschen, die KI-Systemen wie ChatGPT anthropomorphisieren, stärker dazu neigen, Empfehlungen dieser Systeme gleichwertig mit Ratschlägen von Freunden zu bewerten. Dies bedeutet, dass der soziale Einfluss solcher Systeme auf unsere Meinung und Entscheidungen erheblich verstärkt wird, was Fragen zur Ethik und Verantwortung aufwirft. Die Forschung in diesem Bereich ermöglicht ein besseres Verständnis der Auswirkungen anthropomorphisierter Maschinen auf das menschliche Verhalten.
Risiken durch menschengleiche KI-Interaktionen
Der Podcast zeigt auf, dass die zunehmende Menschlichkeit in der Interaktion mit KI-gestützten Systemen auch Risiken birgt. Das Vertrauen in diese Systeme könnte uns dazu verleiten, Informationen und Ratschläge unkritisch zu akzeptieren, ohne die menschlichen Interessen oder Einflussnehmer, die hinter diesen Technologien stehen, zu hinterfragen. Insbesondere die Tatsache, dass diese Systeme durch Programmierer mit bestimmten Absichten gestaltet sind, wirft ethische Bedenken auf. Der Dialog beleuchtet die Notwendigkeit eines kritischen Umgangs mit Technologien, um sich der möglichen Manipulation und Bias bewusst zu bleiben.
Zukunft der Mensch-Maschine-Interaktionen
Ein Ausblick auf die Zukunft der Interaktion mit KI und Robotern zeigt, dass die Grenze zwischen Mensch und Maschine weiter verschwimmen könnte. Die Zukunft könnte Plattformen umfassen, die mit ihren Nutzern über Sprache interagieren und sich an individuelle Vorlieben anpassen, wodurch eine illusionäre Beziehung entsteht. Dies wird sowohl als potenzielle Lösung für menschliche Einsamkeit als auch als riskantes Terrain betrachtet, da es die zwischenmenschlichen Beziehungen gefährden könnte. Der Podcast regt dazu an, über die gesellschaftlichen und ethischen Implikationen dieser Entwicklungen nachzudenken und die Art und Weise, wie Menschen ihre sozialen Bedürfnisse mit Technologie decken, kritisch zu reflektieren.
Wir sind psychologisch nicht auf das KI-Zeitalter vorbereitet. Manche werden sich in KI verlieben, wir alle werden sie vermenschlichen – beides hat unerwartete Konsequenzen. Die Roboterpsychologin Martina Mara über die Psychologie der KI.
🙆 Martina Mara ist Professorin für Künstliche Intelligenz und Roboter an der JKU in Linz. Sie ist Mitglied des Österreichischen Rats für Robotik und Künstliche Intelligenz (ACRAI).
Menschen sehen in allem Menschen. Ob das jetzt Blitzeinschläge, Wolkenformationen, Hunde, Staubsaugerroboter oder KI-Sprachmodelle sind: Wir vermenschlichen alles, weil wir die Welt vor allem durch unsere eigene, menschliche Brille wahrnehmen. Das erleichtert das Leben, weil es vieles vermeintlich erklärt, führt aber auch in die Irre.
Computer haben keine Gefühle. Egal wie empathisch ChatGPT wirkt, es ist nicht mehr und nicht weniger als ein statistisches Wortvorhersageprogramm. ChatGPT kann Empathie oder Gefühle nur vorspielen, es hat kein Ich-Konzept, kein Bewusstsein.
Wir lassen uns einfacher in die Irre führen, wenn wir ChatGPT, Claude & Co vermenschlichen. Wir nehmen Nachrichten so ernst, als würden sie von einem Freund kommen. Dadurch verlieren wir aus dem Blick, das wir hier mit von Menschenhand programmierter Software interagieren, hinter der auch ökonomische Interessen stehen.
***
Erklär mir die Welt hilft dir dabei, die Welt besser zu verstehen. Hilf wie 400+ andere Hörer:innen mit, den Podcast zu finanzieren. Danke an alle Unterstützer:innen!
