KI or not KI: Können wir ihre Texte noch enttarnen?
Oct 9, 2024
auto_awesome
Gregor Schmalzried, BR-Journalist und Experte für Künstliche Intelligenz, spricht über die Herausforderungen bei der Identifizierung von KI-generierten Texten. Ein Fall einer Masterbewerbung an der TU München zeigt, wie Misstrauen gegenüber perfekten Texten zu Ablehnung führen kann. Zudem wird die Debatte über rechtliche und ethische Aspekte bei der Verwendung von KI in wissenschaftlichen Arbeiten behandelt. Schmalzried diskutiert Risiken für menschliche Autoren und mögliche Änderungen im Prüfungswesen zur Sicherstellung der Authentizität.
Die zunehmende Verwendbarkeit von KI in der Texterstellung stellt akademische Einrichtungen vor die Herausforderung, menschliche und KI-generierte Inhalte effektiv zu unterscheiden.
Universitäten denken darüber nach, Prüfungsformate neu zu gestalten, um die akademische Integrität angesichts der KI-Entwicklung zu sichern.
Deep dives
Ablehnung aufgrund von KI-Verdacht
Ein Masterbewerber an der Technischen Universität München wurde mit der Begründung abgelehnt, sein Essay könnte von einer KI verfasst worden sein, da es in sehr geschliffenem Englisch verfasst und fehlerfrei war. Im Vergleich zu anderen Essay-Einreichungen fiel der Text durch seine Kürze und die Erfüllung aller relevanten Punkte auf, was den Prüfern verdächtig vorkam. Die Prüfer hatten bemerkt, dass dieser Text stilistisch signifikant anders war als frühere Arbeiten des Bewerbers, was zu zusätzlichen Zweifeln führte. Letztlich musste der Bewerber vor Gericht nachweisen, dass er den Text eigenständig und ohne KI-Hilfe verfasst hatte.
Herausforderungen der KI in der Wissenschaft
Künstliche Intelligenz ist nicht in der Lage, neue wissenschaftliche Erkenntnisse zu generieren, kann jedoch Texte erstellen, die menschlichen Schreiben täuschend ähnlich sind. KI-Modelle können oft überzeugende Essays verfassen, benötigen jedoch häufig fehlerhafte oder falsche Quellenangaben, was in der akademischen Welt problematisch ist. Selbst wenn die Ergebnisse in bestimmten Fällen gut abschneiden, besteht die Gefahr, dass diese Texte nicht auf tatsächlichen Studien beruhen. Dadurch wird es für akademische Einrichtungen zunehmend schwieriger, zwischen menschlichen und KI-generierten Arbeiten zu unterscheiden.
Zukunft der akademischen Prüfungen im KI-Zeitalter
Die Herausforderungen durch KI führen dazu, dass Universitäten neue Prüfungsformate in Betracht ziehen, um die Integrität akademischer Arbeiten zu gewährleisten. Einige Institutionen erwägen, traditionelle Abschlussarbeiten abzuschaffen, da sie in Zukunft möglicherweise durch KI-generierte Inhalte ersetzt werden könnten. Professoren diskutieren zudem, wie man KI als Hilfsmittel integrieren kann, indem man Studierende dazu anregt, die eingesetzten Modelle und Prompts offenzulegen. Dies könnte signifikante Veränderungen in der Art und Weise mit sich bringen, wie Wissen und Fähigkeiten in der akademischen Welt überprüft und bewertet werden.
Eine Abschlussarbeit klingt brillant. Die neue Bewerberin ideal. Das Match auf der Dating-Plattform witzig und charmant. Nur: Schreibt da ein Mensch oder eine Maschine? Künstliche Intelligenz wird nicht nur immer präziser, sondern lässt sich auch immer schwerer als solche enttarnen. In dieser Folge stellen wir uns mit BR-Journalist Gregor Schmalzried der Frage, ob und wie es überhaupt noch möglich ist, künstliche von menschlichen Texten zu unterscheiden. Und wir klären, warum wir grundlegend überarbeiten müssten, wie wir mit Bewerbungen und Prüfungen umgehen.
An dieser Folge waren beteiligt:
Folgenautor: Moritz Fehrle
Mitarbeit: Lisa Hentschel, Marc Hoffmann, Jasmin Brock
Produktion: Jacqueline Brzeczek, Jonas Teichmann, Hanna Brünjes, Jürgen Kopp
Redaktionsleitung: Fumiko Lipp und Lena Gürtler
11KM: der tagesschau-Podcast wird produziert von BR24 und NDR Info. Die redaktionelle Verantwortung für diese Episode liegt beim BR.
Get the Snipd podcast app
Unlock the knowledge in podcasts with the podcast player of the future.
AI-powered podcast player
Listen to all your favourite podcasts with AI-powered features
Discover highlights
Listen to the best highlights from the podcasts you love and dive into the full episode
Save any moment
Hear something you like? Tap your headphones to save it with AI-generated key takeaways
Share & Export
Send highlights to Twitter, WhatsApp or export them to Notion, Readwise & more
AI-powered podcast player
Listen to all your favourite podcasts with AI-powered features
Discover highlights
Listen to the best highlights from the podcasts you love and dive into the full episode