Der Podcast von MIT Technology Review
KI-Systeme sind in aktuellen Kriegen bereits im Einsatz. Glaubt man Entwicklern und Herstellern, wird KI die Kriegsführung entscheidend verändern. Aber wie immer bei KI muss man genau hinschauen: Was ist Fakt, was ist Hype, um wessen Interessen geht es?
Eine Person, die das einschätzen kann, ist Elke Schwarz. Sie ist Dozentin für politische Theorie an die Queen Mary University London. Sie beschäftigt sich insbesondere mit KI im militärischen Einsatz und ist auch Mitglied des International Committee for Robot Arms Control (ICRAC). Vor kurzem hat sie ein Paper über den Einfluss von Risikokapitalanlegern in der Rüstungsindustrie geschrieben. Das trägt den Titel: From blitzkrieg to blitzscaling: Assessing the impact of venture capital dynamics on military norms.
TR-Redakteur Wolfgang Stieler hat mit der Expertin im Podcast gesprochen. Sie bestätigt, dass sich KI im Krieg „wirklich in den letzten zwei, drei, vier Jahren und ganz speziell mit den aktuellen Konflikten aufgeheizt“ hat. Sie definiert die Rolle von KI dabei so: „Die KI ist ja gar keine Waffe, sondern ist eher ein System, das zur Beschleunigung des Krieges beiträgt.“ Kritisch sieht sie die Versprechen von militärischen KI-Herstellern, man könne damit garantiert Kriege gewinnen: „Das ist ganz klar eine Übertreibung, die Marketingzwecke hat. Die haben natürlich sehr viel damit zu tun, dass die Firmen im Augenblick große Lobbyarbeit betreiben, um ihre Systeme natürlich auch zu verkaufen.“ Die tatsächliche Nützlichkeit müsse sich erstmal herausstellen. „Aber der Hype und die Lobbyarbeit sind ganz aktiv“, sagt sie.
Durch ihre Forschung hat Schwarz auch eine Rollenverschiebung bei den Anwendern von Software für Kriegseinsätze festgestellt, etwa bei Zielsystemen wie Lavender: „Diese Idee der ‚meaningful human control‘, wo der Mensch immer noch dazwischen sitzt und sagt, ja, ich mache jetzt wirklich eine bedeutungsvolle Entscheidung und ich habe noch Urteilskraft darüber, wer jetzt anvisiert wird. Diese Idee ist komplett erodiert, der Mensch ist dann nur noch ein Funktionselement in der weiteren automatisierten oder autonomen Waffenschleife.“
Hinweis: Dieser Podcast wird durch Sponsorings unterstützt. Alle Infos zu unseren Werbepartnern findest du hier.
