Systemrelevant Podcast: Der EU-Versuch, KI zu regulieren
Die EU hat das weltweit erste Gesetz zur Regulierung von künstlicher Intelligenz verabschiedet. Ernesto Klengel spricht mit Marco Herack über die KI-Verordnung und ihre Auswirkungen.
[30.08.2024]
Die KI-Verordnung der EU ist am 2. August in Kraft getreten und gibt Unternehmen zwei Jahre Zeit, die enthaltenen Vorschriften umzusetzen. Einige Bestimmungen, insbesondere Verbote, sollen schon im Februar 2025 gelten.
Ernesto Klengel, Direktor des HSI, erläutert, dass in der vorgelegten KI-Verordnung eine Begriffsbestimmung für KI-Systeme vorgelegt wurde, die aber noch etwas Interpretationsspielraum lässt: "Der Ausdruck „KI-System“ bezeichnet ein maschinengestütztes System, das für einen in wechselndem Maße autonomen Betrieb ausgelegt sind, das nach seiner Einführung anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ergebnisse wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen hervorgebracht werden, die physische oder virtuelle Umgebungen beeinflussen können." (Quelle: Gesetz über künstliche Intelligenz der EU)
Die EU-Kommission kann die Verordnung noch konkretisieren - somit muss die weitere Rechtsentwicklung noch abgewartet werden.
Die KI-Verordnung soll dazu beitragen, trotz fehlender großer europäischer Player im KI-Bereich die großen Anbieter aus anderen Ländern dazu zu verpflichten, die europäischen Standards einzuhalten. So könnte die EU führend im Bereich der Regelsetzung werden und gleichzeitig eigene Anbieter protegieren. Wie erfolgreich diese Strategie sein wird, bleibt abzuwarten, so Ernesto Klengel. Sie könne auch dazu führen, dass einige Systeme in Europa schlichtweg nicht ausgerollt werden.
In der KI-Verordnung werden verschiedene Regeln für Anbieter von KI-Systemen gesetzt, um das Vertrauen in die KI zu stärken und so die Technologie zu fördern. Dazu werden die Systeme in verschiedene Risikostufen eingruppiert: Während ein rein informierender Chatbot als unproblematisch eingestuft wird, gelten beispielsweise Emotionserkennungs-Systeme am Arbeitsplatz als verboten und viele Systeme als Hochrisikoanwendungen, die besonders stark reguliert werden sollen, um Risiken zu reduzieren. Obwohl Ernesto Klengel die Regulierung von KI für richtig hält, sieht er noch viele offene Fragen, die in der Umsetzung der Verordnung zu Tage treten könnten - wie beispielsweise zur Einstufung der Systeme in die verschiedenen Risikokategorien und zu den Pflichten der Unternehmen. Außerdem fehlen wichtige Regelungen zu den Themen Haftung, Datenschutz und Urheberrecht.
Ernesto Klengel schlussfolgert:
Ich denke schon, dass uns das weiterbringen wird. Aber es wird viel darauf ankommen, nochmal auf die konkretisierenden Rechtsakte und auch auf den Gesetzgeber in Deutschland, da für weitere Klarheit auch zu sorgen.
Moderation: Marco Herack
Alle Informationen zum Podcast
In Systemrelevant analysieren führende Wissenschaftler:innen der Hans-Böckler-Stiftung gemeinsam mit Moderator Marco Herack, was Politik und Wirtschaft bewegt: makroökonomische Zusammenhänge, ökologische und soziale Herausforderungen und die Bedingungen einer gerechten und mitbestimmten Arbeitswelt – klar verständlich und immer am Puls der politischen Debatten.
Systemrelevant hören / abonnieren:
Sebastian Dullien auf X
Ernesto Klengel auf X
Bettina Kohlrausch auf X
Daniel Hay / I.M.U. auf X
Christina Schildmann