Der AI-Act ist das Gesetz der Europäischen Union für den sicheren Umgang mit Künstlicher Intelligenz (KI). Er legt fest, welche KI-Systeme als riskant gelten, und regelt ihren Einsatz. Ziel ist es, Menschen zu schützen und Innovationen zu ermöglichen. Das Ziel ist, dass KI-Anwendungen, die im Alltag immer häufiger vorkommen, sicher funktionieren. Dazu zählen beispielsweise Programme, die Bilder erkennen und Texte erstellen, wie ChatGPT oder Meta AI. Aber auch für Programme, die Daten analysieren, um Entscheidungen zu treffen, wie es sie bspw. im Finanzsektor gibt.
Grundsätzliche Ziele der Regelung.
Zentraler Baustein des AI-Acts ist der Schutz der Gesundheit und Sicherheit sowie der Grundrechte der Nutzenden. Die Verordnung soll Nutzer*innen also schützen und sicherstellen, dass KI verantwortungsvoll eingesetzt wird.
Der AI-Act gilt für alle Anbieter von KI-Systemen. Das können zum Beispiel Unternehmen, Forschungsinstitute oder Behörden sein, die KI-Systeme entwickeln, in den Verkehr bringen oder in Betrieb nehmen. Die Regeln gelten unabhängig davon, ob die Anbieter ihren Sitz in der EU haben. Entscheidend ist allein, dass die KI in der EU genutzt oder angeboten wird. Der AI-Act gilt also auch für die zahlreichen KI-Anbieter aus den USA wie Meta, Google oder Microsoft.
Vier Stufen von Risiken
Der AI-Act teilt KI-Systeme in vier Risikogruppen ein: geringes, begrenztes, hohes und unannehmbares Risiko. Je höher das Risiko, desto strenger die Regeln. Ein Beispiel für ein hohes Risiko ist KI, die Bewerbungen sortiert oder Kredite bewertet. Sie darf nur eingesetzt werden, wenn sie transparent arbeitet, überprüft wird und klare Sicherheitsvorgaben erfüllt.
Was verboten ist
KI gilt als unannehmbar, wenn sie Menschen manipuliert oder überwacht. Dazu gehören z. B. Systeme, die Gefühle aus Gesichtern lesen sollen oder Menschen in der Öffentlichkeit dauerhaft erkennen. Diese Anwendungen dürfen in der EU nicht angeboten werden.
Was weiterhin erlaubt ist
Viele KI-Anwendungen werden als geringes oder begrenztes Risiko eingestuft. Dazu zählen Chatbots, also textbasierte Dialogsysteme, die eine Unterhaltung mit einem technischen System ermöglichen, oder Programme, die Texte zusammenfassen. Solche Systeme müssen Nutzer*innen darauf hinweisen, dass sie mit KI sprechen. Damit können Sie bewusst entscheiden, wie Sie die Information bewerten.
Öffentliche Debatte zum AI-Act
Der AI-Act wird intensiv diskutiert. Die öffentliche Debatte dreht sich stark um die Frage, wie eine gute Balance aussehen kann: KI-Systeme sollen nicht missbraucht werden dürfen, und der Schutz der Grundrechte muss jederzeit gewährleistet bleiben. Gleichzeitig fordern Wissenschaft und Wirtschaft ausreichend Freiraum, um neue Anwendungen zu entwickeln und technologische Fortschritte zu erzielen.
Kritiker*innen bemängeln vor allem Ausnahmen für Sicherheitsbehörden. Zwar verbietet das Gesetz Gesichtserkennung im öffentlichen Raum, doch Strafverfolgungsbehörden dürfen sie in Ausnahmefällen nutzen. Zum Beispiel auch, um bereits bestehende Daten zu strukturieren und zu analysieren.
Auch in der Wirtschaft sorgt der AI-Act für Unsicherheit. Unternehmen befürchten Nachteile im globalen Wettbewerb, weil sie strengere Regeln erfüllen müssen als internationale Konkurrenten. Gleichzeitig sehen viele Firmen Chancen, da klare Vorgaben Innovationen erleichtern können.
International verläuft die Entwicklung unterschiedlich. In den USA hat Präsident Donald Trump zu Beginn seiner zweiten Amtszeit mehrere Schutzmaßnahmen für KI gestrichen und umfangreiche Investitionen in KI-Infrastruktur angekündigt. Expert*innen warnen, dass dadurch wichtige Standards für Sicherheit und Datenschutz verloren gehen und sich der Abstand zwischen den USA und Europa vergrößert.
Ab wann gilt das Gesetz?
Der Rat der 27 EU-Mitgliedstaaten hat den AI-Act am 21. Mai 2024 verabschiedet und damit einen einheitlichen Rechtsrahmen für Künstliche Intelligenz geschaffen. Anschließend müssen alle EU-Mitgliedsstaaten sie in nationales Recht umsetzen. Der AI-Act ist am 1. August 2024 in Kraft getreten und gilt zwei Jahre später vollständig. Erste Regeln greifen bereits nach wenigen Monaten. Komplexere Vorgaben folgen schrittweise, damit sich Anbieter anpassen können.
Quellen und weiterführende Links:
https://www.verbraucherzentrale.de/wissen/digitale-welt/onlinedienste/ai-act-was-regelt-die-neue-europaeische-kiverordnung-95824
https://www.bpb.de/kurz-knapp/taegliche-dosis-politik/559066/ai-act-der-eu/
https://netzpolitik.org/2025/ai-act-wie-die-ausnahmen-in-der-ki-verordnung-landeten/
https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/start_ki.html
https://www.bundesregierung.de/breg-de/aktuelles/ai-act-2285944
