Europäisches Parlament beschließt Gesetz über Künstliche Intelligenz

Quelle: Sven Hoppe/Fotolia

Die Abgeordneten des Europäischen Parlaments in Straßburg haben das Gesetz über die Künstliche Intelligenz (KI) angenommen und damit schärfere KI-Regeln in der EU. Der AI Actwurde von den Abgeordneten des EU-Parlaments mit 523 Ja-Stimmen, 46 Nein-Stimmen und 49 Enthaltungen gebilligt. Mit der KI-Verordnung setzt die EU den Rahmen für den Einsatz von KI in Europa. Die Mitgliedstaaten der Europäischen Union haben die Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung, AI Act) einstimmig gebilligt. Unterhändler der Mitgliedstaaten und des Europaparlaments hatten sich im Dezember 2023 schon grundsätzlich auf die KI-Verordnung geeinigt.

KI-Systeme werden dabei künftig in vier Kategorien eingeteilt: minimalen Risikos, hohes Risiko, kritische Infrastrukturen und unannehmbares Risiko. Für jede Kategorie gibt es spezielle Regeln zu beachten. Je höher das Risiko, desto strenger fallen diese aus. Während KI-Systeme mit einem inakzeptablen Risiko (wie etwa Social Scoring) gänzlich verboten werden und für Hochrisiko-KI-Systeme strenge technische und organisatorische Anforderungen gelten, unterliegen Anwendungen mit geringem Risiko lediglich bestimmten Transparenz- und Informationspflichten.

Die neuen Vorschriften verbieten bestimmte KI-Anwendungen. Dazu zählen unter anderem die biometrische Kategorisierung auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken. Ebenfalls verboten sind künftig Emotionserkennungssysteme am Arbeitsplatz und in Schulen sowie das Bewerten von sozialem Verhalten mit KI.

Transparenzanforderungen

KI-Systeme mit allgemeinem Verwendungszweck und die Modelle, auf denen sie beruhen, müssen bestimmte Transparenzanforderungen erfüllen, darunter die Einhaltung des EU-Urheberrechts und die Veröffentlichung detaillierter Zusammenfassungen der für das Training verwendeten Inhalte. Für die leistungsfähigeren Modelle, die systemische Risiken bergen könnten, gelten künftig zusätzliche Anforderungen – etwa müssen Modellbewertungen durchgeführt, systemische Risiken bewertet und gemindert und Vorfälle gemeldet werden. Darüber hinaus müssen künstlich erzeugte oder bearbeitete Bilder bzw. Audio- und Videoinhalte (sogenannte Deepfakes) in Zukunft eindeutig als solche gekennzeichnet werden.

Beim Einsatz von KI-Systemen wie Chatbots sollten sich die Nutzer:innen bewusst sein, dass sie mit einer Maschine interagieren.

Strafen drohen

Unternehmen, die sich nicht an die Vorschriften halten, müssen mit Geldstrafen rechnen. Was die Verwaltung betrifft, so werden die zuständigen nationalen Marktaufsichtsbehörden die Umsetzung der neuen Vorschriften auf nationaler Ebene überwachen, während die Einrichtung eines neuen europäischen AI-Offices innerhalb der Europäischen Kommission die Koordinierung auf europäischer Ebene sicherstellen soll. Das neue Office für Künstliche Intelligenz soll auch die Umsetzung und Durchsetzung der neuen Vorschriften für allgemeine KI-Modelle überwachen.