EU einigt sich auf Regeln für KI

Quelle: Jakub Jirsak/Fotolia

Die Europäischen Kommission, das Europäischen Parlament und der Rat der Europäischen Union haben nach mehrtägigen Trilog-Verhandlungen eine Einigung über Regeln für den Umgang mit Künstlicher Intelligenz (KI) erzielt. Nachdem sie sich auf einen politischen Kompromiss zum EU AI Act geeinigt haben, soll der endgültige formale Beschluss im kommenden Jahr erfolgen. Die Vorschriften legen Verpflichtungen für KI fest, die sich nach den potenziellen Risiken und dem Ausmaß ihrer Auswirkungen richten.

Künftig sollen demnach KI-Anwendungen in vier Risikoklassen eingeteilt werden  - low, unacceptable, limited und high. Die Anbieter müssen entsprechend unterschiedliche Vorgaben und Sicherheitsanforderungen erfüllen, unter anderem mit Blick auf Transparenz- und Kennzeichnungspflichten. KI-Systeme mit einem nicht akzeptablen Risiko wie biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. politische, religiöse oder philosophische Überzeugungen, sexuelle Orientierung, Rasse), sollen verboten werden. Auch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsanlagen zur Erstellung von Datenbanken für die Gesichtserkennung wird untersagt, genauso wie die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen. Ebenfalls verboten: soziales Scoring auf der Grundlage von Sozialverhalten oder persönlichen Merkmalen; KI-Systeme, die das menschliche Verhalten manipulieren, um den freien Willen des Menschen zu umgehen; KI, die eingesetzt wird, um die Schwächen von Menschen (aufgrund ihres Alters, einer Behinderung, ihrer sozialen oder wirtschaftlichen Lage) auszunutzen.

KI-Systeme, die als hochriskant eingestuft werden (aufgrund ihres erheblichen Schadenspotenzials für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit), müssen strenge Anforderungen erfüllen. Dazu gehören Systeme zur Risikominderung, eine hohe Qualität der Datensätze, die Protokollierung von Aktivitäten, eine ausführliche Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Regulatorische Sandkästen werden verantwortungsvolle Innovationen und die Entwicklung von konformen KI-Systemen erleichtern.

Auch für generative KI-Systeme wurden spezielle Transparenzanforderungen festgelegt. Beim Einsatz von KI-Systemen wie Chatbots sollten sich die Nutzer:innen bewusst sein, dass sie mit einer Maschine interagieren. Deep Fakes und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden, und die Nutzer:innen müssen informiert werden, wenn biometrische Kategorisierungs- oder Emotionserkennungssysteme verwendet werden. Darüber hinaus müssen die Anbieter ihre Systeme so gestalten, dass synthetische Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkannt werden können.
 

"Das EU-Gesetz über die Künstliche Intelligenz ist der erste umfassende Rechtsrahmen für Künstliche Intelligenz weltweit", so Ursula von der Leyen, Präsidentin der Europäischen Kommission. "Dies ist also ein historischer Moment. Mit dem KI-Gesetz werden die europäischen Werte in eine neue Ära überführt. Durch die Konzentration der Regulierung auf erkennbare Risiken wird die heutige Einigung eine verantwortungsvolle Innovation in Europa fördern. Indem sie die Sicherheit und die Grundrechte von Menschen und Unternehmen garantiert, wird sie die Entwicklung, den Einsatz und die Einführung vertrauenswürdiger KI in der EU unterstützen. Unser KI-Gesetz wird einen wesentlichen Beitrag zur Entwicklung globaler Regeln und Grundsätze für menschenzentrierte KI leisten."

Sanktionen geplant

Die Nichteinhaltung der Vorschriften kann zu Geldbußen führen, die je nach Verstoß und Größe des Unternehmens zwischen 35 Millionen Euro oder sieben Prozent des weltweiten Umsatzes und 7,5 Millionen oder 1,5 Prozent des Umsatzes liegen.

Der vereinbarte Text muss nun sowohl vom Parlament als auch vom Rat formell angenommen werden, um EU-Recht zu werden. Die Ausschüsse für Binnenmarkt und bürgerliche Freiheiten des Parlaments werden in einer der nächsten Sitzungen über die Vereinbarung abstimmen.

Neues Office für Künstliche Intelligenz

Was die Verwaltung betrifft, so sollen die zuständigen nationalen Marktaufsichtsbehörden die Umsetzung der neuen Vorschriften auf nationaler Ebene überwachen, während die Einrichtung eines neuen europäischen AI-Offices innerhalb der Europäischen Kommission die Koordinierung auf europäischer Ebene sicherstellen soll . Das neue Office für Künstliche Intelligenz sollauch die Umsetzung und Durchsetzung der neuen Vorschriften für allgemeine KI-Modelle überwachen.

Bitkom äußert Kritik

Bitkom-Hauptgeschäftsführer Dr. Bernhard Rohleder warnt, dass der erzielte Kompromiss insbesondere bei der Regulierung generativer KI über das Ziel hinausschieße und tief in die Technologie eingreife.

"Die EU bindet damit den Unternehmen einen regulatorischen Klotz ans Bein. Das Risiko ist groß, dass europäische Unternehmen durch nicht praxistaugliche Vorhaben der rasanten technologischen Entwicklung künftig nicht folgen können", so Rohleder. "So wurde unnötigerweise vom bislang angestrebten anwendungsbezogenen und risikobasierten Ansatz abgewichen. Die sogenannten General Purpose AI Models werden als Technologie an sich reguliert, unabhängig von der konkreten Anwendung."

Zwar soll dabei das Instrument der verpflichtenden Selbstregulierung durch sogenannte Codes of Practice genutzt werden.

"Allerdings sind diese nur für einen geringen Teil der gesamten Anforderungen vorgesehen, der größte Teil wird starr im Gesetz selbst fixiert", erklärt Rohleder. "So besteht die Gefahr, dass dieses besonders wichtige KI-Feld durch Vorgaben eingeschränkt wird, die sich nicht an neue technologische Entwicklungen anpassen lassen. Wie schwierig solche notwendigen Änderungen werden dürften, haben bereits die Verhandlungen zum AI Act selbst gezeigt."

Die Herausforderung sei, in der Praxis eine echte Balance zwischen Risikomanagement und Förderung von Innovation herzustellen.

"Europa hat die Chance, eine Vorreiterrolle bei der ethischen und verantwortungsvollen Entwicklung von KI einzunehmen. Aber dies erfordert auch eine unbürokratische und gut strukturierte Umsetzung des Rechtsakts", so Rohleder.