Zweck

Der EU AI Act ist das weltweit erste umfassende KI-Gesetz und verfolgt das Ziel, einen einheitlichen, risikobasierten Rechtsrahmen für den Umgang mit Künstlicher Intelligenz in Europa zu schaffen. Er schützt Grundrechte, Gesundheit und Sicherheit der Menschen, stärkt das Vertrauen in KI-Anwendungen und fördert gleichzeitig Innovationen im europäischen Binnenmarkt. Die zentrale Leitidee: Künstliche Intelligenz ermöglichen, Risiken begrenzen und eine Marktfragmentierung innerhalb der EU verhindern.

Ein wesentlicher Bestandteil des AI Act ist der umfassende Schutz der Menschen und ihrer Grundrechte. Anwendungen, die ein „inakzeptables Risiko“ darstellen – etwa Social Scoring – werden konsequent verboten. Hochrisiko-KI, beispielsweise im Bereich kritischer Infrastrukturen, Bildung, Personalmanagement, Justiz, Medizin oder Kreditvergabe, unterliegt besonders strengen Auflagen. Dazu zählen Anforderungen an das Risikomanagement, die Datenqualität, ausführliche Dokumentation, menschliche Überwachung und Transparenz. Für Anwendungen mit geringeren Risiken gelten entsprechend leichtere Pflichten.

Durch den AI Act werden die Vorschriften für KI-Produkte und -Dienstleistungen innerhalb der EU harmonisiert. So sollen Unternehmen KI-Systeme grenzüberschreitend zuverlässig vertreiben und nutzen können, ohne mit 27 unterschiedlichen nationalen Regelungen konfrontiert zu sein. Dies fördert Rechtssicherheit und Innovationskraft auf europäischer Ebene.

Ein zentrales Element ist die Stärkung der Rechenschaftspflicht und Governance rund um KI-Systeme. Dafür werden sowohl auf EU- als auch auf nationaler Ebene Aufsichtsstrukturen wie das AI Office eingerichtet. Transparenzvorgaben gelten insbesondere für umfangreiche generative Modelle (GPAI/Foundation Models), und bestimmte Systeme müssen registriert sowie Audits unterzogen werden. Verstöße gegen die Vorgaben können mit hohen Bussgeldern von bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes sanktioniert werden.

Um Innovationen nicht zu behindern, setzt der AI Act auf sogenannte Regulatory Sandboxes, die es Unternehmen ermöglichen, neue KI-Anwendungen unter kontrollierten Bedingungen zu erproben. Zusätzlich gibt es Erleichterungen für kleine und mittlere Unternehmen (KMU), um den Marktzugang zu beschleunigen und Rechtssicherheit für Startups und innovative Akteure zu gewährleisten.