EU AI Act

Die Verordnung gilt in allen EU-Mitgliedstaaten unmittelbar und erfasst jeden, der KI-Systeme in der EU anbietet oder einsetzt — auch Anbieter von außerhalb. Sie ordnet KI-Systeme in Risikoklassen und knüpft daran gestaffelte Pflichten; daneben stellt sie eigene Regeln für General-Purpose-KI (die großen Basismodelle) auf. Verstöße können mit Bußgeldern bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes geahndet werden. Die Pflichten treten gestaffelt in Kraft — die wichtigsten Termine stehen unten im Zeitplan.

Vier Stufen. Verbotene Praktiken (Art. 5): z. B. Social Scoring oder manipulative Systeme — in der EU untersagt. Hochrisiko (Anhang I & III): KI in Bereichen wie Personalauswahl, Kreditvergabe, kritischer Infrastruktur oder regulierten Produkten — erlaubt, aber mit strengen Pflichten zu Risikomanagement, Datenqualität, Aufsicht und Dokumentation. Transparenzpflichtig (Art. 50): Systeme, die mit Menschen interagieren oder Inhalte erzeugen — Menschen müssen es erkennen können. Minimales Risiko: der große Rest, ohne besondere Auflagen. Die meisten Backoffice-Agenten liegen in den unteren beiden Stufen — bis ihre Entscheidungen Menschen direkt betreffen.

Die Basismodelle, auf denen Agenten aufsetzen — seit 2. August 2025 gelten für ihre Anbieter eigene Pflichten: technische Dokumentation, Informationen für nachgelagerte Anwender, eine Zusammenfassung der Trainingsdaten, Urheberrechts-Policy; für besonders leistungsfähige Modelle zusätzlich Sicherheitsbewertungen. Für einsetzende Unternehmen heißt das praktisch: Die Modellwahl ist auch eine Compliance-Entscheidung — und die Dokumentation des Anbieters gehört in die eigene Akte des KI-Systems.

Die Pflicht mit der größten Alltagswirkung für Agenten, anwendbar seit 2. August 2026: Menschen müssen erfahren, wenn sie mit einem KI-System interagieren, und KI-erzeugte Inhalte müssen als solche erkennbar sein — maschinenlesbar gekennzeichnet. Für Systeme, die schon vor August 2026 am Markt waren, endet die Übergangsfrist für die Kennzeichnung am 2. Dezember 2026. Konkret: Der Agent, der Lieferantenanfragen beantwortet, gibt sich als System zu erkennen; die von ihm erzeugten Dokumente tragen eine Kennzeichnung. Sauber gebaut ist das eine Funktion der Plattform, keine Einzelfallpflege.

Hochrisiko-Systeme müssen so gestaltet sein, dass Menschen sie wirksam beaufsichtigen können: ihre Grenzen verstehen, Ausgaben richtig deuten, eingreifen oder abschalten können. Für agentische Systeme ist das die regulatorische Fassung dessen, was betrieblich ohnehin klug ist — Exception-Queues, Vier-Augen-Freigaben, ein Stopp-Schalter pro Agent und Betriebspersonal, das die Systeme versteht. Wer Aufsicht als Feature baut statt als Formular, erfüllt Artikel 14 nebenbei.

Der AI Act verteilt Pflichten nach Rollen. Anbieter (Provider) ist, wer ein KI-System entwickelt und in Verkehr bringt; Betreiber (Deployer) ist, wer es in eigener Verantwortung einsetzt. Wichtig für die Praxis: Wer ein System wesentlich verändert oder unter eigenem Namen einsetzt, kann in die Anbieterrolle rutschen — samt deren Pflichten. Bei Agentenprojekten gehört die Rollenfrage deshalb in den Vertrag: Wer dokumentiert, wer überwacht, wer meldet Vorfälle, wer haftet wofür.

Die Pflichten kommen gestaffelt: 2. Feb 2025 — Verbote und KI-Kompetenz-Pflicht · 2. Aug 2025 — GPAI-Pflichten · 2. Aug 2026 — Transparenzpflichten nach Art. 50 · 2. Dez 2026 — Ende der Kennzeichnungs-Übergangsfrist · 2. Dez 2027 — Hochrisiko-Pflichten nach Anhang III · 2. Aug 2028 — Hochrisiko in regulierten Produkten (Anhang I). Stand nach dem Digital Omnibus, der die ursprünglichen Hochrisiko-Termine nach hinten verschoben hat. Die kluge Reihenfolge im Unternehmen: erst Inventar und Klassifizierung, dann Kennzeichnung, dann die Hochrisiko-Akten.

Die am meisten übersehene Pflicht — und seit 2. Februar 2025 anwendbar: Wer KI-Systeme anbietet oder betreibt, muss sicherstellen, dass die eigenen Leute über ausreichende KI-Kompetenz verfügen — passend zu ihrer Rolle und den eingesetzten Systemen. Für Agenten-Betreiber heißt das: Die Fachabteilung, die mit der Exception-Queue arbeitet, muss verstehen, was der Agent kann, wo er irrt und wann man ihn stoppt. Genau dafür existiert dieses Glossar.

Die Bußgeldrahmen sind an der DSGVO orientiert und übertreffen sie: bis zu 35 Mio. € oder 7 % des weltweiten Umsatzes für verbotene Praktiken, bis zu 15 Mio. € oder 3 % für Verstöße gegen die meisten übrigen Pflichten. Überwacht wird national (in Österreich koordiniert über die RTR als KI-Servicestelle) und EU-weit durch das AI Office für GPAI. Realistisch beginnt Aufsicht nicht mit Razzien, sondern mit Fragen — und die beste Antwort ist eine gepflegte Akte: Inventar, Klassifizierung, Audit-Trail.