EU AI Act

Die Verordnung gilt in allen EU-Mitgliedstaaten unmittelbar und erfasst jeden, der KI-Systeme in der EU anbietet oder einsetzt — auch Anbieter von außerhalb. Sie ordnet KI-Systeme in Risikoklassen und knüpft daran gestaffelte Pflichten; daneben stellt sie eigene Regeln für General-Purpose-KI (die großen Basismodelle) auf. Verstöße können mit Bußgeldern bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes geahndet werden. Die Pflichten treten gestaffelt in Kraft — die wichtigsten Termine stehen unten im Zeitplan.

Vier Stufen. Verbotene Praktiken (Art. 5): z. B. Social Scoring oder manipulative Systeme — in der EU untersagt. Der Digital Omnibus hat KI-Systeme ergänzt, die nicht einvernehmliche intime Darstellungen oder Missbrauchsmaterial erzeugen; dieses Verbot gilt ab 2. Dezember 2026. Hochrisiko (Anhang I & III): KI in Bereichen wie Personalauswahl, Kreditvergabe, kritischer Infrastruktur oder regulierten Produkten — erlaubt, aber mit strengen Pflichten zu Risikomanagement, Datenqualität, Aufsicht und Dokumentation. Transparenzpflichtig (Art. 50): Systeme, die mit Menschen interagieren oder Inhalte erzeugen — Menschen müssen es erkennen können. Minimales Risiko: der große Rest, ohne besondere Auflagen. Die meisten Backoffice-Agenten liegen in den unteren beiden Stufen — bis ihre Entscheidungen Menschen direkt betreffen.

Die Basismodelle, auf denen Agenten aufsetzen — seit 2. August 2025 gelten für ihre Anbieter eigene Pflichten: technische Dokumentation, Informationen für nachgelagerte Anbieter, eine Zusammenfassung der Trainingsdaten, Urheberrechts-Policy; für besonders leistungsfähige Modelle zusätzlich Sicherheitsbewertungen. Für einsetzende Unternehmen heißt das praktisch: Die Modellwahl ist auch eine Compliance-Entscheidung — und die Dokumentation des Anbieters gehört in die eigene Akte des KI-Systems.

Die Pflicht mit der größten Alltagswirkung für Agenten, anwendbar seit 2. August 2026: Anbieter gestalten KI-Systeme, die direkt mit Menschen interagieren, so, dass diese davon erfahren — sofern es nicht offensichtlich ist —, und markieren synthetische Inhalte maschinenlesbar; reine Standardbearbeitung ist ausgenommen. Betreiber legen u. a. Deepfakes offen und KI-Texte, die ohne redaktionelle Kontrolle zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden. Für Anbieter von Systemen, die schon vor dem 2. August 2026 in Verkehr gebracht wurden, läuft die Frist für die maschinenlesbare Markierung bis 2. Dezember 2026. Die Kommission hat am 20. Juli 2026 Leitlinien veröffentlicht; ein freiwilliger Verhaltenskodex gilt als geeignetes Mittel, die Einhaltung nachzuweisen. Konkret: Der Agent, der Lieferantenanfragen beantwortet, gibt sich als System zu erkennen; die von ihm erzeugten Dokumente tragen eine Kennzeichnung. Sauber gebaut ist das eine Funktion der Plattform, keine Einzelfallpflege.

Hochrisiko-Systeme müssen — ab 2. Dezember 2027 bzw. 2. August 2028 — so gestaltet sein, dass Menschen sie wirksam beaufsichtigen können: ihre Grenzen verstehen, Ausgaben richtig deuten, eingreifen oder abschalten können. Für agentische Systeme ist das die regulatorische Fassung dessen, was betrieblich ohnehin klug ist — Exception-Queues, Vier-Augen-Freigaben, ein Stopp-Schalter pro Agent und Betriebspersonal, das die Systeme versteht. Aufsicht als eingebaute Funktion entspricht inhaltlich dem, was Art. 14 von Anbietern und Art. 26 Abs. 2 von Betreibern verlangt; ob die Pflichten im Einzelfall erfüllt sind, ist gesondert zu prüfen.

Der AI Act verteilt Pflichten nach Rollen. Anbieter (Provider) ist, wer ein KI-System entwickelt und in Verkehr bringt; Betreiber (Deployer) ist, wer es in eigener Verantwortung einsetzt. Wichtig für die Praxis: Wer ein System wesentlich verändert oder unter eigenem Namen einsetzt, kann in die Anbieterrolle rutschen — samt deren Pflichten. Bei Agentenprojekten gehört die Rollenfrage deshalb in den Vertrag: Wer dokumentiert, wer überwacht, wer meldet Vorfälle, wer haftet wofür.

Die Pflichten kommen gestaffelt: 2. Feb 2025 — Verbote und KI-Kompetenz-Pflicht · 2. Aug 2025 — GPAI-Pflichten · 2. Aug 2026 — Transparenzpflichten nach Art. 50; Bußgelder gegen GPAI-Anbieter möglich · 2. Dez 2026 — Frist für die maschinenlesbare Markierung bei Bestandssystemen und neues Verbot für KI-generierte intime Darstellungen · 2. Aug 2027 — Frist für GPAI-Modelle, die vor August 2025 auf den Markt kamen · 2. Dez 2027 — Hochrisiko-Pflichten nach Anhang III · 2. Aug 2028 — Hochrisiko in regulierten Produkten (Anhang I). Stand nach dem Digital Omnibus, in Kraft seit 27. Juli 2026, der die ursprünglichen Hochrisiko-Termine nach hinten verschoben hat. Die kluge Reihenfolge im Unternehmen: erst Inventar und Klassifizierung, dann Kennzeichnung, dann die Hochrisiko-Akten.

Die am meisten übersehene Pflicht — und seit 2. Februar 2025 anwendbar: Wer KI-Systeme anbietet oder betreibt, muss die KI-Kompetenz der eigenen Leute fördern — passend zu ihrer Rolle und den eingesetzten Systemen. Der Digital Omnibus hat die Pflicht entschärft: Anbieter und Betreiber ergreifen Maßnahmen, um die KI-Kompetenz ihres Personals und anderer in ihrem Auftrag tätiger Personen zu unterstützen, müssen aber kein bestimmtes Niveau mehr garantieren; Kommission und Mitgliedstaaten unterstützen dabei. Für Agenten-Betreiber ändert das wenig: Die Fachabteilung, die mit der Exception-Queue arbeitet, muss verstehen, was der Agent kann, wo er irrt und wann man ihn stoppt. Genau dafür existiert dieses Glossar.

Die Bußgeldrahmen sind an der DSGVO orientiert und übertreffen sie: bis zu 35 Mio. € oder 7 % des weltweiten Umsatzes für verbotene Praktiken, bis zu 15 Mio. € oder 3 % für Verstöße gegen die meisten übrigen Pflichten; für KMU gilt jeweils der niedrigere Betrag, für kleine Midcaps seit dem Digital Omnibus bei den übrigen Pflichten ebenso. Überwacht wird national: In Deutschland ist nach dem KI-Marktüberwachungsgesetz vom Juli 2026 die Bundesnetzagentur zuständig; in Österreich ist bislang keine Marktüberwachungsbehörde benannt — die KI-Servicestelle der RTR informiert und berät (Stand September 2026). EU-weit beaufsichtigt das AI Office die Anbieter von GPAI-Modellen. Realistisch beginnt Aufsicht nicht mit Razzien, sondern mit Fragen — und die beste Antwort ist eine gepflegte Akte: Inventar, Klassifizierung, Audit-Trail.