Regulation (EU) 2024/1689 (AI Act)
Checkliste zur Umsetzung der KI-Verordnung
Prüfpunkte nach der Verordnung (EU) 2024/1689, gegliedert nach Rolle: alle Organisationen, Anbieter und Betreiber von Hochrisiko-KI-Systemen, Transparenzpflichten und KI-Modelle mit allgemeinem Verwendungszweck.
1. Alle Organisationen
Führen Sie ein Verzeichnis aller KI-Systeme, die Sie entwickeln, beschaffen, integrieren oder nutzen.
Art. 3(1)Prüfen Sie jedes Werkzeug anhand der Definition eines KI-Systems in Art. 3 Nr. 1. Erfassen Sie Verantwortliche, Zweck, Lieferant und betroffene Personen.
Bestimmen Sie Ihre Rolle je System: Anbieter, Betreiber, Einführer oder Händler.
Art. 3, Art. 25Nach Art. 25 wird ein Betreiber oder Dritter zum Anbieter, wenn er ein Hochrisiko-KI-System unter eigenem Namen vertreibt, es wesentlich verändert oder seine Zweckbestimmung so ändert, dass es hochriskant wird.
Stellen Sie sicher, dass kein System eine verbotene Praktik einsetzt, und stellen Sie solche Systeme ein.
Art. 5Erfasst u. a. Manipulation, Ausnutzung von Schwächen, Social Scoring, ungezieltes Auslesen von Gesichtsbildern und Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen und gilt seit dem 2. Februar 2025. Die Verordnung (EU) 2026/1744 verbietet zusätzlich ab dem 2. Dezember 2026 KI-Systeme, die nicht einvernehmliche intime Darstellungen oder Darstellungen sexuellen Missbrauchs von Kindern erzeugen.
Ergreifen Sie Maßnahmen zur Förderung der KI-Kompetenz der Beschäftigten und anderer Personen, die KI-Systeme in Ihrem Auftrag betreiben oder nutzen.
Art. 4Gilt für Anbieter und Betreiber seit dem 2. Februar 2025. In der durch die Verordnung (EU) 2026/1744 geänderten Fassung muss kein bestimmtes Kompetenzniveau einzelner Personen mehr gewährleistet werden. Passen Sie Schulungen an Rolle, Kontext und betroffene Personen an und dokumentieren Sie sie.
Ordnen Sie jedes System als verboten, hochriskant, nur transparenzpflichtig oder mit minimalem Risiko ein und begründen Sie dies.
Art. 6, Annex I, Annex IIIHochriskant ist ein System, das selbst ein Produkt nach Anhang I mit Drittbewertung oder dessen Sicherheitsbauteil ist oder in einen Bereich des Anhangs III fällt, etwa Beschäftigung, Kreditwürdigkeit oder Bildung. Ein System nach Anhang III ohne erhebliches Risiko kann nach Art. 6 Abs. 3 ausgenommen sein, außer es erstellt Profile natürlicher Personen. Dokumentieren Sie diese Bewertung.
Ordnen Sie Ihre Pflichten den Fristen des Art. 113 in der im Juli 2026 geänderten Fassung zu.
Art. 113, Regulation (EU) 2026/1744Die Verordnung (EU) 2026/1744 (Digital-Omnibus zu KI), am 24. Juli 2026 im Amtsblatt veröffentlicht und seit dem 27. Juli 2026 in Kraft, hat die Hochrisiko-Fristen verschoben: Systeme nach Anhang III ab 2. Dezember 2027, Produkte nach Anhang I ab 2. August 2028. Die meisten übrigen Pflichten, auch die Transparenzpflichten nach Art. 50, gelten ab 2. August 2026.
Informieren Sie die Leitung über Sanktionsrisiken von bis zu 35 Mio. EUR oder 7 % des Umsatzes bei verbotenen Praktiken.
Art. 99Für Unternehmen gilt der jeweils höhere Betrag. Verstöße gegen die meisten anderen Pflichten kosten bis zu 15 Mio. EUR oder 3 %, falsche Angaben gegenüber Behörden bis zu 7,5 Mio. EUR oder 1 %. Für KMU und kleine Midcap-Unternehmen gilt der niedrigere Betrag.
2. Anbieter von Hochrisiko-KI-Systemen
Betreiben Sie ein dokumentiertes Risikomanagementsystem über den gesamten Lebenszyklus des Systems.
Art. 9Ermitteln Sie vorhersehbare Risiken für Gesundheit, Sicherheit und Grundrechte, auch bei vernünftigerweise vorhersehbarer Fehlanwendung, treffen Sie Gegenmaßnahmen und testen Sie anhand festgelegter Metriken.
Wenden Sie Daten-Governance auf Trainings-, Validierungs- und Testdaten an, einschließlich einer Prüfung auf Verzerrungen.
Art. 10Datensätze müssen für die Zweckbestimmung relevant, hinreichend repräsentativ und möglichst fehlerfrei und vollständig sein. Dokumentieren Sie Erhebung, Aufbereitung und bekannte Lücken.
Erstellen Sie vor dem Inverkehrbringen eine technische Dokumentation mit allen Angaben nach Anhang IV.
Art. 11, Annex IVDazu gehören Systembeschreibung, Designentscheidungen, Daten, Tests, Leistungskennzahlen und das Risikomanagementsystem. Halten Sie sie über die Lebensdauer aktuell.
Integrieren Sie eine automatische Protokollierung von Ereignissen, damit der Betrieb nachvollziehbar ist.
Art. 12Die Protokolle sollen Risikosituationen erkennbar machen, die Beobachtung nach dem Inverkehrbringen unterstützen und Betreibern die Überwachung ermöglichen.
Stellen Sie verständliche Betriebsanleitungen bereit, damit Betreiber die Ausgaben interpretieren und das System richtig nutzen können.
Art. 13Nennen Sie Zweckbestimmung, Genauigkeit, bekannte Grenzen, Maßnahmen der menschlichen Aufsicht, erforderliche Eingabedaten und das Erfassen der Protokolle.
Gestalten Sie das System so, dass natürliche Personen es wirksam beaufsichtigen, übersteuern und anhalten können.
Art. 14Aufsichtspersonen müssen Fähigkeiten und Grenzen verstehen, Automatisierungsbias erkennen und Ausgaben außer Acht lassen oder rückgängig machen können.
Erreichen und deklarieren Sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit.
Art. 15Schützen Sie vor Fehlern, Rückkopplungsschleifen und Angriffen wie Datenvergiftung, feindlichen Eingaben und Modellmanipulation.
Führen Sie ein schriftlich dokumentiertes Qualitätsmanagementsystem für Entwicklung, Tests, Daten und Vorfallbehandlung ein.
Art. 17Es muss der Größe der Organisation angemessen sein und kann in bestehende Qualitätssysteme nach sektoralem Recht eingebunden werden.
Führen Sie vor dem Inverkehrbringen das anwendbare Konformitätsbewertungsverfahren durch.
Art. 43Für die meisten Systeme nach Anhang III gilt die interne Kontrolle nach Anhang VI. Biometrische Systeme und Produkte nach Anhang I können eine notifizierte Stelle erfordern. Nach wesentlicher Änderung ist sie zu wiederholen.
Stellen Sie die EU-Konformitätserklärung aus, bringen Sie die CE-Kennzeichnung an und registrieren Sie in der EU-Datenbank.
Art. 47, Art. 48, Art. 49Bewahren Sie die Erklärung 10 Jahre nach dem Inverkehrbringen auf. Bei rein digital bereitgestellten Systemen wird eine digitale CE-Kennzeichnung verwendet. Systeme für kritische Infrastruktur werden auf nationaler Ebene registriert. Einige Einträge aus Strafverfolgung und Migration kommen in einen nicht öffentlichen Teil.
Betreiben Sie eine Beobachtung nach dem Inverkehrbringen und ein Verfahren zur fristgerechten Meldung schwerwiegender Vorfälle.
Art. 72, Art. 73Der Plan ist Teil der technischen Dokumentation. Nutzen Sie die Daten, um die fortlaufende Konformität zu prüfen, und speisen Sie sie in das Risikomanagement zurück. Die Meldung erfolgt spätestens 15 Tage nach Kenntnis, bei weitverbreiteten Verstößen oder kritischer Infrastruktur binnen 2 Tagen und bei Todesfällen binnen 10 Tagen.
3. Betreiber von Hochrisiko-KI-Systemen
Verwenden Sie jedes System gemäß Betriebsanleitung und übertragen Sie die Aufsicht kompetenten, geschulten Personen.
Art. 26(1), Art. 26(2)Treffen Sie technische und organisatorische Maßnahmen. Eine Nutzung außerhalb der Zweckbestimmung kann Sie nach Art. 25 zum Anbieter machen. Benennen Sie die Aufsichtspersonen je System und stellen Sie sicher, dass sie im laufenden Betrieb tatsächlich eingreifen können.
Stellen Sie sicher, dass von Ihnen kontrollierte Eingabedaten der Zweckbestimmung entsprechen und hinreichend repräsentativ sind.
Art. 26(4)Dies gilt, soweit Sie die Kontrolle über die Eingabedaten haben, etwa Daten aus eigenen Personal- oder Kundensystemen.
Überwachen Sie den Betrieb, handeln Sie bei Risiken und bewahren Sie Protokolle mindestens sechs Monate auf.
Art. 26(5), Art. 26(6)Schwerwiegende Vorfälle sind unverzüglich dem Anbieter und anschließend den Behörden zu melden. Längere Fristen können sich aus Unions- oder nationalem Recht ergeben, auch aus dem Datenschutzrecht. Prüfen Sie die Aufbewahrungseinstellungen in Lieferantenverträgen.
Informieren Sie vor dem Einsatz am Arbeitsplatz die Arbeitnehmervertretung und Betroffene über Entscheidungen nach Anhang III.
Art. 26(7), Art. 26(11)Halten Sie die Informationsverfahren des Unions- und nationalen Arbeitsrechts ein, die auch Anhörung oder Mitbestimmung verlangen können. Nehmen Sie den Hinweis in die betreffenden Formulare, Schreiben oder Portale dort auf, wo das Entscheidungsverfahren beginnt.
Führen Sie, soweit vorgeschrieben, vor der ersten Nutzung eine Grundrechte-Folgenabschätzung durch.
Art. 27Betrifft Systeme nach Anhang III außer kritischer Infrastruktur (Nummer 2). Pflicht für Einrichtungen des öffentlichen Rechts, private Einrichtungen mit öffentlichen Diensten und Betreiber von Systemen zur Kreditwürdigkeitsprüfung oder Preisbildung in Lebens- und Krankenversicherung. Das Ergebnis ist der Marktüberwachungsbehörde mitzuteilen. Auf eine bestehende DSGVO-Datenschutz-Folgenabschätzung können Sie verweisen.
Seien Sie in der Lage, betroffenen Personen auf Anfrage die Rolle des KI-Systems bei einer Entscheidung zu erläutern.
Art. 86Gilt für Entscheidungen auf Grundlage von Ausgaben eines Systems nach Anhang III mit rechtlicher oder ähnlich erheblicher Wirkung. Richten Sie einen Anfragekanal und eine Antwortvorlage ein.
4. Transparenzpflichten
Stellen Sie sicher, dass Personen wissen, dass sie mit einem KI-System interagieren, sofern dies nicht offensichtlich ist.
Art. 50(1)Dies ist eine Anbieterpflicht für Chatbots und Sprachassistenten. Der Hinweis muss spätestens bei der ersten Interaktion erfolgen.
Kennzeichnen Sie synthetische Audio-, Bild-, Video- und Textausgaben in maschinenlesbarer und erkennbarer Form.
Art. 50(2), Art. 111(4)Erwägungsgrund 133 nennt Wasserzeichen, Metadaten, kryptografische Herkunftsnachweise, Protokollierung und Fingerabdrücke. C2PA wird in der Verordnung nicht genannt, ist aber ein nutzbarer Branchenstandard für Herkunftsnachweise. Ausnahmen gelten für unterstützende Standardbearbeitung und Ausgaben, die die Eingabe nicht wesentlich verändern. Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, haben bis zum 2. Dezember 2026 Zeit.
Legen Sie Deepfakes und KI-generierte Texte offen, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden.
Art. 50(4)Eine Betreiberpflicht. Für offensichtlich künstlerische oder satirische Werke gilt eine eingeschränkte Offenlegung; die Textregel entfällt bei menschlicher redaktioneller Kontrolle und Verantwortung.
Informieren Sie Personen, die einem System zur Emotionserkennung oder biometrischen Kategorisierung ausgesetzt sind, über dessen Betrieb.
Art. 50(3)Verarbeiten Sie personenbezogene Daten gemäß DSGVO. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist nach Art. 5 verboten, außer aus medizinischen oder Sicherheitsgründen.
5. Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
Führen Sie die technische Dokumentation des Modells und stellen Sie nachgelagerten Anbietern die erforderlichen Informationen bereit.
Art. 53(1)(a), Art. 53(1)(b)Gilt nach Art. 113 seit dem 2. August 2025. Die Inhalte sind in den Anhängen XI und XII aufgeführt. Quelloffene Modelle sind teilweise ausgenommen, sofern kein systemisches Risiko besteht.
Legen Sie eine Urheberrechtsstrategie fest und veröffentlichen Sie eine hinreichend detaillierte Zusammenfassung der Trainingsinhalte.
Art. 53(1)(c), Art. 53(1)(d)Die Strategie muss Vorbehalte gegen Text- und Data-Mining erkennen und einhalten. Nutzen Sie für die Zusammenfassung die Vorlage der Kommission.
Führen Sie bei Modellen mit systemischem Risiko Bewertungen durch, mindern Sie Risiken, melden Sie schwerwiegende Vorfälle und sichern Sie das Modell.
Art. 51, Art. 52, Art. 55Ein systemisches Risiko wird ab einem Trainingsrechenaufwand von mehr als 10^25 FLOPs vermutet. Benachrichtigen Sie die Kommission binnen zwei Wochen nach Erreichen der Schwelle.
Diese Checklisten fassen die offiziellen Texte für Ihre Planung zusammen. Sie sind keine Rechtsberatung, und nationale Gesetze oder Leitlinien können weitere Anforderungen enthalten. Prüfen Sie den offiziellen Text, bevor Sie sich auf einen Punkt verlassen.
Alle ChecklistenPassende Leistung: Bewertung von Richtlinien und Verfahren
Sollen wir uns Ihre Lücken ansehen?
Wir führen Gap-Analysen zu diesen Regelwerken durch und helfen, die Lücken zu schließen.