EU AI Act: verbotene Praktiken nach Art. 5 und was ab dem 2. Dezember 2026 hinzukommt

Art. 5 des EU AI Act verbietet seit dem 2. Februar 2025 die KI-Praktiken der Buchstaben a bis h, etwa Emotionserkennung am Arbeitsplatz und soziale Bewertung mit benachteiligenden Folgen. Ab dem 2. Dezember 2026 kommen ba und bb hinzu: KI-erzeugte intime Darstellungen ohne Zustimmung und Missbrauchsdarstellungen von Kindern (Art. 113 Abs. 3 Buchst. a). Verboten sind Inverkehrbringen, Inbetriebnahme und Verwendung; das trifft nicht nur Anbieter, sondern auch Betreiber, etwa Unternehmen, die ein zugekauftes System einsetzen (Art. 3 Nr. 3 und 4). Verboten ist ein System nur, wenn es alle Merkmale eines Buchstabens erfüllt und keine Ausnahme greift; bei ba und bb begrenzt Abs. 1a die Verbote zusätzlich.

Was Art. 5 des EU AI Act verbietet

Der EU AI Act – amtlich die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-Verordnung) – zählt in Art. 5 Abs. 1 Unterabs. 1 die verbotenen Praktiken einzeln auf. Der Einleitungssatz lautet:

„Folgende Praktiken im KI-Bereich sind verboten:“ (Art. 5 Abs. 1 Unterabs. 1 KI-VO)

Die Buchstaben a bis h gelten seit dem 2. Februar 2025. Die Buchstaben ba und bb sowie die Absätze 1a und 1b gelten ab dem 2. Dezember 2026 (Art. 113 Abs. 3 Buchst. a). Verboten ist jeweils das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines solchen KI-Systems, bei Buchstabe h nur die Verwendung. Damit trifft das Verbot nicht nur Anbieter, sondern auch Unternehmen und Behörden, die ein zugekauftes System einsetzen. Ausgenommen sind Forschungs-, Test- und Entwicklungstätigkeiten, bevor ein System in Verkehr gebracht oder in Betrieb genommen wird – Tests unter Realbedingungen dagegen nicht (Art. 2 Abs. 8).

Wie viele Verbote es sind, wird unterschiedlich gezählt. Das Gesetz arbeitet mit Buchstaben: a bis h, ab dem 2. Dezember 2026 zusätzlich ba und bb. Die Bundesnetzagentur schreibt, die KI-Verordnung liste „insgesamt acht verbotene Praktiken in Artikel 5 Absatz 1“, und erwähnt die neuen Buchstaben auf dieser Seite bisher nicht. Die Europäische Kommission schreibt auf ihrer Seite zum AI Act: „The AI Act prohibits nine practices“ – sie fasst die Ergänzung als „Prohibition 9“ zusammen, die im Dezember 2026 wirksam wird. Maßgeblich ist der Verordnungstext; dieser Beitrag nennt deshalb Buchstaben statt Zahlen.

Die Verbote im Überblick

Art. 5 Abs. 1 Unterabs. 1 umfasst die Buchstaben a bis h und, ab dem 2. Dezember 2026, ba und bb; die Tabelle fasst jeden Buchstaben zusammen. Die Spalte „Kern“ gibt den Wortlaut gekürzt wieder. Die Beispiele stammen von der Bundesnetzagentur, die ihren Überblick nach eigener Angabe auf die Leitlinien der Europäischen Kommission stützt. Diese Leitlinien zu verbotenen KI-Praktiken sind nach Angabe der Kommission „non-binding“; die maßgebliche Auslegung bleibt dem Gerichtshof der Europäischen Union vorbehalten. Sie stammen aus dem Jahr 2025, also aus der Zeit vor der Ergänzung um ba und bb.

Was nicht unter Art. 5 fällt, kann nach anderem Unionsrecht verboten sein; diese Verbote berührt der Artikel nicht (Art. 5 Abs. 8).

Wen die Verbote treffen: Anbieter und Betreiber

Art. 5 richtet sich an jeden, der ein KI-System in Verkehr bringt, in Betrieb nimmt oder verwendet. Anbieter ist nach Art. 3 Nr. 3, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt. Betreiber ist nach Art. 3 Nr. 4, wer ein KI-System „in eigener Verantwortung verwendet“ – also auch ein Unternehmen, das ein Standardwerkzeug einkauft und in einer Fachabteilung nutzt, und ebenso eine Behörde. Ausgenommen ist nur die Verwendung „im Rahmen einer persönlichen und nicht beruflichen Tätigkeit“ (Art. 3 Nr. 4; ebenso Art. 2 Abs. 10).

Bei den Buchstaben d bis g ist die Inbetriebnahme nur verboten, wenn sie „für diesen spezifischen Zweck“ erfolgt; bei Buchstabe h ist nur die Verwendung zu Strafverfolgungszwecken erfasst. Für ba und bb begrenzt Abs. 1a die Verbote zusätzlich (siehe Abschnitt zum 2. Dezember 2026).

Ist ein bestimmtes System verboten? Das lässt sich nur am einzelnen Buchstaben beantworten: Ein System ist verboten, wenn sein Einsatz alle Merkmale eines Buchstabens erfüllt und keine Ausnahme greift. Die Bundesnetzagentur weist darauf hin, dass die Bedingungen der Verbote kumulativ sind und die Anwendung von Art. 5 „stets eine individuelle Prüfung“ erfordert. Zu prüfen sind vor allem der Zweck des Systems, ob es biometrische Daten verarbeitet, ob es am Arbeitsplatz oder in einer Bildungseinrichtung eingesetzt wird und welche Folgen eine Bewertung für die betroffenen Personen hat.

Was Unternehmen jetzt prüfen sollten

Art. 5 schreibt kein Prüfverfahren vor. Die Prüfung lässt sich in vier Fragen fassen, dazu kommt die Schulung; die Schritte sind eine Empfehlung, keine gesetzliche Vorgabe.

• Wer: Verantwortlich ist das Unternehmen in seiner Rolle als Anbieter oder Betreiber. Es empfiehlt sich, eine Stelle zu benennen, etwa Compliance, die die Prüfung koordiniert.
• Was: alle eingesetzten und erprobten KI-Systeme erfassen, auch KI-Funktionen in Standardsoftware, und je System den Zweck festhalten. Dann gegen die Buchstaben prüfen: Werden am Arbeitsplatz oder in der Ausbildung Emotionen abgeleitet? Werden Personen anhand biometrischer Daten nach sensiblen Merkmalen kategorisiert? Werden Personen über einen Zeitraum bewertet, mit Nachteilen in sachfremden Zusammenhängen? Ab dem 2. Dezember 2026 kommen bei Bild-, Video- und Tongeneratoren die Buchstaben ba und bb hinzu.
• Womit nachgewiesen: Art. 5 enthält keine Nachweis- oder Dokumentationspflicht für Anbieter oder Betreiber. Empfehlenswert ist eine schriftliche Prüfung je System: Sie macht nachvollziehbar, warum ein System nicht unter einen Buchstaben fällt. Eine Pflicht ist dagegen die Information der Betroffenen nach Art. 50 Abs. 3, wenn ein erlaubtes Emotionserkennungs- oder Kategorisierungssystem betrieben wird (siehe unten).
• Wen beteiligen: Soll ein System Verhalten oder Leistung von Beschäftigten überwachen, hat der Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG mitzubestimmen, soweit keine gesetzliche oder tarifliche Regelung besteht – bei der „Einführung und Anwendung von technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen“. In den Verwaltungen und Gerichten des Bundes bestimmt ebenso der Personalrat mit (§ 80 Abs. 1 Nr. 21, § 1 Abs. 1 BPersVG); das Personalvertretungsrecht der Länder ist nicht Gegenstand dieses Beitrags. Das ist eine eigene Pflicht neben der KI-Verordnung; wie beide im Einzelfall zusammenspielen, ist rechtlich zu prüfen. Die KI-Verordnung erlaubt der Union und den Mitgliedstaaten ausdrücklich, für Beschäftigte günstigere Vorschriften beizubehalten oder einzuführen (Art. 2 Abs. 11).
• Schulung: Wer KI in Fachabteilungen erprobt, sollte die Verbote kennen. Was die Verordnung zur Schulung verlangt, ordnet der Beitrag zur KI-Kompetenz nach Art. 4 ein.

In eigener Sache: Bridgly bietet die Unterweisung „Künstliche Intelligenz (KI-VO)“ an, eine 30-minütige Schulung, die unter anderem die Risikoklassifizierung und die Pflichten nach dem EU AI Act behandelt. Sie vermittelt Grundwissen; die Prüfung der eingesetzten Systeme gegen Art. 5 ersetzt sie nicht.

Gilt das Verbot schon beim Testen?

Nur eingeschränkt. Art. 2 Abs. 8 nimmt Forschungs-, Test- und Entwicklungstätigkeiten aus, aber nur, „bevor diese in Verkehr gebracht oder in Betrieb genommen werden“; zugleich heißt es: „Tests unter Realbedingungen fallen nicht unter diesen Ausschluss.“ Daneben gilt die Verordnung nicht für Systeme, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden (Art. 2 Abs. 6).

Für Fachabteilungen, die ein bereits erhältliches Werkzeug erproben, ist die Lage nicht abschließend geklärt: Ob das Erproben eines zugekauften Systems noch unter Abs. 8 fällt oder schon „Verwendung“ ist, beantwortet der Wortlaut nicht ausdrücklich. Die Bundesnetzagentur gibt die Lesart der Kommissions-Leitlinien wieder, nach der „Verwendung“ den Einsatz oder die Nutzung des Systems „zu jedem Zeitpunkt seines Lebenszyklus nach dem Inverkehrbringen oder der Inbetriebnahme“ umfasst. Prüfpunkte sind deshalb: Ist das System bereits in Verkehr gebracht? Laufen echte Daten von Beschäftigten oder Kunden hindurch? Findet der Test im Arbeitsalltag statt? Wer diese Fragen bejaht, sollte den Test vorsorglich wie einen Einsatz gegen die Buchstaben prüfen.

Was gilt am Arbeitsplatz?

Am Arbeitsplatz sind vor allem die Buchstaben f (Emotionen), g (biometrische Kategorisierung) und c (soziale Bewertung) einschlägig. Buchstabe f lautet im Wortlaut:

„das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von KI-Systemen zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, es sei denn, die Verwendung des KI-Systems soll aus medizinischen Gründen oder Sicherheitsgründen eingeführt oder auf den Markt gebracht werden;“ (Art. 5 Abs. 1 Unterabs. 1 Buchst. f KI-VO)

Kurz gesagt: KI-Systeme, die am Arbeitsplatz oder in Bildungseinrichtungen Emotionen von Menschen ableiten, sind verboten, es sei denn, sie sollen aus medizinischen Gründen oder Sicherheitsgründen eingeführt werden. Den Hintergrund nennt Erwägungsgrund 44 der KI-Verordnung: Er betrifft Systeme, die Emotionen „auf der Grundlage ihrer biometrischen Daten erkennen oder ableiten“, und begründet das Verbot mit dem Machtungleichgewicht in den Bereichen Arbeit und Bildung. Auch die Begriffsbestimmung des Emotionserkennungssystems in Art. 3 Nr. 39 setzt biometrische Daten voraus. Ob eine Stimmungsanalyse ohne biometrische Daten, etwa von Texten, unter Buchstabe f fällt, ist deshalb ein eigener Prüfpunkt. Physische Zustände wie Schmerz oder Ermüdung sind nach Erwägungsgrund 18 keine Emotionen; genannt werden Systeme, die die Ermüdung von Berufspiloten oder -fahrern erkennen, um Unfälle zu verhindern. Auch die bloße Erkennung offensichtlicher Gesichtsausdrücke oder Gesten ist nicht erfasst, solange daraus keine Emotionen abgeleitet werden. Als Beispiel nennt die Bundesnetzagentur Callcenter, die mit Webcams und Spracherkennung die Emotionen von Beschäftigten verfolgen.

Offen ist auch, wie weit Buchstabe f reicht, wenn ein System vor allem Kunden auswertet – etwa die Stimmungsanalyse im Kundenservice – und dabei Beschäftigte mit erfasst. Der Wortlaut knüpft an die Person „am Arbeitsplatz“ an; außerhalb von Arbeitsplatz und Bildung ist Emotionserkennung nicht verboten, aber grundsätzlich hochriskant (nächster Abschnitt). Hier ist der Einzelfall rechtlich zu prüfen.

Buchstabe g verbietet die biometrische Kategorisierung, mit der auf Rasse, politische Einstellungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, Sexualleben oder sexuelle Ausrichtung geschlossen wird. Ein „System zur biometrischen Kategorisierung“ ist nach Art. 3 Nr. 40 ein KI-System, das Personen anhand biometrischer Daten Kategorien zuordnet, „sofern es sich nicht um eine Nebenfunktion eines anderen kommerziellen Dienstes handelt und aus objektiven technischen Gründen unbedingt erforderlich ist“. Das Wort „nicht“ fehlte in der ursprünglichen Amtsblatt-Fassung und wurde mit der Berichtigung vom 9. Oktober 2025 eingefügt; maßgeblich ist die berichtigte Fassung.

Buchstabe c ist nicht auf Behörden beschränkt. Er erfasst die Bewertung oder Einstufung von Personen über einen Zeitraum anhand ihres sozialen Verhaltens oder persönlicher Eigenschaften – verboten aber nur, wenn sie zu einer Schlechterstellung in Zusammenhängen führt, die mit der ursprünglichen Datenerhebung nichts zu tun haben (Ziff. i), oder zu einer ungerechtfertigten oder unverhältnismäßigen Schlechterstellung (Ziff. ii). Ob ein internes Mitarbeiter- oder Kunden-Scoring diese Schwelle erreicht, hängt vom Einzelfall ab; zu prüfen sind die verwendeten Daten, der Bewertungszeitraum und die Folgen für die Betroffenen.

Verboten oder hochriskant?

Manche Anwendungen, die an ein Verbot erinnern, sind nicht verboten, sondern als Hochrisiko-KI eingestuft. Die Einordnung aller Stufen erläutert der Beitrag zu den KI-Risikoklassen des EU AI Act; für die Abgrenzung zu den Verboten gilt:

• Emotionserkennung außerhalb von Arbeitsplatz und Bildung ist nicht verboten, aber grundsätzlich hochriskant (Anhang III Nr. 1 Buchst. c; Ausnahme nach Art. 6 Abs. 3).
• Biometrische Kategorisierung nach sensiblen oder geschützten Merkmalen ist, soweit sie nicht unter Buchstabe g fällt, hochriskant (Anhang III Nr. 1 Buchst. b). Anhang III Nr. 1 erfasst Biometrie nur, soweit ihr Einsatz nach Unionsrecht oder nationalem Recht zugelassen ist.
• Personalsysteme für Einstellung, Auswahl, Beförderung, Kündigung, Aufgabenzuweisung oder die Bewertung von Leistung und Verhalten sind grundsätzlich hochriskant (Anhang III Nr. 4 Buchst. a und b; Ausnahme nach Art. 6 Abs. 3), nicht verboten. Nach der Bundesnetzagentur kann aber auch ein Hochrisiko-System im Einzelfall eine verbotene Praxis sein, wenn alle Voraussetzungen eines Verbots erfüllt sind – etwa wenn es am Arbeitsplatz Emotionen ableitet.

Ein in Anhang III genanntes System gilt nach Art. 6 Abs. 3 ausnahmsweise nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt und eine der dort genannten Bedingungen erfüllt, etwa dazu bestimmt ist, eine eng gefasste Verfahrensaufgabe durchzuführen; nimmt es ein Profiling natürlicher Personen vor, gilt es immer als hochriskant. Für Hochrisiko-Systeme nach Anhang III gelten die Vorschriften in Kapitel III Abschnitte 1 bis 3 erst ab dem 2. Dezember 2027 (Art. 113 Abs. 3 Buchst. c Ziff. i). Hier liegt eine Verwechslungsgefahr: Der 2. Dezember 2026 betrifft nur die neuen Verbote ba und bb (Art. 113 Abs. 3 Buchst. a), der 2. Dezember 2027 die Hochrisiko-Systeme nach Anhang III, darunter Personalsysteme. Am 2. Dezember 2026 endet außerdem die Frist, in der Anbieter generativer Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, die maschinenlesbare Kennzeichnung nach Art. 50 Abs. 2 umsetzen müssen (Art. 111 Abs. 4) – das ist eine Transparenzpflicht, kein Verbot.

Wer ein erlaubtes Emotionserkennungssystem oder ein System zur biometrischen Kategorisierung betreibt, muss die betroffenen Personen über den Betrieb informieren und ihre personenbezogenen Daten nach dem Datenschutzrecht der Union verarbeiten (Art. 50 Abs. 3); ausgenommen sind bestimmte gesetzlich zugelassene Systeme zur Aufdeckung, Verhütung oder Ermittlung von Straftaten. Diese Pflicht gilt seit dem 2. August 2026 (Art. 113 Abs. 2). Die Transparenzpflichten im Einzelnen erläutert der Beitrag zur Kennzeichnungspflicht nach Art. 50 KI-VO.

Was ändert sich am 2. Dezember 2026?

Ab dem 2. Dezember 2026 gelten zwei zusätzliche Verbote. Sie stammen aus der Verordnung (EU) 2026/1744 vom 8. Juli 2026, dem sogenannten Digital Omnibus, veröffentlicht im Amtsblatt am 24. Juli 2026 und nach ihrem Art. 4 am dritten Tag nach der Veröffentlichung in Kraft getreten, also am 27. Juli 2026. Art. 1 Nr. 7 fügt die Buchstaben ba und bb sowie die Absätze 1a und 1b in Art. 5 ein; Art. 1 Nr. 40 fasst den Geltungsbeginn neu. Art. 113 Abs. 3 Buchst. a lautet jetzt:

„Die Kapitel I und II gelten ab dem 2. Februar 2025, mit Ausnahme von Artikel 5 Absatz 1 Unterabsatz 1 Buchstaben ba und bb und Artikel 5 Absätze 1a und 1b, die ab dem 2. Dezember 2026 gelten;“ (Art. 113 Abs. 3 Buchst. a KI-VO)

Die Buchstaben a bis h gelten also unverändert seit dem 2. Februar 2025. Neu verboten sind KI-Systeme, die realistische Bild-, Video-, Ton- oder ähnliche Inhalte mit intimen Körperteilen oder eindeutig sexuellen Handlungen einer bestimmbaren Person erzeugen oder manipulieren, ohne dass diese Person „eine aus freien Stücken erfolgende, spezifische, aufgeklärte, eindeutige und ausdrückliche Zustimmung“ erteilt hat (Buchst. ba). Ebenso verboten sind Systeme, die Material oder Darbietungen im Sinne von Art. 2 Buchst. c und e der Richtlinie 2011/93/EU erzeugen oder manipulieren (Buchst. bb), die die Kommission als Material über sexuellen Kindesmissbrauch beschreibt; das gilt nicht, wenn nach nationalem Recht das ‚unrechtmäßige‘ Verhalten als gerechtfertigt gilt. Eine Manipulation, die die Sichtbarkeit intimer Körperteile weder erhöht noch die Art der dargestellten Handlungen verändert, gilt nach Abs. 1b nicht als manipulativ.

Abs. 1a begrenzt beide Verbote. Das Inverkehrbringen oder die Inbetriebnahme ist nur verboten, wenn die Erzeugung oder Manipulation die Zweckbestimmung des Systems ist oder wenn sie ohne erhebliche technische Änderungen ein absehbares und reproduzierbares Ergebnis ist und zumutbare Schutzvorkehrungen fehlen (Buchst. a). Für Unternehmen, die Bild-, Video- oder Tongeneratoren einsetzen, ist Buchst. b entscheidend: Die Verwendung ist nur verboten, wenn der Betreiber das System zum Zwecke der Erzeugung oder Manipulation solchen Materials verwendet. Als Ausnahme sieht Buchstabe ba nur die Zustimmung der dargestellten Person vor; eine Kennzeichnung als künstlich erzeugter Inhalt nach Art. 50 ersetzt sie nicht. Was die Änderungsverordnung darüber hinaus geändert hat, etwa bei den Fristen für Hochrisiko-Systeme und bei der Aufsicht, ordnet der Beitrag zum Digital Omnibus ein.

Bußgeld und Aufsicht in Deutschland

Für die „Missachtung des Verbots der in Artikel 5 genannten KI-Praktiken“ sieht Art. 99 Abs. 3 Geldbußen von bis zu 35 000 000 Euro oder – bei Unternehmen – von bis zu 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor, je nachdem, welcher Betrag höher ist. Für KMU einschließlich Start-ups gilt der jeweils niedrigere Betrag (Art. 99 Abs. 6). Die Erleichterung für kleine Midcap-Unternehmen in Abs. 6a gilt nur für Geldbußen nach den Absätzen 4 und 5, also nicht für Verstöße gegen Art. 5. Bei der Entscheidung über eine Geldbuße und ihre Höhe werden alle relevanten Umstände und gegebenenfalls unter anderem die „Vorsätzlichkeit oder Fahrlässigkeit des Verstoßes“ berücksichtigt (Art. 99 Abs. 7 Buchst. i).

In Deutschland ergänzt das KI-Marktüberwachungsgesetz (KI-MIG) die Durchsetzung. Nach § 16 Abs. 1 KI-MIG gelten für Verstöße nach Art. 99 Abs. 3 bis 5 die Vorschriften des Gesetzes über Ordnungswidrigkeiten entsprechend, soweit das KI-MIG nichts anderes bestimmt; „§ 17 des Gesetzes über Ordnungswidrigkeiten, auch in Verbindung mit § 30 Absatz 3 des Gesetzes über Ordnungswidrigkeiten, sowie § 30 Absatz 1 und 2 des Gesetzes über Ordnungswidrigkeiten sind nicht anzuwenden.“ Zuständig für die Bußgeldverfahren sind die Marktüberwachungsbehörden in ihrem Geschäftsbereich (§ 17 Abs. 1 KI-MIG). Gegen Behörden und sonstige öffentliche Stellen im Sinne des § 2 Abs. 1 oder 2 BDSG werden keine Geldbußen verhängt (§ 17 Abs. 2 KI-MIG); das Verbot selbst gilt für sie trotzdem.

Der Bußgeldtatbestand in § 15 KI-MIG mit einer Obergrenze von 50.000 Euro betrifft andere Pflichten, etwa nach Art. 21, 27 und 45 der KI-Verordnung, und enthält keinen Tatbestand zu Art. 5. Offen und hier nicht beantwortet sind zwei Fragen für die rechtliche Prüfung: ob über § 16 KI-MIG auch fahrlässige Verstöße gegen Art. 5 geahndet werden können und ab welchem Zeitpunkt solche Verstöße in Deutschland tatsächlich bußgeldbewehrt sind.

Zuständige Marktüberwachungsbehörde ist nach § 2 Abs. 1 KI-MIG die Bundesnetzagentur, „soweit in diesem Gesetz nichts anderes bestimmt ist“. Andere Zuständigkeiten gelten unter anderem für Produkte nach Anhang I Abschnitt A der KI-Verordnung (§ 2 Abs. 2), für KI-Systeme im Zusammenhang mit regulierten Finanztätigkeiten (Bundesanstalt für Finanzdienstleistungsaufsicht, § 2 Abs. 3) und für öffentliche Stellen der Länder (nach Landesrecht zuständige Behörden, § 2 Abs. 6).

Grenzen und Ausnahmen im Überblick

• Forschung: Nicht erfasst sind Systeme, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden (Art. 2 Abs. 6).
• Tests: Ausgenommen sind Tätigkeiten vor dem Inverkehrbringen oder der Inbetriebnahme, nicht aber Tests unter Realbedingungen (Art. 2 Abs. 8).
• Private Nutzung: Nicht erfasst ist die ausschließlich persönliche und nicht berufliche Verwendung durch natürliche Personen (Art. 2 Abs. 10).
• Freie und quelloffene Lizenzen: Die Ausnahme für solche KI-Systeme gilt nicht, wenn sie als ein System in Verkehr gebracht oder in Betrieb genommen werden, das unter Art. 5 fällt (Art. 2 Abs. 12).
• Ausnahmen in den Buchstaben selbst: siehe Tabelle; für ba und bb zusätzlich Abs. 1a und 1b.
• Andere Verbote: Verbote aus anderem Unionsrecht bleiben unberührt (Art. 5 Abs. 8). Für die Verarbeitung biometrischer Daten zu anderen Zwecken als der Strafverfolgung gilt Buchstabe h unbeschadet des Art. 9 DSGVO (Art. 5 Abs. 1 Unterabs. 2).
• Öffentliche Stellen: Sie sind an die Verbote gebunden, Geldbußen gegen sie sind aber ausgeschlossen (§ 17 Abs. 2 KI-MIG).

Methodik und Aktualität

Ausgewertet wurden der Wortlaut der KI-Verordnung in der konsolidierten deutschen Fassung (Art. 2, 3, 5, 6, 50, 99, 111, 113 und Anhang III), die Erwägungsgründe 18 und 44 der Amtsblatt-Fassung, die Änderungsverordnung (EU) 2026/1744, §§ 2, 15, 16 und 17 KI-MIG, § 87 BetrVG sowie §§ 1 und 80 BPersVG. Beispiele und Auslegungshinweise stammen von der Seite der Bundesnetzagentur und den Seiten der Europäischen Kommission. Das Leitlinien-Dokument der Kommission selbst wurde nicht ausgewertet; der Beitrag zitiert deshalb keine Randnummern daraus. Nächster Anlass für eine Überarbeitung ist der 2. Dezember 2026, wenn die Buchstaben ba und bb gelten; außerdem jede Aktualisierung der Kommissions-Leitlinien und jeder weitere Änderungsrechtsakt zur KI-Verordnung.

Ist die Emotionsanalyse im Kundenservice verboten?

Nicht ohne Weiteres. Buchstabe f verbietet die Ableitung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen; werden dabei auch Beschäftigte ausgewertet, ist das Verbot zu prüfen. Außerhalb von Arbeitsplatz und Bildung ist Emotionserkennung nicht verboten, aber grundsätzlich hochriskant (Anhang III Nr. 1 Buchst. c; Ausnahme nach Art. 6 Abs. 3, nicht bei Profiling), mit Pflichten ab dem 2. Dezember 2027 (Art. 113 Abs. 3 Buchst. c Ziff. i). Über den Betrieb sind Betroffene seit dem 2. August 2026 zu informieren (Art. 50 Abs. 3).

Dürfen Fachabteilungen KI-Systeme testen?

Forschungs-, Test- und Entwicklungstätigkeiten vor dem Inverkehrbringen oder der Inbetriebnahme sind ausgenommen (Art. 2 Abs. 8), Tests unter Realbedingungen nicht. Ob das Erproben eines bereits erhältlichen Werkzeugs mit echten Daten schon als Verwendung gilt, ist im Einzelfall zu prüfen. Vorsorglich sollte ein solcher Test wie ein Einsatz gegen die Verbote geprüft werden.

Gilt das Verbot auch für zugekaufte Software?

Ja, wenn ein Verbot einschlägig ist. Art. 5 erfasst neben dem Inverkehrbringen auch die Verwendung, und Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet (Art. 3 Nr. 4) – auch ein Unternehmen, das ein Standardwerkzeug einkauft. Bei den Buchstaben ba und bb ist die Verwendung nur verboten, wenn der Betreiber das System zu diesem Zweck verwendet (Art. 5 Abs. 1a Buchst. b).

Wie hoch kann ein Bußgeld ausfallen?

Für die Missachtung der Verbote des Art. 5 sieht Art. 99 Abs. 3 Geldbußen von bis zu 35 Millionen Euro oder bei Unternehmen bis zu 7 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor, je nachdem, welcher Betrag höher ist; für KMU gilt der niedrigere Betrag (Abs. 6). In Deutschland gilt für solche Verstöße das Gesetz über Ordnungswidrigkeiten entsprechend, mit Ausnahmen (§ 16 Abs. 1 KI-MIG). Gegen Behörden und sonstige öffentliche Stellen im Sinne des § 2 Abs. 1 oder 2 BDSG werden keine Geldbußen verhängt (§ 17 Abs. 2 KI-MIG).

Sind KI-Systeme zur Bewerberauswahl verboten?

Nicht als solche. Systeme für Einstellung, Auswahl, Beförderung oder die Bewertung von Leistung und Verhalten sind grundsätzlich hochriskant (Anhang III Nr. 4; Ausnahme nach Art. 6 Abs. 3, nicht bei Profiling); die Pflichten dafür gelten ab dem 2. Dezember 2027 (Art. 113 Abs. 3 Buchst. c Ziff. i). Verboten ist ein solches System nur, wenn es im Einzelfall alle Merkmale eines Verbots erfüllt, etwa wenn es am Arbeitsplatz Emotionen ableitet.

• Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung – Art. 2, 3, 5, 6, 50, 99, 111, 113 und Anhang III (Fassung vom 27.07.2026)
• Verordnung (EU) 2024/1689, Amtsblatt-Fassung – Erwägungsgründe 18 und 44 (ABl. L vom 12.07.2024)
• Verordnung (EU) 2026/1744 (Digital Omnibus) – Art. 1 Nr. 7 und Nr. 40, Art. 4 (ABl. L vom 24.07.2026)
• KI-Marktüberwachungsgesetz (KI-MIG) – § 2 Zuständige Marktüberwachungsbehörden (Abruf: 20.10.2026)
• KI-Marktüberwachungsgesetz – § 15 Bußgeldvorschriften zur Verordnung (EU) 2024/1689 (Ausfertigung 22.07.2026)
• KI-Marktüberwachungsgesetz – § 16 Anwendung der Vorschriften über das Bußgeld- und Strafverfahren (Ausfertigung 22.07.2026)
• KI-Marktüberwachungsgesetz – § 17 Behörden (Abruf: 21.10.2026)
• Betriebsverfassungsgesetz (BetrVG) – § 87 Mitbestimmungsrechte (zuletzt geändert 19.07.2024; Abruf: 16.10.2026)
• Bundesnetzagentur, KI-Service-Desk – Verbotene Praktiken (ohne Standangabe)
• Europäische Kommission – Leitlinien zu verbotenen KI-Praktiken, Veröffentlichungsseite (Seitenstand: 31.07.2025)
• Europäische Kommission – AI Act, Abschnitt Unacceptable risk (Seitenstand: 19.10.2026)

Alle Quellen abgerufen am 22.10.2026, soweit im Eintrag nicht anders angegeben.