Anbieter und Betreiber
Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter eigenem Namen in Verkehr oder nehmen es so in Betrieb (Art. 3 Nr. 3). Betreiber verwenden ein KI-System in eigener Verantwortung, also jeder Betrieb, dessen Team KI für die Arbeit nutzt (Art. 3 Nr. 4). Rein private Nutzung fällt nicht darunter. Die Hinweispflicht für Chatbots und Telefonassistenten richtet sich an den Anbieter. Nach den Leitlinien der EU-Kommission ist das auch ein Unternehmen, das einen Chatbot unter eigenem Namen anbietet, selbst wenn es ein fertiges System ohne Änderungen in seine Abläufe einbindet (Rn. 11).
Verbotene Praktiken (Art. 5)
Unter anderem unterschwellige oder täuschende Beeinflussung, das Ausnutzen von Alter oder Behinderung, die Bewertung von Menschen nach ihrem sozialen Verhalten, die Vorhersage von Straftaten allein aus einem Profil, das ungezielte Sammeln von Gesichtsbildern, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen und die Einteilung von Menschen nach sensiblen Merkmalen anhand biometrischer Daten. Ab dem 2. Dezember 2026 kommen KI für intime Bilder ohne Einwilligung und für Missbrauchsdarstellungen von Kindern hinzu.
Hochrisiko-KI (Art. 6, Anhang I und III)
Anhang III nennt acht Bereiche: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Personal, grundlegende Dienste wie Kreditwürdigkeit sowie Lebens- und Krankenversicherung, Strafverfolgung, Migration, Justiz und Wahlen. Ein System aus diesen Bereichen gilt nicht als hochriskant, wenn es kein erhebliches Risiko birgt, zum Beispiel weil es nur eine eng gefasste Verfahrensaufgabe oder eine vorbereitende Aufgabe erledigt (Art. 6 Abs. 3); bewertet es Menschen anhand ihrer persönlichen Merkmale (Profiling), ist es immer hochriskant. Anhang I betrifft KI als Sicherheitsbauteil in Produkten wie Medizinprodukten, Aufzügen oder Spielzeug.
Wann ein Betrieb zum Anbieter wird (Art. 25)
Wer ein Hochrisiko-System unter eigenem Namen anbietet, es wesentlich verändert oder ein allgemeines KI-System so einsetzt, dass es zur Hochrisiko-KI wird, zum Beispiel für die Auswahl von Bewerbern, gilt selbst als Anbieter. Dann gelten Risikomanagement, technische Dokumentation, Konformitätsbewertung und Registrierung. Für kleine und mittlere Unternehmen sieht die Verordnung eine vereinfachte technische Dokumentation vor.
Pflichten der Betreiber von Hochrisiko-KI (Art. 26)
Nutzung nach der Betriebsanleitung, menschliche Aufsicht durch Personen mit Kompetenz und Befugnis, passende Eingabedaten, Überwachung des Betriebs, Protokolle mindestens sechs Monate, Information der Arbeitnehmervertretung und der Beschäftigten vor dem Einsatz am Arbeitsplatz, Information der Menschen, über die das System mitentscheidet. Eine Grundrechte-Folgenabschätzung (Art. 27) brauchen Behörden, private Anbieter öffentlicher Dienste und wer KI für die Kreditwürdigkeit oder für Lebens- und Krankenversicherungen einsetzt.
Bußgelder (Art. 99)
Bis 35 Mio. € oder 7 % des weltweiten Jahresumsatzes bei verbotenen Praktiken, bis 15 Mio. € oder 3 % bei Verstößen unter anderem gegen Art. 26 und Art. 50, bis 7,5 Mio. € oder 1 % bei falschen Auskünften an Behörden. Für KMU und seit Juli 2026 auch für kleine Midcap-Unternehmen gilt der niedrigere Betrag. Art. 4 steht nicht in diesem Katalog.
Aufsicht in Deutschland
Seit dem 29. Juli 2026 gilt das Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG). Die Bundesnetzagentur ist Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle; für den Finanzsektor bleibt die BaFin zuständig, für Medien die Landesmedienanstalten. Ihr KI-Service-Desk bietet mit dem KI-Compliance-Kompass eine erste Einschätzung der Risikostufe.
Quellen: Verordnung (EU) 2024/1689; Verordnung (EU) 2026/1744; EU-Kommission, Leitlinien zu Artikel 50 vom 5. November 2026; Bundesnetzagentur, KI-Kompetenz und Pressemitteilung vom 29. Juli 2026. Nachgelesen im November 2026.