Infos zur KI-Verordnung
Künstliche Intelligenz sicher, rechtskonform und förderfähig
Nutzen Sie Künstliche Intelligenz verantwortungsvoll – wir begleiten Sie bei der Umsetzung der EU-Vorgaben.
EU-Verordnung zur Künstlichen Intelligenz
In Kraft und nun in der Umsetzungsphase
Seit dem 1. August 2024 ist die EU-Verordnung zur Künstlichen Intelligenz (AI Act) offiziell in Kraft. Sie bildet den weltweit ersten umfassenden Rechtsrahmen für den Einsatz von Künstlicher Intelligenz und soll deren Anwendung in Europa sicher, transparent und im Einklang mit den Grundrechten gestalten.
Im Jahr 2025 befinden wir uns in der Phase der schrittweisen Umsetzung:
Verbotene Praktiken: seit Februar 2025 untersagt
Hochrisiko-KI: ab 2026 reguliert
Weitere Pflichten: bis 2027
Erste Anforderungen gelten bereits heute für neue Systeme.
Was regelt die EU-Verordnung?
Die EU-Verordnung zur Künstlichen Intelligenz (AI Act) legt klare Regeln für Entwicklung, Einsatz und Vermarktung von KI-Systemen im europäischen Raum fest. Ziel ist es, die Vorteile von Künstlicher Intelligenz nutzbar zu machen und gleichzeitig Risiken für Menschen, Gesellschaft und Grundrechte zu begrenzen.
Im Zentrum steht die Einstufung von KI-Systemen nach ihrem Risikoniveau:
Verbotene KI-Systeme
Verbotene KI-Systeme umfassen Technologien, die mit den europäischen Werten unvereinbar sind, wie etwa KI zur Verhaltensmanipulation oder biometrischen Überwachung im öffentlichen Raum. Diese Anwendungen sind in der EU verboten, weil sie die Grundrechte und die Privatsphäre der Menschen gefährden.
Hochrisiko-KI
Hochrisiko-KI umfasst Anwendungen mit potenziell erheblichen Auswirkungen, etwa in der Medizin, Bildung, öffentlichen Verwaltung oder Strafverfolgung. Für diese gelten strenge Anforderungen wie Risikoanalysen, technische Dokumentation und kontinuierliche Überwachung.
Systeme mit geringem Risiko
Systeme mit geringem Risiko sind Anwendungen wie Spamfilter oder KI in Computerspielen, die ohne größere Einschränkungen genutzt werden können. Sie müssen jedoch grundlegende Transparenzanforderungen erfüllen.
Die Verordnung betrifft alle Akteure entlang der Wertschöpfungskette, von der Entwicklung über den Import bis hin zur Nutzung von KI-Systemen innerhalb der EU.
Wer ist von der Verordnung betroffen?
Die EU-Verordnung zur Künstlichen Intelligenz richtet sich an alle Akteure, die an der Entwicklung, Bereitstellung oder Nutzung von KI-Systemen beteiligt sind – unabhängig davon, ob sie ihren Sitz innerhalb oder außerhalb der EU haben.
Konkret betroffen sind:
Anbieter: Unternehmen oder Organisationen, die KI-Systeme entwickeln oder in Verkehr bringen.
Betreiber (Nutzer): Personen oder Stellen, die KI-Systeme im eigenen Geschäftsbetrieb einsetzen.
Einführer und Händler: Unternehmen, die KI-Systeme aus Drittstaaten in die EU einführen oder vertreiben.
Hersteller von Produkten mit integrierter KI: Wenn ein Produkt durch KI-Funktionen erweitert wird, gelten zusätzliche Pflichten.
Betroffene Personen: Also diejenigen, auf die sich Entscheidungen oder Handlungen eines KI-Systems auswirken können.
Nicht betroffen sind rein private Nutzer, die KI-Systeme ausschließlich im persönlichen Umfeld anwenden – beispielsweise zur Unterhaltung oder in der Freizeit. Ausnahmen bestehen zudem für Forschung, Verteidigung und nationale Sicherheit.
Hochrisiko-KI: Was bedeutet das?
Bestimmte KI-Systeme gelten als besonders risikobehaftet, weil sie in sensiblen Bereichen eingesetzt werden oder erhebliche Auswirkungen auf die Rechte, Sicherheit oder das Wohlergehen von Menschen haben können. Solche Systeme werden in der EU-Verordnung als Hochrisiko-KI eingestuft.
Typische Einsatzbereiche sind:
- Medizinische Geräte und Diagnosesysteme
- Automatisierte Bewerbungs- und Personalverfahren
- Zugang zu Bildung oder sozialen Leistungen
- Strafverfolgung, Grenzkontrollen oder Justiz
- Sicherheitsrelevante Infrastrukturen
Für diese Systeme gelten besonders strenge Anforderungen, z. B.:
- Durchführung einer Risikobewertung vor Inbetriebnahme
- Technische Dokumentation und Nachvollziehbarkeit
- Transparente Kommunikation gegenüber Nutzern
- Meldung von Vorfällen und laufende Überwachung
- Einhaltung definierter Sicherheits- und Qualitätsstandards
Ziel ist es, den Einsatz solcher Systeme kontrollierbar und verantwortungsvoll zu gestalten – ohne Innovation zu behindern, aber mit klaren Regeln zum Schutz von Menschen und Grundrechten.
Pflichten und Fristen im Überblick
Die EU-Verordnung zur Künstlichen Intelligenz (AI Act) führt verschiedene Verpflichtungen für den Einsatz von KI-Systemen ein. Diese richten sich nach dem Risiko, das von einem System ausgeht. Im Jahr 2025 befinden wir uns in einer Übergangsphase: Einige Regeln gelten bereits, andere treten stufenweise in Kraft.
Fristen
Seit 1. August 2024: Die Verordnung ist offiziell in Kraft.
Seit Februar 2025: Verbotene KI-Praktiken sind untersagt.
Ab 2026: Die Vorschriften für Hochrisiko-KI-Systeme gelten verbindlich.
Bis spätestens 2027: Weitere technische und organisatorische Anforderungen treten je nach Einzelfall in Kraft.
Pflichten
Pflichten ab 2026:
Risikobewertung und Risikomanagement: Vor Inbetriebnahme müssen Unternehmen eine gründliche Risikoanalyse durchführen.
Technische Dokumentation: Eine vollständige Dokumentation der KI-Systeme ist erforderlich.
Transparenzpflichten: Nutzer müssen transparent über den Einsatz von KI-Systemen informiert werden.
Meldepflichten: Vorfälle im Betrieb von Hochrisiko-KI-Systemen müssen gemeldet werden.
Laufende Überwachung: Systeme müssen regelmäßig auf ihre Funktionsweise und Sicherheit überprüft werden.
Einhaltung von Sicherheitsstandards: Hochrisiko-KI muss bestimmte Sicherheits- und Qualitätsanforderungen erfüllen.
Pflichten bis spätestens 2027:
Kontinuierliche Aktualisierung der Compliance: Unternehmen müssen sicherstellen, dass sie allen neuen technischen und organisatorischen Anforderungen gerecht werden.
Anpassungen an neue Standards: Je nach Entwicklung neuer Technologien und regulatorischer Anforderungen müssen Unternehmen ihre KI-Systeme anpassen.
Erfüllung von branchenspezifischen Anforderungen: Besondere Anforderungen, die je nach Sektor (z. B. Medizin, Finanzen, Bildung) festgelegt werden, müssen erfüllt werden.
Fördermöglichkeiten für Unternehmen
Die Deutsche Stadtmarketing GmbH unterstützt kleine und mittlere Unternehmen (KMU) bei der Umsetzung der neuen EU-KI-Verordnung durch zwei attraktive Förderprogramme:
BAFA-Förderung
Das Bundesamt für Wirtschaft und Ausfuhrkontrolle (BAFA) bezuschusst Beratungsleistungen, die Unternehmen bei der Einführung und Anwendung von Künstlicher Intelligenz unterstützen.
Förderhöhe: Bis zu 3.500 € Beratungskosten pro Projekt sind förderfähig.
Zuschusssatz: Je nach Standort des Unternehmens:
50 % (max. 1.750 €) für alte Bundesländer, Berlin und Region Leipzig.
80 % (max. 2.800 €) für neue Bundesländer, Region Lüneburg und Region Trier.
- Anzahl der Beratungen: Maximal zwei geförderte Beratungen pro Jahr und insgesamt fünf bis zum 31. Dezember 2026.
INQA-Coaching
Das INQA-Coaching-Programm unterstützt KMU dabei, sich zukunftsfähig aufzustellen und eigenständig auf Veränderungsprozesse reagieren zu können. Es fokussiert auf personalpolitische und arbeitsorganisatorische Veränderungsbedarfe im Zusammenhang mit der digitalen Transformation.
Förderhöhe: Bis zu 80 % der Beratungskosten können übernommen werden.
Beratungsumfang: Maximal 12 Beratungstage mit einem Tagessatz von bis zu 1.200 € netto.
Förderzeitraum: Das Coaching muss innerhalb von sieben Monaten abgeschlossen sein.
Unsere Kompetenz: Fachwissen trifft Verantwortung
Als Deutsche Stadtmarketing GmbH vereinen wir technisches Know-how, regulatorisches Verständnis und praktische Erfahrung im Bereich Künstliche Intelligenz. Wir begleiten Unternehmen bei der Umsetzung der EU-KI-Verordnung – von der strategischen Planung bis zur operativen Umsetzung.
Philipp Kant
Masterabschluss in Informatik an der RWTH Aachen.
Spezialisiert auf den praktischen Einsatz von Künstlicher Intelligenz. Seine Masterarbeit befasste sich mit der Entwicklung KI-basierter Entscheidungssysteme.
Elvis Binder
Langjährige Erfahrung in der Vermittlung komplexer KI-Themen an Unternehmen und Organisationen.
Lesen Sie mehr über Künstliche Intelligenz in diesem umfassenden Fachbuch:
KI-Archiv: Die umfassende Einführung in die Künstliche Intelligenz von Elvis Binder
Matthias Kant
Berät Unternehmen bei der Risikoanalyse und der technischen Umsetzung von Hochrisiko-KI-Systemen.
Kontakt und Beratung
Sie möchten wissen, welche Anforderungen der AI Act für Ihr Unternehmen mit sich bringt? Oder benötigen Unterstützung bei der Bewertung Ihrer KI-Systeme, bei der Umsetzung technischer Vorgaben oder beim Zugang zu Fördermitteln?
Wir beraten Sie persönlich, praxisnah und kompetent.