EU AI Act im Mittelstand: Pflichten, Fristen, erste Schritte

1. Einleitung

Künstliche Intelligenz ist in vielen mittelständischen Unternehmen bereits Teil des Arbeitsalltags. Mitarbeitende formulieren Texte mit generativer KI, nutzen KI-Funktionen in Office- und CRM-Systemen, analysieren Daten oder lassen Software Bewerbungen, Anfragen und Dokumente vorsortieren. Genau hier wird der EU AI Act für den Mittelstand relevant: Entscheidend ist nicht nur, ob ein Unternehmen selbst KI entwickelt, sondern auch, wie es KI-Systeme beruflich einsetzt.

Seit dem 2. August 2026 gilt ein großer Teil der europäischen KI-Verordnung. Gleichzeitig wurden wichtige Fristen kurz zuvor durch den AI Omnibus geändert. Unternehmen sollten deshalb ältere Übersichten nicht ungeprüft übernehmen. Insbesondere bei KI-Kompetenz, Transparenzpflichten und Hochrisiko-Systemen hat sich die praktische Rechtslage konkretisiert.

Für die Umsetzung ist keine pauschale Verbotsliste für sämtliche KI-Nutzung erforderlich. Sinnvoller ist eine strukturierte Bestandsaufnahme: Welche Systeme werden eingesetzt, wofür werden sie verwendet, wer trägt Verantwortung und welche Pflichten ergeben sich aus dem konkreten Einsatzzweck? Bei rechtlichen Einzelfragen sollte zusätzlich fachkundiger Rechts- oder Datenschutzrat einbezogen werden.

2. Kurzantwort

Der EU AI Act betrifft auch mittelständische Unternehmen, wenn sie KI-Systeme einsetzen oder anbieten. Bereits relevant sind unter anderem verbotene KI-Praktiken, Maßnahmen zur Förderung von KI-Kompetenz und seit dem 2. August 2026 bestimmte Transparenzpflichten. Die strengeren Regeln für Hochrisiko-KI aus Anhang III gelten dagegen ab dem 2. Dezember 2027. Unternehmen sollten deshalb jetzt ihre KI-Nutzung erfassen, Rollen klären und konkrete Anwendungsfälle bewerten.

3. Was Sie dazu wissen sollten

Was ist der EU AI Act?

Der EU AI Act ist die Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz. Er verfolgt einen risikobasierten Ansatz und legt abhängig von der Art eines KI-Systems, seinem Einsatzzweck und der Rolle eines Unternehmens unterschiedliche Pflichten fest.

Der verbindliche Rechtstext kann über EUR-Lex in der konsolidierten Fassung eingesehen werden. Einen aktuellen Überblick zu Anwendung, Fristen und Hilfestellungen stellt außerdem die Europäische Kommission zum AI Act bereit.

Welche Risikostufen unterscheidet der AI Act?

Zur praktischen Erklärung wird der AI Act häufig in vier Risikostufen dargestellt: inakzeptables Risiko, hohes Risiko, Transparenzrisiken sowie minimales oder kein Risiko. Entscheidend ist jedoch immer die konkrete rechtliche Einordnung eines Systems und seines vorgesehenen Einsatzzwecks.

• Verbotene Praktiken: Bestimmte KI-Anwendungen, die erhebliche Risiken für Sicherheit oder Grundrechte erzeugen, sind untersagt.
• Hochrisiko-KI: Bestimmte KI-Systeme in sensiblen Bereichen unterliegen umfangreichen Anforderungen.
• Transparenzpflichtige KI: Bei bestimmten Systemen und KI-generierten Inhalten müssen Menschen über den KI-Einsatz oder die künstliche Erzeugung informiert werden.
• Minimales oder kein Risiko: Für zahlreiche alltägliche KI-Anwendungen sieht der AI Act keine speziellen produktbezogenen Pflichten vor. Andere Rechtsvorschriften können trotzdem gelten.

Welche AI-Act-Fristen gelten aktuell?

Der AI Act wird stufenweise angewendet. Die wichtigsten Termine für Unternehmen sind:

• Seit 2. Februar 2025: Erste verbotene KI-Praktiken und Artikel 4 zur KI-Kompetenz sind anwendbar.
• Seit 2. August 2025: Die Vorschriften für Anbieter von General-Purpose-AI-Modellen und verschiedene Governance-Regeln gelten.
• Seit 2. August 2026: Der überwiegende Teil des AI Act einschließlich der Transparenzpflichten nach Artikel 50 ist anwendbar.
• Ab 2. Dezember 2027: Die Anforderungen an Hochrisiko-KI-Systeme aus Anhang III gelten.
• Ab 2. August 2028: Die entsprechenden Anforderungen für Hochrisiko-KI-Systeme, die in regulierte Produkte nach Anhang I eingebettet sind, gelten.

Die späteren Hochrisiko-Fristen gehen auf die Änderung des AI Act durch die Verordnung (EU) 2026/1744 zurück. Der sogenannte AI Omnibus ist seit dem 27. Juli 2026 in Kraft.

Was bedeutet KI-Kompetenz nach Artikel 4?

Artikel 4 wurde durch den AI Omnibus geändert. Anbieter und Betreiber von KI-Systemen müssen Maßnahmen ergreifen, die die Entwicklung von KI-Kompetenz bei Mitarbeitenden und weiteren Personen unterstützen, die in ihrem Auftrag mit dem Betrieb oder der Nutzung der Systeme befasst sind.

Dabei sollen unter anderem technisches Wissen, Erfahrung, Ausbildung, der konkrete Nutzungskontext und die möglicherweise betroffenen Personen berücksichtigt werden. Die aktuelle Fassung verlangt ausdrücklich nicht, dass ein Unternehmen für jede einzelne Person ein bestimmtes fest definiertes Kompetenzniveau garantiert.

Eine gesetzlich vorgeschriebene Standardschulung mit einer bestimmten Dauer gibt es damit nicht. In der Praxis können rollenbezogene Schulungen, interne Regeln, Anwendungshinweise, Freigabeprozesse und regelmäßige Aktualisierungen geeignete Maßnahmen sein. Welche Maßnahmen angemessen sind, hängt vom konkreten KI-Einsatz ab.

Muss jedes Unternehmen seine Mitarbeitenden zu KI schulen?

Artikel 4 schreibt nicht pauschal einen bestimmten Kurs für sämtliche Beschäftigten vor. Unternehmen, die als Anbieter oder Betreiber von KI-Systemen handeln, müssen jedoch Maßnahmen zur Unterstützung der KI-Kompetenz der Personen treffen, die in ihrem Auftrag mit diesen Systemen arbeiten.

Ein Mitarbeiter im Marketing, der generative KI zur Texterstellung nutzt, benötigt dabei andere Kenntnisse als eine Personalabteilung, die ein KI-gestütztes Recruiting-System verwendet. Ein rollenspezifischer Ansatz ist deshalb sinnvoller als eine identische Schulung für alle.

Welche Transparenzpflichten gelten seit August 2026?

Artikel 50 enthält verschiedene Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme. Diese Pflichten gelten seit dem 2. August 2026. Beispielsweise müssen Menschen in bestimmten Fällen darüber informiert werden, dass sie mit einem KI-System interagieren, wenn dies nicht bereits offensichtlich ist.

Darüber hinaus bestehen Anforderungen zur maschinenlesbaren Kennzeichnung bestimmter künstlich erzeugter oder manipulierter Inhalte. Für Deepfakes und bestimmte KI-generierte oder manipulierte Texte zu Angelegenheiten von öffentlichem Interesse gelten zusätzliche Offenlegungspflichten und Ausnahmen.

Ein pauschaler Hinweis im Impressum oder in der Datenschutzerklärung ersetzt diese anwendungsbezogenen Transparenzpflichten nicht automatisch. Unternehmen sollten für jeden konkreten KI-Anwendungsfall prüfen, welche Information wann und gegenüber wem erforderlich ist.

Wann wird KI im Recruiting zum Hochrisiko-System?

Anhang III des AI Act nennt bestimmte KI-Systeme aus den Bereichen Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit als Hochrisiko-Anwendungen. Dazu können beispielsweise Systeme gehören, die Bewerbungen analysieren oder filtern oder Kandidaten bewerten.

Nicht jede Software, die in einer Personalabteilung irgendeine KI-Funktion enthält, ist deshalb automatisch Hochrisiko-KI. Maßgeblich sind Funktion, Verwendungszweck und die gesetzlichen Klassifizierungskriterien. Für eine verbindliche rechtliche Einordnung sollten Unternehmen den konkreten Anwendungsfall prüfen lassen.

Was ist der Unterschied zwischen Anbieter und Betreiber?

Diese Unterscheidung ist für mittelständische Unternehmen wesentlich. Ein Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter seinem eigenen Namen oder seiner eigenen Marke in Verkehr beziehungsweise nimmt es entsprechend in Betrieb. Ein Betreiber nutzt ein KI-System unter eigener Verantwortung, soweit es sich nicht um eine rein persönliche, nicht berufliche Nutzung handelt.

Ein Unternehmen, das eine fertige KI-Anwendung für seine eigenen Geschäftsprozesse nutzt, ist deshalb häufig Betreiber und nicht Anbieter. Die konkreten Pflichten unterscheiden sich je nach Rolle.

Wer muss bei Hochrisiko-KI eine Konformitätsbewertung durchführen?

Die Rollen dürfen auch hier nicht vermischt werden. Die Anforderungen an Anbieter von Hochrisiko-KI umfassen unter anderem Risikomanagement, technische Dokumentation, Qualitätsmanagement und gegebenenfalls Konformitätsbewertungsverfahren. Betreiber haben eigene Pflichten, beispielsweise zur Nutzung entsprechend der Gebrauchsanweisung, menschlicher Aufsicht und Überwachung des Betriebs.

Ein mittelständisches Unternehmen, das eine Hochrisiko-Anwendung lediglich einsetzt, übernimmt deshalb nicht automatisch sämtliche Hersteller- oder Anbieterpflichten. Änderungen am System, eine Nutzung unter eigenem Namen oder andere Konstellationen können die Rollenverteilung jedoch verändern.

Welche Bußgelder sind nach dem EU AI Act möglich?

Der AI Act sieht je nach Art des Verstoßes unterschiedliche Höchstgrenzen vor. Besonders hohe Grenzen gelten für Verstöße gegen verbotene KI-Praktiken: Hier können grundsätzlich Geldbußen bis zu 35 Millionen Euro oder bei Unternehmen bis zu sieben Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vorgesehen sein.

Diese Höchstgrenze gilt nicht pauschal für jeden Verstoß gegen den AI Act. Für andere Pflichtverletzungen gelten andere Grenzen. Bei kleinen und mittleren Unternehmen enthält Artikel 99 außerdem besondere Regelungen zur Berechnung der jeweiligen Obergrenze. Welche Sanktion im konkreten Fall möglich wäre, ist eine rechtliche Einzelfallfrage.

4. Schritt für Schritt

1. KI-Inventur erstellen: Erfassen Sie alle KI-Systeme und KI-Funktionen, die in Fachabteilungen, Standardsoftware, Cloud-Diensten und individuell beschafften Anwendungen eingesetzt werden.
2. Einsatzzweck dokumentieren: Notieren Sie nicht nur den Produktnamen, sondern wofür das System tatsächlich verwendet wird und welche Entscheidungen oder Prozesse es beeinflusst.
3. Rolle bestimmen: Prüfen Sie, ob Ihr Unternehmen für den jeweiligen Anwendungsfall Anbieter, Betreiber, Importeur, Händler oder eine andere im AI Act definierte Rolle einnimmt.
4. Verbotene Anwendungen ausschließen: Prüfen Sie frühzeitig, ob ein Anwendungsfall unter eine der verbotenen KI-Praktiken fällt.
5. Transparenzpflichten prüfen: Bewerten Sie bei Chatbots, Sprachsystemen, generierten Medien und veröffentlichten KI-Inhalten, welche Hinweise nach Artikel 50 erforderlich sind.
6. Potenzielle Hochrisiko-Fälle markieren: Prüfen Sie besonders KI in Recruiting, Personalsteuerung, Kreditwürdigkeitsbewertung, kritischer Infrastruktur oder anderen in Anhang III genannten Bereichen.
7. KI-Kompetenz fördern: Legen Sie rollenbezogene Maßnahmen für Personen fest, die KI-Systeme einsetzen, bedienen oder deren Ergebnisse bewerten.
8. Verantwortlichkeiten definieren: Bestimmen Sie, wer über neue KI-Anwendungen entscheidet und wer IT-Sicherheit, Datenschutz, Fachlichkeit und Compliance einbezieht.
9. Interne Regeln festlegen: Definieren Sie unter anderem zulässige Anwendungen, den Umgang mit vertraulichen Daten, menschliche Kontrolle und den Umgang mit fehlerhaften KI-Ergebnissen.
10. Regelmäßig aktualisieren: Überprüfen Sie Inventar, Klassifizierung, Schulungsmaßnahmen und Vorgaben, wenn neue KI-Funktionen eingeführt oder regulatorische Hilfestellungen aktualisiert werden.

5. Checkliste

• Ist dokumentiert, welche KI-Systeme und KI-Funktionen im Unternehmen tatsächlich genutzt werden?
• Ist für jedes System der konkrete geschäftliche Einsatzzweck festgehalten?
• Ist geklärt, welche Rolle das Unternehmen nach dem AI Act beim jeweiligen System einnimmt?
• Wurde geprüft, ob verbotene KI-Praktiken betroffen sein könnten?
• Wurden mögliche Hochrisiko-Anwendungen gesondert gekennzeichnet und geprüft?
• Sind die seit dem 2. August 2026 geltenden Transparenzpflichten für relevante Systeme umgesetzt?
• Existieren angemessene Maßnahmen zur Förderung der KI-Kompetenz betroffener Mitarbeitender?
• Sind Regeln für vertrauliche, personenbezogene und geschäftskritische Daten bei der KI-Nutzung festgelegt?
• Sind Verantwortliche für Freigabe, Sicherheit, Datenschutz und fachliche Kontrolle von KI-Anwendungen benannt?
• Gibt es einen Prozess, mit dem neue KI-Funktionen und geänderte regulatorische Anforderungen regelmäßig bewertet werden?

6. Häufige Fehler

Fehler 1: Nur offiziell beschaffte KI-Systeme werden erfasst

Problem: Mitarbeitende können generative KI oder KI-Funktionen in vorhandener Software nutzen, ohne dass diese zentral als KI-Projekt bekannt sind. Besser: Erfassen Sie auch integrierte KI-Funktionen, Testzugänge und nicht zentral eingeführte Anwendungen.

Fehler 2: Jedes KI-System wird pauschal einer Risikoklasse zugeordnet

Problem: Für die rechtliche Einordnung ist nicht nur die eingesetzte Technologie entscheidend, sondern insbesondere der vorgesehene Einsatzzweck. Besser: Bewerten Sie konkrete Anwendungsfälle und nicht ausschließlich Produktnamen.

Fehler 3: Anbieter- und Betreiberpflichten werden vermischt

Problem: Dadurch werden beispielsweise Konformitätsanforderungen des Anbieters vorschnell auf jedes nutzende Unternehmen übertragen. Besser: Bestimmen Sie zuerst die eigene Rolle und leiten Sie anschließend die relevanten Pflichten ab.

Fehler 4: KI-Kompetenz wird mit einer einmaligen Standardschulung gleichgesetzt

Problem: Ein identischer Basiskurs berücksichtigt nicht automatisch den konkreten Nutzungskontext und die unterschiedlichen Risiken einzelner Fachbereiche. Besser: Kombinieren Sie Grundlagen mit rollen- und anwendungsbezogenen Maßnahmen.

Fehler 5: Ein Hinweis in der Datenschutzerklärung soll sämtliche Transparenzpflichten erfüllen

Problem: Artikel 50 enthält anwendungsbezogene Pflichten, die teilweise unmittelbar bei einer Interaktion oder bei bestimmten KI-generierten Inhalten relevant sind. Besser: Prüfen Sie jeden Anwendungsfall und platzieren Sie erforderliche Hinweise dort, wo die betreffende Person sie tatsächlich benötigt.

Fehler 6: Die verschobenen Hochrisiko-Fristen führen zum Aufschub aller Vorbereitungen

Problem: Die Fristverschiebung betrifft nicht sämtliche Pflichten des AI Act. Andere Vorschriften gelten bereits. Besser: Nutzen Sie die zusätzliche Zeit für Inventarisierung, Rollenklärung, technische Kontrollen und die Prüfung potenzieller Hochrisiko-Anwendungen.

7. Praxisbeispiel

Beispielhafte Situation: Ein mittelständisches Unternehmen nutzt generative KI für Marketingtexte, eine KI-Funktion im CRM und eine neue Recruiting-Software mit automatisierter Bewerberanalyse. Zunächst werden alle drei Anwendungen in einer zentralen KI-Inventur dokumentiert. Anschließend wird festgehalten, welche Daten verarbeitet werden, wer die Systeme nutzt und welchen Einfluss die Ergebnisse auf Entscheidungen haben. Bei der Marketing-KI liegt der Schwerpunkt auf internen Nutzungsregeln, Datenvertraulichkeit und KI-Kompetenz der Mitarbeitenden. Beim CRM wird geprüft, welche KI-Funktionen tatsächlich aktiv sind und ob Kunden unmittelbar mit einem KI-System interagieren. Die Recruiting-Anwendung wird wegen ihres Einsatzzwecks gesondert auf eine mögliche Einordnung als Hochrisiko-System geprüft. Gleichzeitig legt das Unternehmen fest, dass Bewerbungsentscheidungen nicht ungeprüft aus KI-Bewertungen übernommen werden. Statt einer allgemeinen KI-Richtlinie ohne Bezug zur Praxis entsteht so eine dokumentierte Übersicht mit unterschiedlichen Maßnahmen für unterschiedliche Anwendungsfälle.

9. Fazit

Der EU AI Act ist für den Mittelstand seit August 2026 deutlich konkreter geworden. Gleichzeitig hat der AI Omnibus zusätzliche Vorbereitungszeit für Hochrisiko-Systeme geschaffen und die Vorgaben zur KI-Kompetenz angepasst. Unternehmen sollten deshalb weder sämtliche KI-Nutzung als Hochrisiko behandeln noch die verschobenen Fristen als Anlass verstehen, die Vorbereitung aufzuschieben.

Eine belastbare Grundlage entsteht durch eine aktuelle KI-Inventur, klare Verantwortlichkeiten, anwendungsbezogene Regeln und angemessene Maßnahmen zur KI-Kompetenz. Wenn Sie Ihre KI-Nutzung inventarisieren, Verantwortlichkeiten klären und Mitarbeitende praxisnah für den sicheren KI-Einsatz qualifizieren möchten, sprechen Sie optimIT unter info@optimit.de an.