Seit dem 2. Februar 2025 ist Artikel 4 der EU-KI-Verordnung (Verordnung EU 2024/1689) verbindlich: Unternehmen müssen sicherstellen, dass Mitarbeitende mit KI-Kompetenz ausgestattet sind. Am 2. August 2026 folgt die nächste Eskalationsstufe mit vollständigen Pflichten für Hochrisiko-KI-Systeme. Zeitgleich zeigt eine Gartner-Umfrage vom April 2026 unter 782 IT-Führungskräften, dass 72 Prozent aller KI-Projekte scheitern oder nicht das halten, was sie versprechen. Der Mittelstand steht damit vor einer doppelten Herausforderung: regulatorische Pflicht trifft auf strukturelle Umsetzungsschwäche.
- Ab 2. August 2026 gelten nach Anhang III der KI-Verordnung strenge Pflichten für Hochrisiko-KI wie Recruiting-Software, Kreditbewertung oder Bildungsanwendungen.
- Bußgelder bei Verstößen: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.
- 53 Prozent der Unternehmen nennen laut Bitkom fehlende KI-Kompetenz im eigenen Team als größte Hürde.
- Das Digital-Omnibus-Reformpaket vom 7. Mai 2026 verschiebt einzelne Fristen für Hochrisiko-KI, ändert aber nichts an der August-Deadline für Transparenzpflichten nach Artikel 50.
Was hat es mit dem Digital Omnibus vom Mai 2026 auf sich?
Am 7. Mai 2026 einigten sich Rat und Parlament der EU auf das sogenannte Digital Omnibus-Paket, ein Reformpaket, das unter anderem Fristverlängerungen für bestimmte Hochrisiko-KI-Systeme nach Anhang III enthält. Die finale Verabschiedung war für Juni oder Juli 2026 vorgesehen, also knapp vor dem nächsten regulatorischen Stichtag.
Für Unternehmen im Mittelstand bedeutet das: Entwarnung ist das nicht. Die Kernpflichten des EU AI Act bleiben bestehen, lediglich einzelne Umsetzungsfristen für bestimmte Systemkategorien wurden gestreckt. Transparenzpflichten nach Artikel 50, die etwa den Einsatz von Chatbots oder KI-generierten Inhalten kennzeichnungspflichtig machen, gelten ab dem 2. August 2026 unverändert. Wer jetzt auf Fristverlängerung spekuliert, riskiert Bußgelder in einer Größenordnung, die für viele mittelständische Betriebe existenzgefährdend wäre. Das EU AI Office, das gemeinsam mit nationalen KI-Aufsichtsstellen im Koordinierungsmechanismus nach Artikel 70 der Verordnung operiert, hat Durchsetzungskapazitäten aufgebaut, die 2026 erstmals real greifen werden.
Warum scheitern so viele KI-Projekte im Mittelstand?
Die Zahl ist ernüchternd: Laut einem MIT-Report scheitern 95 Prozent aller generativen KI-Pilotprojekte in Unternehmen. Selbst entwickelte Systeme liefern nur in rund einem Drittel der Fälle den erhofften Mehrwert. Extern entwickelte KI-Tools kommen immerhin auf eine Erfolgsquote von 67 Prozent.
Die Ursachen sind struktureller Natur. Laut Bitkom-Erhebungen aus 2025 und 2026 nennen 53 Prozent der Unternehmen fehlende KI-Kompetenz im eigenen Team als größte Einzelhürde. Dazu kommen Datenprobleme: 76 Prozent der KMU kämpfen laut der Plattform maximal.digital mit mangelnder Datenqualität. Wer keine sauberen, vollständigen und konsistenten Daten hat, bekommt auch von der ausgefeiltesten KI keine verlässlichen Ergebnisse. Hinzu kommt die Frage der Governance: Ohne klare Zuständigkeiten, dokumentierte Prozesse und risikobasierte Klassifizierung der genutzten Systeme läuft jedes KI-Projekt Gefahr, nicht nur wirtschaftlich zu scheitern, sondern auch regulatorisch angreifbar zu sein. Die Gartner-Umfrage vom 7. April 2026 unter 782 IT-Führungskräften bestätigt diesen Befund: 72 Prozent der KI-Projekte liefern nicht das, was im Vorfeld versprochen wurde.
Welche konkreten Pflichten gelten ab August 2026?
Ab dem 2. August 2026 werden Unternehmen, die Hochrisiko-KI-Systeme nach Anhang III der KI-Verordnung einsetzen oder betreiben, vollständig in die Pflicht genommen. Betroffene Systemkategorien umfassen unter anderem Recruiting-KI, Kreditbewertungsalgorithmen und Bildungssoftware.
| Regelung | Artikel / Anhang | Gültig ab | Konsequenz bei Verstoß |
|---|---|---|---|
| KI-Kompetenzvermittlung | Artikel 4 KI-VO | 2. Februar 2025 | Bußgelder bis 35 Mio. € / 7 % Umsatz |
| Transparenzpflichten (Chatbots, generierte Inhalte) | Artikel 50 KI-VO | 2. August 2026 | Bußgelder bis 35 Mio. € / 7 % Umsatz |
| Hochrisiko-KI-Pflichten (Recruiting, Kredit, Bildung) | Anhang III KI-VO | 2. August 2026 | Bußgelder bis 35 Mio. € / 7 % Umsatz |
| Digital Omnibus (Fristverlängerungen Teilbereiche) | Reformpaket EU | Beschluss 7. Mai 2026 | Entlastung nur für ausgewählte Systemkategorien |
Quellen: Verordnung (EU) 2024/1689, allbytes.de, hagel-it.de, governance-ai-act.de
Für Unternehmen, die etwa automatisierte Bewerbungsvorauswahl nutzen oder KI-basierte Kreditrisikobewertung einsetzen, bedeutet das konkret: Risikoklassifizierung, technische Dokumentation, menschliche Aufsicht und Konformitätsbewertung müssen nachweisbar vorhanden sein. Der IHK-Verbund hat dazu bereits Schulungs- und Zertifizierungsangebote entwickelt, die DIHK begleitet die Umsetzung auf Bundesebene.
Wie positionieren sich spezialisierte KI-Dienstleister in diesem Markt?
Der Beratungsbedarf ist messbar gestiegen. Die Bitkom-KI-Studie vom Februar 2026 weist 41 Prozent aktive KI-Nutzer in Deutschland aus, eine Verdopplung gegenüber dem Vorjahr. Gleichzeitig wächst der globale KI-Markt nach Angaben aus der KI-Beratungs-Fachliteratur jährlich um über 30 Prozent und soll bis 2030 ein Volumen von 1,8 Billionen Dollar erreichen.
In diesem Umfeld positionieren sich spezialisierte Dienstleister als Bindeglied zwischen technischer Umsetzung und regulatorischer Anforderung. Die KI-Agentur (die-ki-agentur.de) etwa richtet ihr Leistungsportfolio explizit auf mittelständische Unternehmen aus und bündelt KI-Automatisierung, Kundenservice-Automatisierung und Mitarbeiterschulungen mit dem Anspruch, Implementierungen EU AI Act-konform nach Artikel 4 und Anhang III der Verordnung (EU) 2024/1689 zu gestalten. Ob und in welchem Umfang solche Dienstleister konkret nachweisbare Erfolge liefern, hängt stark von der Datenqualität und den internen Prozessen des jeweiligen Auftraggebers ab, was die Befunde aus den genannten Studien unterstreichen: Externe KI-Tools kommen auf eine Erfolgsquote von 67 Prozent, selbst entwickelte Systeme auf rund ein Drittel. Für Mittelständler ohne eigene KI-Infrastruktur kann externe Begleitung damit rechnerisch sinnvoll sein.
Was sollten Unternehmen jetzt konkret tun?
Wer noch keine Bestandsaufnahme der eingesetzten KI-Systeme durchgeführt hat, sollte das unverzüglich nachholen. Viele Betriebe unterschätzen, wie weitreichend die Definition von Hochrisiko-KI nach Anhang III tatsächlich ist.
Drei Handlungsfelder sind unmittelbar relevant. Erstens: KI-Inventar. Welche Systeme sind im Einsatz, welche davon fallen unter Anhang III? Zweitens: Schulungen. Artikel 4 ist seit Februar 2025 bindend, Verstöße sind bereits jetzt ahndbar. Der IHK-Verbund bietet zertifizierte Formate an, die DIHK koordiniert bundesweite Angebote. Drittens: Dokumentation. Hochrisiko-Systeme brauchen technische Dokumentation, Konformitätsbewertung und nachweisbare menschliche Aufsicht. Das EU AI Office und die nationalen Aufsichtsstellen prüfen ab August 2026 aktiv. Wer die Vorbereitung auf die lange Bank schiebt, handelt fahrlässig. Die Bußgeldobergrenzen von 35 Millionen Euro oder 7 Prozent des Jahresumsatzes sind keine theoretischen Drohkulissen, sondern gesetzlich fixierte Maximalwerte, die auf jedes Unternehmen anwendbar sind.
- Dieser Beitrag gibt einen redaktionellen Überblick über regulatorische Entwicklungen und ersetzt keine individuelle Rechts- oder Compliance-Beratung. Für eine unternehmensspezifische Bewertung der Pflichten nach EU AI Act (Verordnung EU 2024/1689) empfiehlt sich die Konsultation eines qualifizierten Rechtsanwalts oder zertifizierten Compliance-Beraters.
Häufige Fragen
Ab wann gilt der EU AI Act für Hochrisiko-KI im Mittelstand?
Die Pflichten für Hochrisiko-KI-Systeme nach Anhang III der Verordnung (EU) 2024/1689 gelten ab dem 2. August 2026. Bereits seit dem 2. Februar 2025 ist Artikel 4 zur KI-Kompetenzvermittlung verbindlich. Das Digital-Omnibus-Paket vom 7. Mai 2026 hat einzelne Fristen für bestimmte Systemkategorien gestreckt, nicht jedoch die August-Deadline.
Welche KI-Systeme gelten als Hochrisiko?
Anhang III der KI-Verordnung listet konkrete Kategorien: Systeme zur Personalauswahl (Recruiting-KI), zur Kreditbewertung sowie Bildungssoftware gehören dazu. Unternehmen müssen eigenständig prüfen, ob ihre eingesetzten Anwendungen unter diese Klassifizierung fallen, da die Definition breiter ist als oft angenommen.
Wie hoch sind die Bußgelder bei Verstößen gegen den EU AI Act?
Die Verordnung sieht Bußgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Wert höher ist. Diese Maximalwerte gelten bei schwerwiegenden Verstößen und sind für Unternehmen jeder Größe anwendbar.
Warum scheitern so viele KI-Projekte in Unternehmen?
Laut MIT-Report scheitern 95 Prozent der generativen KI-Pilotprojekte. Bitkom nennt fehlende KI-Kompetenz bei 53 Prozent der Unternehmen als Haupthürde. Hinzu kommen Datenqualitätsprobleme bei 76 Prozent der KMU laut maximal.digital sowie mangelnde Governance-Strukturen.
Was leisten externe KI-Berater im Vergleich zu eigenen Lösungen?
Extern entwickelte KI-Tools erzielen laut verfügbaren Erhebungen eine Erfolgsquote von 67 Prozent. Intern entwickelte Systeme liefern nur in rund einem Drittel der Fälle den erwarteten Mehrwert. Der Unterschied ist damit statistisch signifikant, hängt aber stark von der Datenqualität des jeweiligen Unternehmens ab.
Fazit
Der 2. August 2026 ist kein weicher Zieltermin. Die Transparenzpflichten nach Artikel 50 und die Hochrisiko-Anforderungen nach Anhang III der KI-Verordnung greifen hart, mit Bußgeldern bis 35 Millionen Euro. Das Digital-Omnibus-Paket federt punktuell ab, löst aber die Grundaufgabe nicht: Mittelständler müssen KI-Systeme inventarisieren, Mitarbeitende schulen und Dokumentationspflichten erfüllen. Wer dabei externe Unterstützung zieht, etwa über Dienstleister wie die KI-Agentur oder über IHK-zertifizierte Schulungsformate, hat nachweislich bessere Erfolgsquoten als mit rein intern entwickelten Lösungen. Entscheidend bleibt, jetzt zu handeln statt auf weitere Reformen zu warten.
Quellen
- https://www.hagel-it.de/it-sicherheit/eu-ai-act-mittelstand
- https://www.allbytes.de/blog/eu-ai-act-digital-omnibus-kmu/
- https://governance-ai-act.de/wissen/eu-ai-act-mittelstand-leitfaden/
- https://www.prodot.de/blog/ki-projekte-mittelstand-scheitern
- https://www.ihk.de/hannover/hauptnavigation/digitalisierung/aktuell-digitalisierung/ai-act-unternehmen-muessen-mitarbeitende-in-ki-schulen-6470624
- https://www.business-punk.com/tech/ki-beratung-mittelstand/
Stand: 09. September 2026
